Attention Is All You Need (2017)
The eight Google authors who invented the transformer.
U bekijkt een onderzoeksartikelrecord: een invloedrijk artikel en wat het aan het vakgebied heeft toegevoegd.
Vaswani, Shazeer, Parmar, Uszkoreit, Jones, Gomez, Kaiser and Polosukhin replaced recurrence entirely with self-attention, making sequence models parallelizable — and therefore scalable on GPUs. Cited hundreds of thousands of times, it is the single most consequential paper in this database: GPT, Claude, Gemini, Llama and nearly everything else instantiate it. All eight authors left Google, mostly to found companies (Cohere, Character.AI, Adept, Essential AI, Sakana).
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Geschreven door
Geïntroduceerd in
Basis voor
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.