Attention Is All You Need (2017)
The eight Google authors who invented the transformer.
Vous consultez une fiche article de recherche : un article de référence et ce qu'il a apporté au domaine.
Vaswani, Shazeer, Parmar, Uszkoreit, Jones, Gomez, Kaiser and Polosukhin replaced recurrence entirely with self-attention, making sequence models parallelizable — and therefore scalable on GPUs. Cited hundreds of thousands of times, it is the single most consequential paper in this database: GPT, Claude, Gemini, Llama and nearly everything else instantiate it. All eight authors left Google, mostly to found companies (Cohere, Character.AI, Adept, Essential AI, Sakana).
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Rédigé par
Introduit en
Base pour
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.