Attention Is All You Need (2017)
The eight Google authors who invented the transformer.
Перед вами запись об исследовательской статье — знаковой работе и том, что она привнесла в область.
Vaswani, Shazeer, Parmar, Uszkoreit, Jones, Gomez, Kaiser and Polosukhin replaced recurrence entirely with self-attention, making sequence models parallelizable — and therefore scalable on GPUs. Cited hundreds of thousands of times, it is the single most consequential paper in this database: GPT, Claude, Gemini, Llama and nearly everything else instantiate it. All eight authors left Google, mostly to found companies (Cohere, Character.AI, Adept, Essential AI, Sakana).
Место в общей экосистеме
Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.
Авторство
Представлено в
Основа для
Источники
Запись актуальна на 2026-01-15 — смотреть Методология.