Inicio › Artículos de investigación › FlashAttention (2022)
FlashAttention (2022)
Artículo de investigación
Sistemas
The kernel trick that made long context affordable.
Estás viendo un registro de artículo de investigación: un paper de referencia y qué aportó al campo.
Tri Dao's FlashAttention reordered attention computation around GPU memory hierarchy — exact results, several times faster, memory linear instead of quadratic. Versions 2 and 3 chase each hardware generation; virtually every serious training and inference stack ships it. Systems research as leverage: one algorithm changed the economics of every cluster.
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Relacionado
Fuentes
Registro revisado a fecha de 2026-01-15 — ver Metodología.