FlashAttention (2022)
研究論文
システム
The kernel trick that made long context affordable.
これは論文のレコードです。重要な研究論文と、それが分野にもたらした貢献を紹介します。
Tri Dao's FlashAttention reordered attention computation around GPU memory hierarchy — exact results, several times faster, memory linear instead of quadratic. Versions 2 and 3 chase each hardware generation; virtually every serious training and inference stack ships it. Systems research as leverage: one algorithm changed the economics of every cluster.
スタック全体とのつながり
このレコードのリンク一覧 — グループをクリックするとジャンプします。
出典
レコードのレビュー時点： 2026-01-15 — 表示 調査手法.