FlashAttention (2022)
연구 논문
시스템
The kernel trick that made long context affordable.
현재 보고 계신 것은 연구 논문 레코드입니다: 중요한 논문과 그것이 해당 분야에 도입한 내용을 다룹니다.
Tri Dao's FlashAttention reordered attention computation around GPU memory hierarchy — exact results, several times faster, memory linear instead of quadratic. Versions 2 and 3 chase each hardware generation; virtually every serious training and inference stack ships it. Systems research as leverage: one algorithm changed the economics of every cluster.
전체 스택에서의 연결 구조
이 레코드의 링크를 한눈에 확인하세요 — 그룹을 클릭하면 해당 위치로 이동합니다.
출처
검토 기준일 2026-01-15 — 보기 방법론.