Llama 3.1 405B
AI 모델
언어
이전 세대
The first open-weights model at closed-frontier scale.
현재 보고 계신 것은 AI 모델 레코드입니다: 누가 만들었는지, 무엇을 할 수 있는지, 그리고 이를 뒷받침하는 하드웨어와 데이터를 다룹니다.
Llama 3.1's 405B dense model (July 2024) was trained on 15.6 trillion tokens across ~16,000 H100s (~3.8×10²⁵ FLOP, disclosed) and matched GPT-4-class results — the moment open weights reached the frontier's neighborhood. Its disclosed training details made it the reference public datapoint for frontier training economics.
사양 및 주요 정보
각 수치에는 근거 유형이 표시됩니다: 벤더 사양, 벤더 주장, 보고된 값, 추정치, 또는 공식 발표. "공개되지 않음"은 그대로의 의미이며, 값을 임의로 만들어내는 일은 없습니다.
Overview
Training compute
~3.8×10²⁵ FLOP (from disclosed GPU-hours)Published paper
Training hardware
~16,000 × H100 (two 24k clusters built)Published paper
전체 스택에서의 연결 구조
이 레코드의 링크를 한눈에 확인하세요 — 그룹을 클릭하면 해당 위치로 이동합니다.
개발사
학습 데이터
기초 자료
후속 제품
이전 제품
경쟁 제품
출처
검토 기준일 2026-01-15 — 보기 방법론.