Llama 3.1 405B
The first open-weights model at closed-frontier scale.
U bekijkt een AI-modelrecord: wie het heeft gebouwd, wat het kan, en de hardware en data erachter.
Llama 3.1's 405B dense model (July 2024) was trained on 15.6 trillion tokens across ~16,000 H100s (~3.8×10²⁵ FLOP, disclosed) and matched GPT-4-class results — the moment open weights reached the frontier's neighborhood. Its disclosed training details made it the reference public datapoint for frontier training economics.
Specificaties & kernfeiten
Elk cijfer is voorzien van een bronvermelding: vendor spec, vendor claim, reported, estimate of official. "Not publicly disclosed" betekent precies dat — wij verzinnen nooit waarden.
Overview
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Ontwikkeld door
Getraind op
Basis voor
Opgevolgd door
Opvolger van
Concurreert met
Gerelateerd
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.