Llama 3.1 405B
The first open-weights model at closed-frontier scale.
Bạn đang xem hồ sơ mô hình AI: ai xây dựng, nó có thể làm gì, và phần cứng cũng như dữ liệu đằng sau nó.
Llama 3.1's 405B dense model (July 2024) was trained on 15.6 trillion tokens across ~16,000 H100s (~3.8×10²⁵ FLOP, disclosed) and matched GPT-4-class results — the moment open weights reached the frontier's neighborhood. Its disclosed training details made it the reference public datapoint for frontier training economics.
Thông số kỹ thuật & dữ liệu chính
Mỗi số liệu được gán nhãn theo cơ sở: thông số kỹ thuật từ nhà cung cấp, tuyên bố từ nhà cung cấp, đã được báo cáo, ước tính, hoặc chính thức. "Không được công bố công khai" có nghĩa đúng như vậy — chúng tôi không bao giờ bịa đặt số liệu.
Overview
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Phát triển bởi
Được huấn luyện trên
Cơ sở cho
Được kế nhiệm bởi
Kế nhiệm
Cạnh tranh với
Liên quan
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.