DeepSeek-V3

Model AI Bahasa Generasi sebelumnya

671B parameters, $5.6M disclosed final-run cost — the efficiency shock.

Anda sedang melihat entri model AI: siapa yang membangunnya, apa yang dapat dilakukannya, serta perangkat keras dan data di baliknya.

DeepSeek-V3 (December 2024) is a 671B-parameter MoE activating 37B per token, trained on 14.8T tokens across 2,048 H800 GPUs with a disclosed final training-run cost of about $5.576M (excluding research and prior runs — a caveat often dropped in retellings). Multi-head latent attention, FP8 training and multi-token prediction made it the most-studied efficiency result in the field; weights are open. V3.1 (August 2025) added hybrid thinking; V3.2-Exp cut long-context costs with sparse attention.

Spesifikasi & fakta utama

Setiap angka diberi label berdasarkan sumbernya: spesifikasi vendor, klaim vendor, dilaporkan, estimasi, atau resmi. "Tidak diungkapkan secara publik" berarti tepat seperti itu — kami tidak pernah mengarang nilai.

Overview

Training 14.8T tokens · 2,048 × H800 · ~2.79M GPU-hours (disclosed)Published paper

Disclosed cost $5.576M final run only — excludes research, ablations, data and hardwarePublished paper

Bagaimana ini terhubung ke bagian lain dari stack

Tautan catatan ini sekilas — klik grup untuk langsung menuju ke sana.

Dikembangkan oleh

DeepSeek

Dilatih pada

NVIDIA H800

Berdasarkan

Mixture of Experts (MoE)

Dasar untuk

DeepSeek-R1 DeepSeek-V4

Digantikan oleh

DeepSeek-V4

Bersaing dengan

Llama 4 Kimi K2

Terkait

DeepSeek-R1

Sumber

DeepSeek-V3 technical report ↗

Rekaman ditinjau per 2026-08-31 — lihat Metodologi.