DeepSeek-V3

AI-модель Язык Предыдущее поколение

671B parameters, $5.6M disclosed final-run cost — the efficiency shock.

Перед вами запись об AI-модели: кто её создал, на что она способна, какое оборудование и данные за ней стоят.

DeepSeek-V3 (December 2024) is a 671B-parameter MoE activating 37B per token, trained on 14.8T tokens across 2,048 H800 GPUs with a disclosed final training-run cost of about $5.576M (excluding research and prior runs — a caveat often dropped in retellings). Multi-head latent attention, FP8 training and multi-token prediction made it the most-studied efficiency result in the field; weights are open. V3.1 (August 2025) added hybrid thinking; V3.2-Exp cut long-context costs with sparse attention.

Характеристики и ключевые факты

Каждый показатель подписан по основанию: спецификация вендора, заявление вендора, из отчётности, оценка или официальные данные. «Не раскрыто публично» означает именно это — мы никогда не придумываем значения.

Overview

Training 14.8T tokens · 2,048 × H800 · ~2.79M GPU-hours (disclosed)Published paper

Disclosed cost $5.576M final run only — excludes research, ablations, data and hardwarePublished paper

Место в общей экосистеме

Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.

Разработан

DeepSeek

Обучена на

NVIDIA H800

На основе

Mixture of Experts (MoE)

Основа для

DeepSeek-R1 DeepSeek-V4

Заменён на

DeepSeek-V4

Конкурирует с

Llama 4 Kimi K2

Связанные

DeepSeek-R1

Источники

DeepSeek-V3 technical report ↗

Запись актуальна на 2026-08-31 — смотреть Методология.