Benchmarks | AI Infrastructure Database

Заметки с места событий

Бенчмарки — счётная доска этой индустрии, и их жизненный цикл всегда одинаков: появился, покорён, выведен из употребления. Интересный вопрос в каждой записи — не кто сейчас лидер, а как быстро тест прошёл путь от невозможного до насыщенного.

Начните с этих трёх

ML MLPerf Единственные проверенные сопоставимые цифры в аппаратном обеспечении ИИ. SB SWE-bench Verified Реальные задачи из GitHub Issues — мерило эпохи агентов программирования. AA ARC-AGI Создан, чтобы противостоять запоминанию; всё равно сломался. Потом пересобран с запасом прочности.

Hardware & systems benchmarks

ML MLPerf The industry's referee for AI hardware — training and inference rounds. TO TOP500 The supercomputer league table since 1993 — now measuring the public sector's slice.

Model capability benchmarks

SB SWE-bench Verified Real GitHub issues, real repos — the coding-agent standard. A( AIME (Competition Math) Olympiad-track problems — where reasoning models showed their jump. AA ARC-AGI Chollet's abstraction puzzles — designed to resist everything but intelligence. FR FrontierMath Research-grade mathematics — built unsolvable, already yielding. GD GPQA Diamond Google-proof PhD science questions — the reasoning era's exam. H& HumanEval & GSM8K The retired classics of coding and grade-school math. HL Humanity's Last Exam 2,500 expert questions with a deliberately final name. L( LMArena (Chatbot Arena) Millions of blind human votes — preference as a leaderboard. M& MMLU & MMLU-Pro The default knowledge exam of 2020–24 — now saturated. MT MTEB The embedding leaderboard behind every retrieval stack.