HumanEval & GSM8K
The retired classics of coding and grade-school math.
Está a ver um registo de benchmark: um teste que a indústria usa para avaliar chips ou modelos — e o que ele realmente indica.
HumanEval (164 Python functions) and GSM8K (grade-school word problems) measured the 2021–24 climb from barely-working to near-perfect, then saturated — their history is the cleanest record of how fast base capability moved. Successors: LiveCodeBench, SWE-bench, AIME.
Como este elemento se liga ao resto da stack
As ligações deste registo num relance — clique num grupo para ir diretamente até ele.
Relacionados
Fontes
Registro revisado em 2026-01-15 — ver Metodologia.