Synthetic Data & the Data Wall
Conceito
Treinamento & Inferência
When the internet runs out, models train on model output.
Está a ver um explicador de conceito: o que este termo significa em linguagem acessível, e os registos que relaciona.
Frontier labs have essentially consumed the high-quality public web — the 'data wall.' The response is synthetic data: stronger models generating curricula for the next generation (Phi's textbooks, reasoning traces for RL). Done carelessly it degrades models; done well it is now standard — and it shifts value from scraping toward licensed and generated corpora.
Como este elemento se liga ao resto da stack
As ligações deste registo num relance — clique num grupo para ir diretamente até ele.
Relacionados
Fontes
Registro revisado em 2026-01-15 — ver Metodologia.