Synthetic Data & the Data Wall
When the internet runs out, models train on model output.
Estás viendo un explicador de concepto: qué significa este término en lenguaje claro, y los registros que conecta.
Frontier labs have essentially consumed the high-quality public web — the 'data wall.' The response is synthetic data: stronger models generating curricula for the next generation (Phi's textbooks, reasoning traces for RL). Done carelessly it degrades models; done well it is now standard — and it shifts value from scraping toward licensed and generated corpora.
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Relacionado
Fuentes
Registro revisado a fecha de 2026-01-15 — ver Metodología.