Synthetic Data & the Data Wall
概念
学習・推論
When the internet runs out, models train on model output.
これはコンセプト解説のレコードです。この用語をわかりやすく説明し、関連するレコードをまとめています。
Frontier labs have essentially consumed the high-quality public web — the 'data wall.' The response is synthetic data: stronger models generating curricula for the next generation (Phi's textbooks, reasoning traces for RL). Done carelessly it degrades models; done well it is now standard — and it shifts value from scraping toward licensed and generated corpora.
スタック全体とのつながり
このレコードのリンク一覧 — グループをクリックするとジャンプします。
出典
レコードのレビュー時点: 2026-01-15 — 表示 調査手法.