Saha notları
Modeller ne yerlerse odur; bu da menü. Dikkat edilmesi gereken örüntü şu: web'in ücretsiz metni özünde tüketildi; bu yüzden buradaki en yeni kayıtlar veri toplama değil, küratörlük ve sentez üzerine.
Bu üçle başlayın
CC
Common Crawl
Küçücük, kâr amacı gütmeyen bir kuruluşun web arşivi — ve yapay zeka devrimini kazara besledi.
F&
FineWeb & FineWeb-Edu
Açık dünyanın sanat durumu — 15 trilyon token, tarif dahil.
L5
LAION-5B
Açık görüntü üretiminin arkasındaki veri kümesi — ve ibret verici hikâyesi.
Training datasets & corpora
7
CC
Common Crawl
The nonprofit web archive nearly every LLM ate first.
C4
C4
Google's cleaned Common Crawl — the reproducible baseline.
F&
FineWeb & FineWeb-Edu
Hugging Face's 15-trillion-token state of the art in open pre-training data.
IM
ImageNet
The 14-million-image labeled dataset that started the deep-learning era.
L5
LAION-5B
5.85 billion image-text pairs — the fuel of open image generation, and its scandal.
RE
RedPajama
The open reproduction of Llama's training mix.
TP
The Pile
EleutherAI's 825 GB of curated diversity — open-source pre-training's foundation.