★
Menu
Accueil Comment c'est construit Watchlist La pile
Matériel PucesComparer les puces Serveurs & systèmesRéseau MémoireFonderies & Packaging Refroidissement
Infrastructures Data centersAlimentation ProjetsCloud et calcul GPU
Intelligence Modèles IALogiciels Produits IABenchmarks Articles de rechercheJeux de données Concepts
Écosystème EntreprisesActions PersonnesChronologie TendancesAvenir de l'IA
Formation Actualités Interroger les données Agents IA
À propos À propos de nous Méthodologie Données & API Avertissement
Options
DONNÉES & API

Accès JSON gratuit en lecture seule aux données en cache du site.
Mode sombre

Vue guidée
Nouveau dans l'univers des puces, des data centers et du jargon des modèles ? Nous expliquons les termes clés au fil de votre navigation, en langage clair. Les mêmes données, avec l'aide intégrée.

Vue expert
Vous connaissez déjà le sujet. Juste les données : claires, rapides et concises, sans explications superflues. Il s'agit de la vue par défaut.

Langue de l'interface
‹ Retour
Notes de terrain

Les modèles sont ce qu'ils ingèrent, et voici le menu. La tendance à noter : le texte libre du web a essentiellement été consommé, ce qui explique pourquoi les fiches les plus récentes ici portent sur la curation et la synthèse, et non sur le scraping.

Commencez par ces trois-là

CC Common Crawl La petite archive web d'une association à but non lucratif qui a, sans le vouloir, nourri la révolution de l'IA. F& FineWeb & FineWeb-Edu L'état de l'art du monde open source — 15 billions de tokens, recette incluse. L5 LAION-5B Le dataset derrière la génération d'images open source — et son histoire en guise d'avertissement.

Training datasets & corpora

7
CC Common Crawl The nonprofit web archive nearly every LLM ate first. C4 C4 Google's cleaned Common Crawl — the reproducible baseline. F& FineWeb & FineWeb-Edu Hugging Face's 15-trillion-token state of the art in open pre-training data. IM ImageNet The 14-million-image labeled dataset that started the deep-learning era. L5 LAION-5B 5.85 billion image-text pairs — the fuel of open image generation, and its scandal. RE RedPajama The open reproduction of Llama's training mix. TP The Pile EleutherAI's 825 GB of curated diversity — open-source pre-training's foundation.