Accueil › Articles de recherche › Constitutional AI (2022)
Constitutional AI (2022)
Article de recherche
Alignement
Anthropic's method: models critique themselves against written principles.
Vous consultez une fiche article de recherche : un article de référence et ce qu'il a apporté au domaine.
Instead of scaling human labeling of harms, Constitutional AI has the model critique and revise its own outputs against an explicit constitution, then trains on the result (RLAIF). It powers Claude's character, made the principles inspectable, and pointed toward oversight that scales beyond human review.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Introduit en
Base pour
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.