Home › Onderzoeksartikelen › Constitutional AI (2022)
Constitutional AI (2022)
Onderzoeksartikel
Alignment
Anthropic's method: models critique themselves against written principles.
U bekijkt een onderzoeksartikelrecord: een invloedrijk artikel en wat het aan het vakgebied heeft toegevoegd.
Instead of scaling human labeling of harms, Constitutional AI has the model critique and revise its own outputs against an explicit constitution, then trains on the result (RLAIF). It powers Claude's character, made the principles inspectable, and pointed toward oversight that scales beyond human review.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Geïntroduceerd in
Basis voor
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.