Home › Articoli di ricerca › Constitutional AI (2022)
Constitutional AI (2022)
Articolo di ricerca
Alignment
Anthropic's method: models critique themselves against written principles.
Stai visualizzando un record di paper di ricerca: un articolo di riferimento e cosa ha introdotto nel campo.
Instead of scaling human labeling of harms, Constitutional AI has the model critique and revise its own outputs against an explicit constitution, then trains on the result (RLAIF). It powers Claude's character, made the principles inspectable, and pointed toward oversight that scales beyond human review.
Come si collega al resto dello stack
I collegamenti di questa scheda a colpo d'occhio — clicca un gruppo per raggiungerlo.
Introdotto in
Base per
Fonti
Record revisionato al 2026-01-15 — vedi Metodologia.