Startseite › Forschungspapiere › Constitutional AI (2022)
Constitutional AI (2022)
Forschungspapier
Alle Explainer
Anthropic's method: models critique themselves against written principles.
Sie sehen einen Forschungspapier-Eintrag: ein wegweisendes Paper und was es dem Fachgebiet gebracht hat.
Instead of scaling human labeling of harms, Constitutional AI has the model critique and revise its own outputs against an explicit constitution, then trains on the result (RLAIF). It powers Claude's character, made the principles inspectable, and pointed toward oversight that scales beyond human review.
So hängt das mit dem Rest des Stacks zusammen
Die Verknüpfungen dieses Datensatzes auf einen Blick – klicken Sie auf eine Gruppe, um dorthin zu springen.
Eingeführt in
Grundlage für
Quellen
Datensatz geprüft am 2026-01-15 — Siehe Methodik.