Constitutional AI (2022)
연구 논문
얼라인먼트
Anthropic's method: models critique themselves against written principles.
현재 보고 계신 것은 연구 논문 레코드입니다: 중요한 논문과 그것이 해당 분야에 도입한 내용을 다룹니다.
Instead of scaling human labeling of harms, Constitutional AI has the model critique and revise its own outputs against an explicit constitution, then trains on the result (RLAIF). It powers Claude's character, made the principles inspectable, and pointed toward oversight that scales beyond human review.
전체 스택에서의 연결 구조
이 레코드의 링크를 한눈에 확인하세요 — 그룹을 클릭하면 해당 위치로 이동합니다.
도입 시기
출처
검토 기준일 2026-01-15 — 보기 방법론.