Trang chủ › Bài báo nghiên cứu › Constitutional AI (2022)
Constitutional AI (2022)
Bài báo nghiên cứu
Tất cả bài giải thích
Anthropic's method: models critique themselves against written principles.
Bạn đang xem hồ sơ bài báo nghiên cứu: một bài báo có tầm ảnh hưởng lớn và những đóng góp mà nó mang lại cho lĩnh vực.
Instead of scaling human labeling of harms, Constitutional AI has the model critique and revise its own outputs against an explicit constitution, then trains on the result (RLAIF). It powers Claude's character, made the principles inspectable, and pointed toward oversight that scales beyond human review.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Giới thiệu vào
Cơ sở cho
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.