Главная › Научные статьи › Constitutional AI (2022)
Constitutional AI (2022)
Научная статья
Все материалы
Anthropic's method: models critique themselves against written principles.
Перед вами запись об исследовательской статье — знаковой работе и том, что она привнесла в область.
Instead of scaling human labeling of harms, Constitutional AI has the model critique and revise its own outputs against an explicit constitution, then trains on the result (RLAIF). It powers Claude's character, made the principles inspectable, and pointed toward oversight that scales beyond human review.
Место в общей экосистеме
Ссылки этой записи с первого взгляда — нажмите на группу, чтобы перейти к ней.
Представлено в
Основа для
Источники
Запись актуальна на 2026-01-15 — смотреть Методология.