Alignment
Making systems that pursue what we actually intend.
Vous consultez une fiche concept : ce que ce terme signifie en langage clair, et les fiches qu'il relie.
Alignment is the technical project of keeping AI goals and behavior matched to human intent — today via RLHF, constitutional AI and evaluations; tomorrow, for systems smarter than their overseers, via open research problems like scalable oversight. Failures at current scale look like sycophancy or reward hacking; the field's founding worry is that failures at higher capability may not be recoverable. Anthropic's founding thesis and OpenAI's charter both center on it.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Introduit
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.