Alignment
Making systems that pursue what we actually intend.
U bekijkt een conceptverklaring: wat deze term in begrijpelijk Nederlands betekent, en de records die hij samenbrengt.
Alignment is the technical project of keeping AI goals and behavior matched to human intent — today via RLHF, constitutional AI and evaluations; tomorrow, for systems smarter than their overseers, via open research problems like scalable oversight. Failures at current scale look like sycophancy or reward hacking; the field's founding worry is that failures at higher capability may not be recoverable. Anthropic's founding thesis and OpenAI's charter both center on it.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Geïntroduceerd
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.