Alignment
개념
안전성 및 정렬
Making systems that pursue what we actually intend.
현재 보고 계신 것은 개념 설명 레코드입니다: 이 용어의 의미를 쉬운 말로 풀어쓰고, 연관된 레코드들을 연결합니다.
Alignment is the technical project of keeping AI goals and behavior matched to human intent — today via RLHF, constitutional AI and evaluations; tomorrow, for systems smarter than their overseers, via open research problems like scalable oversight. Failures at current scale look like sycophancy or reward hacking; the field's founding worry is that failures at higher capability may not be recoverable. Anthropic's founding thesis and OpenAI's charter both center on it.
전체 스택에서의 연결 구조
이 레코드의 링크를 한눈에 확인하세요 — 그룹을 클릭하면 해당 위치로 이동합니다.
출처
검토 기준일 2026-01-15 — 보기 방법론.