Alignment
Making systems that pursue what we actually intend.
Bir kavram açıklayıcısına bakıyorsunuz: bu terimin sade bir dilde ne anlama geldiği ve bir araya getirdiği kayıtlar.
Alignment is the technical project of keeping AI goals and behavior matched to human intent — today via RLHF, constitutional AI and evaluations; tomorrow, for systems smarter than their overseers, via open research problems like scalable oversight. Failures at current scale look like sycophancy or reward hacking; the field's founding worry is that failures at higher capability may not be recoverable. Anthropic's founding thesis and OpenAI's charter both center on it.
Bu, yığının geri kalanıyla nasıl bağlantılı?
Bu kaydın bağlantılarına hızlı bakış — bir gruba tıklayarak o bölüme atlayın.
Tanıtıldı
Kaynaklar
İncelenen kayıt tarihi: 2026-01-15 — görüntüle Metodoloji.