RLHF
Kavram
Eğitim ve Çıkarım
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
Bir kavram açıklayıcısına bakıyorsunuz: bu terimin sade bir dilde ne anlama geldiği ve bir araya getirdiği kayıtlar.
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
Bu, yığının geri kalanıyla nasıl bağlantılı?
Bu kaydın bağlantılarına hızlı bakış — bir gruba tıklayarak o bölüme atlayın.
Tanıtıldı
Temel alınan
Kaynaklar
İncelenen kayıt tarihi: 2026-01-15 — görüntüle Metodoloji.