Beranda › Konsep-Konsep › RLHF
RLHF
Konsep
Pelatihan & Inferensi
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
Anda sedang melihat entri penjelas konsep: apa arti istilah ini dalam bahasa yang mudah dipahami, dan entri-entri yang dikaitkannya.
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
Bagaimana ini terhubung ke bagian lain dari stack
Tautan catatan ini sekilas — klik grup untuk langsung menuju ke sana.
Diperkenalkan
Berdasarkan
Sumber
Rekaman ditinjau per 2026-01-15 — lihat Metodologi.