RLHF
Concept
Entraînement et inférence
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
Vous consultez une fiche concept : ce que ce terme signifie en langage clair, et les fiches qu'il relie.
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
Comment cela s'articule avec le reste de la chaîne
Les liens de cette fiche en un coup d'œil — cliquez sur un groupe pour y accéder directement.
Introduit
Basé sur
Sources
Fiche examinée au 2026-01-15 — voir Méthodologie.