RLHF
Concept
Training & inferentie
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
U bekijkt een conceptverklaring: wat deze term in begrijpelijk Nederlands betekent, en de records die hij samenbrengt.
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Geïntroduceerd
Gebaseerd op
Bronnen
Record beoordeeld per 2026-01-15 — bekijk Methodologie.