RLHF
Conceito
Treinamento & Inferência
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
Está a ver um explicador de conceito: o que este termo significa em linguagem acessível, e os registos que relaciona.
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
Como este elemento se liga ao resto da stack
As ligações deste registo num relance — clique num grupo para ir diretamente até ele.
Introduzido
Baseado em
Fontes
Registro revisado em 2026-01-15 — ver Metodologia.