RLHF
Concepto
Entrenamiento e inferencia
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
Estás viendo un explicador de concepto: qué significa este término en lenguaje claro, y los registros que conecta.
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Introducido
Basado en
Fuentes
Registro revisado a fecha de 2026-01-15 — ver Metodología.