Startseite › Konzepte › RLHF
RLHF
Konzept
Training & Inferenz
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
Sie sehen einen Begriffserklärung-Eintrag: was dieser Term auf verständlichem Deutsch bedeutet, und die Einträge, die er verbindet.
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
So hängt das mit dem Rest des Stacks zusammen
Die Verknüpfungen dieses Datensatzes auf einen Blick – klicken Sie auf eine Gruppe, um dorthin zu springen.
Eingeführt
Basierend auf
Quellen
Datensatz geprüft am 2026-01-15 — Siehe Methodik.