RLHF
अवधारणा
प्रशिक्षण और अनुमान
Reinforcement learning from human feedback — the technique behind ChatGPT's manners.
आप एक concept explainer देख रहे हैं: इस शब्द का सरल भाषा में क्या अर्थ है, और वे रिकॉर्ड जो इससे जुड़े हैं।
RLHF trains a reward model from human preference comparisons, then optimizes the language model against it. Introduced at scale by InstructGPT (2022), it is why assistants follow instructions and refuse harm — and its quirks (sycophancy, reward hacking) drive research into alternatives like constitutional AI and direct preference optimization.
यह बाकी स्टैक से कैसे जुड़ता है
इस रिकॉर्ड के लिंक एक नज़र में — किसी समूह पर क्लिक करके उस पर जाएँ।
परिचय हुआ
पर आधारित
स्रोत
रिकॉर्ड की समीक्षा की गई 2026-01-15 — देखें पद्धति.