InstructGPT — RLHF at Scale (2022)
How raw language models became assistants people can use.
Bạn đang xem hồ sơ bài báo nghiên cứu: một bài báo có tầm ảnh hưởng lớn và những đóng góp mà nó mang lại cho lĩnh vực.
OpenAI showed that a 1.3B model tuned with human feedback was preferred over the raw 175B GPT-3 — alignment as capability. The three-stage recipe (demonstrations, reward model, RL) became the industry standard and made ChatGPT possible months later.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Giới thiệu vào
Cơ sở cho
Nguồn
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.