AI Safety
The umbrella: from jailbreaks and misuse to catastrophic risk.
Bạn đang xem hồ sơ giải thích khái niệm: thuật ngữ này có nghĩa là gì theo ngôn ngữ thông thường, và các hồ sơ liên quan đến nó.
AI safety spans the practical — jailbreak resistance, misuse prevention (bio, cyber), red-teaming before release, incident response — and the speculative — loss of control of highly capable systems. Frontier labs publish escalating safety frameworks (Anthropic's RSP/ASL levels, OpenAI's Preparedness, DeepMind's Frontier Safety), and government AI safety institutes now test models pre-release: a regulatory apparatus growing in real time.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Liên quan
Nguồn
Anthropic Responsible Scaling Policy ↗
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.