AI Safety
概念
安全性・アライメント
The umbrella: from jailbreaks and misuse to catastrophic risk.
これはコンセプト解説のレコードです。この用語をわかりやすく説明し、関連するレコードをまとめています。
AI safety spans the practical — jailbreak resistance, misuse prevention (bio, cyber), red-teaming before release, incident response — and the speculative — loss of control of highly capable systems. Frontier labs publish escalating safety frameworks (Anthropic's RSP/ASL levels, OpenAI's Preparedness, DeepMind's Frontier Safety), and government AI safety institutes now test models pre-release: a regulatory apparatus growing in real time.
スタック全体とのつながり
このレコードのリンク一覧 — グループをクリックするとジャンプします。
出典
Anthropic Responsible Scaling Policy ↗
レコードのレビュー時点： 2026-01-15 — 表示 調査手法.