AI Safety
The umbrella: from jailbreaks and misuse to catastrophic risk.
Sie sehen einen Begriffserklärung-Eintrag: was dieser Term auf verständlichem Deutsch bedeutet, und die Einträge, die er verbindet.
AI safety spans the practical — jailbreak resistance, misuse prevention (bio, cyber), red-teaming before release, incident response — and the speculative — loss of control of highly capable systems. Frontier labs publish escalating safety frameworks (Anthropic's RSP/ASL levels, OpenAI's Preparedness, DeepMind's Frontier Safety), and government AI safety institutes now test models pre-release: a regulatory apparatus growing in real time.
So hängt das mit dem Rest des Stacks zusammen
Die Verknüpfungen dieses Datensatzes auf einen Blick – klicken Sie auf eine Gruppe, um dorthin zu springen.
Verwandt
Quellen
Anthropic Responsible Scaling Policy ↗
Datensatz geprüft am 2026-01-15 — Siehe Methodik.