Interpretability
Opening the black box: reading a model's internal features.
Sie sehen einen Begriffserklärung-Eintrag: was dieser Term auf verständlichem Deutsch bedeutet, und die Einträge, die er verbindet.
Mechanistic interpretability reverse-engineers what networks compute — Anthropic's team mapped millions of human-legible features in Claude (the 'Golden Gate Claude' demo made one famous) and traces circuits for planning and deception. The bet: we cannot fully trust what we cannot inspect, so understanding must catch up with capability before the stakes get too high.
So hängt das mit dem Rest des Stacks zusammen
Die Verknüpfungen dieses Datensatzes auf einen Blick – klicken Sie auf eine Gruppe, um dorthin zu springen.
Verwandt
Quellen
Mapping the mind of an LLM (Anthropic) ↗
Datensatz geprüft am 2026-01-15 — Siehe Methodik.