Beranda › Konsep-Konsep › Interpretability
Interpretability
Konsep
Keamanan & Keselarasan
Opening the black box: reading a model's internal features.
Anda sedang melihat entri penjelas konsep: apa arti istilah ini dalam bahasa yang mudah dipahami, dan entri-entri yang dikaitkannya.
Mechanistic interpretability reverse-engineers what networks compute — Anthropic's team mapped millions of human-legible features in Claude (the 'Golden Gate Claude' demo made one famous) and traces circuits for planning and deception. The bet: we cannot fully trust what we cannot inspect, so understanding must catch up with capability before the stakes get too high.
Bagaimana ini terhubung ke bagian lain dari stack
Tautan catatan ini sekilas — klik grup untuk langsung menuju ke sana.
Terkait
Sumber
Mapping the mind of an LLM (Anthropic) ↗
Rekaman ditinjau per 2026-01-15 — lihat Metodologi.