Interpretability
Kavram
Güvenlik ve Hizalama
Opening the black box: reading a model's internal features.
Bir kavram açıklayıcısına bakıyorsunuz: bu terimin sade bir dilde ne anlama geldiği ve bir araya getirdiği kayıtlar.
Mechanistic interpretability reverse-engineers what networks compute — Anthropic's team mapped millions of human-legible features in Claude (the 'Golden Gate Claude' demo made one famous) and traces circuits for planning and deception. The bet: we cannot fully trust what we cannot inspect, so understanding must catch up with capability before the stakes get too high.
Bu, yığının geri kalanıyla nasıl bağlantılı?
Bu kaydın bağlantılarına hızlı bakış — bir gruba tıklayarak o bölüme atlayın.
İlgili
Kaynaklar
Mapping the mind of an LLM (Anthropic) ↗
İncelenen kayıt tarihi: 2026-01-15 — görüntüle Metodoloji.