Interpretability
Opening the black box: reading a model's internal features.
Bạn đang xem hồ sơ giải thích khái niệm: thuật ngữ này có nghĩa là gì theo ngôn ngữ thông thường, và các hồ sơ liên quan đến nó.
Mechanistic interpretability reverse-engineers what networks compute — Anthropic's team mapped millions of human-legible features in Claude (the 'Golden Gate Claude' demo made one famous) and traces circuits for planning and deception. The bet: we cannot fully trust what we cannot inspect, so understanding must catch up with capability before the stakes get too high.
Kết nối của mục này với phần còn lại của hệ thống
Các liên kết của hồ sơ này trong nháy mắt — nhấp vào một nhóm để chuyển đến nhóm đó.
Liên quan
Nguồn
Mapping the mind of an LLM (Anthropic) ↗
Hồ sơ được xem xét tính đến 2026-01-15 — xem Phương pháp luận.