Interpretability
Conceito
Segurança e Alinhamento
Opening the black box: reading a model's internal features.
Está a ver um explicador de conceito: o que este termo significa em linguagem acessível, e os registos que relaciona.
Mechanistic interpretability reverse-engineers what networks compute — Anthropic's team mapped millions of human-legible features in Claude (the 'Golden Gate Claude' demo made one famous) and traces circuits for planning and deception. The bet: we cannot fully trust what we cannot inspect, so understanding must catch up with capability before the stakes get too high.
Como este elemento se liga ao resto da stack
As ligações deste registo num relance — clique num grupo para ir diretamente até ele.
Relacionados
Fontes
Mapping the mind of an LLM (Anthropic) ↗
Registro revisado em 2026-01-15 — ver Metodologia.