Interpretability
Concepto
Seguridad y alineamiento
Opening the black box: reading a model's internal features.
Estás viendo un explicador de concepto: qué significa este término en lenguaje claro, y los registros que conecta.
Mechanistic interpretability reverse-engineers what networks compute — Anthropic's team mapped millions of human-legible features in Claude (the 'Golden Gate Claude' demo made one famous) and traces circuits for planning and deception. The bet: we cannot fully trust what we cannot inspect, so understanding must catch up with capability before the stakes get too high.
Cómo se conecta con el resto del stack
Los enlaces de esta ficha de un vistazo: haz clic en un grupo para ir directamente a él.
Relacionado
Fuentes
Mapping the mind of an LLM (Anthropic) ↗
Registro revisado a fecha de 2026-01-15 — ver Metodología.