Interpretability
Concept
Veiligheid & alignment
Opening the black box: reading a model's internal features.
U bekijkt een conceptverklaring: wat deze term in begrijpelijk Nederlands betekent, en de records die hij samenbrengt.
Mechanistic interpretability reverse-engineers what networks compute — Anthropic's team mapped millions of human-legible features in Claude (the 'Golden Gate Claude' demo made one famous) and traces circuits for planning and deception. The bet: we cannot fully trust what we cannot inspect, so understanding must catch up with capability before the stakes get too high.
Hoe dit aansluit op de rest van de stack
De koppelingen van dit record in één oogopslag — klik op een groep om er naartoe te springen.
Gerelateerd
Bronnen
Mapping the mind of an LLM (Anthropic) ↗
Record beoordeeld per 2026-01-15 — bekijk Methodologie.