Forscher finden Gedächtniszellen in KI-Modellen

Wo speichert ein Sprachmodell sein Wissen über die Welt? Ein Forscherteam hat die Antwort: in einzelnen Neuronen, versteckt in den frühen Schichten.

Was die Forscher gemacht haben

Das Team hat sogenannte "Entity Cells" in Large Language Models gesucht — einzelne MLP-Neuronen, die auf bestimmte Entitäten reagieren. Also: Gibt es ein Neuron, das feuert, wenn das Modell an "Angela Merkel" denkt? Kurz: Ja.

So funktioniert es

💡 Was das bedeutet

Sprachmodelle sind keine Black Box mehr — zumindest ein bisschen weniger. Wenn wir wissen, WO ein Modell Fakten speichert, können wir gezielt Fehler korrigieren, Halluzinationen reduzieren und verstehen, warum ein Modell Unsinn erzählt. Das ist die Grundlage für echtes Model Editing.

✅ Pro

❌ Con