Dieser Transformer ist ein ganzer Computer

Ein Entwickler hat ein funktionierendes Programm direkt in die Gewichte eines Transformers kompiliert. Kein Fine-Tuning, kein Training — pure Mathematik.

Wie das funktioniert

Die Idee: Man nimmt ein simples Programm und übersetzt es Schritt für Schritt in Transformer-Gewichte. Jede Attention-Schicht führt eine Operation aus. Am Ende rechnet das Modell nicht wie ein Computer — es ist einer.

✅ Pro

❌ Con

Was das bedeutet

Das Projekt ist ein Proof of Concept, kein Produkt. Aber es beantwortet eine Frage, die in der Mechanistic-Interpretability-Szene heiß diskutiert wird: Was können Transformer wirklich berechnen? Die Antwort: theoretisch alles. Praktisch sind wir davon weit entfernt.

💡 Einordnung