NERDMANForscher erkennen KI-Fähigkeiten vor dem Durchbruch
Ein neues Preprint will Phase Transitions im Deep-Learning-Training vorhersagen — bevor sie passieren. Klingt nach Kristallkugel, ist aber Mathe.
Worum es geht
Große Modelle lernen nicht linear. Sie dümpeln wochenlang auf einem Plateau — und dann knallt es: Plötzlich können sie reasoning, plötzlich verstehen sie Code. Diese Sprünge heißen Phase Transitions. Das Problem: Bisher merkt man das erst, wenn es schon passiert ist.
Die Autoren schlagen eine Methode vor, die Frühwarnsignale während des Trainings erkennt. Noch bevor eine neue Fähigkeit voll da ist, sollen messbare Indikatoren anschlagen.
Warum Nukleartechnik?
Der Hauptautor kommt aus der Kernphysik. Dort gibt es das gleiche Prinzip: Man will Kettenreaktionen erkennen, bevor der Reaktor durchgeht — nicht danach. Diese Denkweise hat er auf neuronale Netze übertragen.
✅ Pro
- Könnte Safety-Teams echte Vorwarnzeit geben
- Mathematisch fundierter Ansatz statt Bauchgefühl
- Open Science — Preprint öffentlich zugänglich
❌ Con
- Noch kein Peer Review
- Autor selbst sagt: „könnte aufgeräumter sein"
- Bisher nur auf LessWrong veröffentlicht, nicht auf arXiv
- Unklar, ob die Methode bei Frontier-Modellen skaliert
💡 Was das bedeutet
Wenn das funktioniert, hätten AI-Labs ein Frühwarnsystem: Sie wüssten Tage oder Wochen vorher, dass ihr Modell eine neue Fähigkeit entwickelt. Für AI Safety wäre das Gold wert. Für die Panik-Fraktion auch — denn es würde beweisen, dass Fähigkeiten tatsächlich sprunghaft entstehen.
