NERDMANKlein-Modell rechnet Riesen an die Wand
Bonner Forscher haben Transformer-Modelle umgebaut. Die dürfen jetzt selbst entscheiden, wie lange sie über eine Aufgabe grübeln. Ergebnis: Kleine Modelle schlagen deutlich größere bei Mathe.
Denken nach Bedarf statt Brute Force
Das Prinzip ist simpel und genau deshalb so gut. Statt jede Aufgabe mit der gleichen Rechenpower durchzuprügeln, passt das Modell seine Denkzeit dynamisch an. Mathe-Problem? Mehr Durchläufe. Einfache Faktenfrage? Ein Durchgang reicht.
- Methode:** Adaptive Rechenzeit — das Modell entscheidet selbst über die Anzahl der Verarbeitungsschritte
- Ergebnis:** Übertrifft deutlich größere Modelle bei Mathematik-Benchmarks
- Herkunft:** Universität Bonn
Warum das wichtig ist
Die KI-Branche wirft seit Jahren immer mehr Parameter auf jedes Problem. Größer, teurer, stromfressender. Die Bonner zeigen: Schlauer rechnen schlägt stumpf skalieren. Ein kleines Modell, das weiß wann es nachdenken muss, hängt den fetten Giganten ab.
Das ist kein theoretisches Papier für die Schublade. Adaptive Rechenzeit könnte KI-Modelle massiv effizienter machen — weniger GPU-Kosten, weniger Energie, gleiche oder bessere Ergebnisse.
