NERDMANForscher killen CenterLoss bei OOD-Detection
Neues Paper auf arXiv prügelt auf eine beliebte Methode ein. CenterLoss kollabiert Features — und macht KI-Modelle blind für unbekannte Inputs.
Worum es geht
Wenn ein KI-Modell etwas sieht, das es nicht kennt, soll es "Stop!" sagen. Das nennt sich Out-of-Distribution-Detection. Genau hier versagen viele aktuelle Ansätze.
Das Problem mit CenterLoss
CenterLoss zwingt Features in enge Cluster. Klingt gut für Klassifikation — ist aber Gift, wenn das Modell Unbekanntes erkennen soll. Die Geometrie wird zu eng. Epistemische Unsicherheit verschwindet.
✅ Pro
- Bessere Klassifikations-Accuracy
- Saubere Trennung bekannter Klassen
- Einfach zu implementieren
❌ Con
- Killt OOD-Signal
- Features kollabieren in Punkte
- Modelle werden überheblich bei fremden Inputs
Die Lösung: GOEN
Die Autoren stellen GOEN vor — Geometry-Optimised Epistemic Network. Eine simple Pipeline, kein neuronaler Overkill.
- Multi-Scale Features:** Mehrere Auflösungen statt einer
- L2-Normalisierung:** Vektoren auf Einheitslänge
- Mahalanobis-Distanz:** Misst Abstand statistisch sauber
- Kein CenterLoss:** Features dürfen atmen
💡 Was das bedeutet
Wer Sicherheitssysteme oder autonome Agenten baut, sollte zweimal hinschauen, bevor er CenterLoss als Trainingsziel setzt. Geometrie schlägt manchmal die schönste Loss-Funktion.
