NERDMAN🔥 HOT NEWS
OpenAI gründet neues Team gegen KI-Katastrophen
OpenAI baut ein eigenes Preparedness-Team auf. Auftrag: Schutz vor katastrophalen Risiken durch hochleistungsfähige KI-Systeme.
OpenAI baut ein eigenes Preparedness-Team auf. Auftrag: Schutz vor katastrophalen Risiken durch hochleistungsfähige KI-Systeme.
Was steckt dahinter?
Das Unternehmen will seinen Umgang mit Extremrisiken systematisieren. Konkret gibt es zwei Maßnahmen:
- Neues Team:** Eine eigene Preparedness-Abteilung, die sich ausschließlich um katastrophale Risiken kümmert
- Challenge:** Ein öffentlicher Wettbewerb, der externe Forscher einbindet
- Fokus:** Nicht alltägliche Bugs, sondern Worst-Case-Szenarien
Warum jetzt?
Die Modelle werden mächtiger, die Kritik an OpenAIs Sicherheitskultur wurde zuletzt lauter. Mehrere hochrangige Safety-Forscher hatten das Unternehmen verlassen. Ein dediziertes Team ist die Antwort darauf — zumindest auf dem Papier.
Was fehlt
Keine Details zu Budget, Teamgröße oder Vetorecht. Wer entscheidet am Ende, ob ein Modell zu gefährlich ist? Diese Frage bleibt offen. Ohne echte Blockade-Macht ist jedes Safety-Team nur Dekoration.
🤖 NERDMAN-URTEIL
Gut, dass OpenAI ein Preparedness-Team aufbaut — aber solange unklar ist, ob es Releases stoppen kann, bleibt das erstmal eine hübsche Pressemitteilung.
Quelle: OpenAI News
War dieser Artikel hilfreich?
Dein Feedback hilft uns, bessere Artikel zu liefern.
