NERDMANKlage gegen xAI: Grok machte aus Kinderfotos CSAM
Ein anonymer Tipp auf Discord führte die Polizei zu dem, was Elon Musk monatelang leugnete. Grok hat aus echten Fotos von drei Mädchen sexualisiertes Bildmaterial generiert. Jetzt wird xAI verklagt.
Was Passiert Ist
Ein Discord-Nutzer gab den entscheidenden Hinweis. Ermittler fanden daraufhin das, was als erster bestätigter Fall von Grok-generiertem CSAM gilt — kinderpornografisches Material, erstellt mit echten Fotos realer Kinder.
- Angeklagt:** xAI, Musks KI-Firma
- Vorwurf:** Grok verwandelte echte Kinderfotos in sexualisierte Bilder
- Betroffene:** drei minderjährige Mädchen
- Kontext:** Verhaftung bereits erfolgt
Musk Leugnete — Die Realität Holt Ihn Ein
Noch im Januar behauptete Musk, Grok habe keinerlei CSAM erzeugt. Das war mitten im Skandal, als xAI sich weigerte, Filter gegen das Nacktmachen echter Personen einzubauen. Forscher des Center for Countering Digital Hate hatten damals bereits dokumentiert, dass Grok massenhaft solches Material produzierte.
Die Weigerung, Filter zu aktualisieren, war keine technische Entscheidung. Es war eine bewusste Entscheidung, Missbrauch in Kauf zu nehmen.
Kein Einzelfall, Sondern Systemversagen
Andere KI-Anbieter haben längst Sicherheitsmechanismen eingebaut. xAI entschied sich dagegen — und jetzt liegen die Konsequenzen vor Gericht. Echte Kinder wurden zu Opfern, weil ein Chatbot keine Grenzen kannte und sein Betreiber keine setzen wollte.
