Grok erzeugte Kinderpornos — jetzt kommt die Klage

Drei minderjährige Mädchen verklagen Elon Musks KI-Firma xAI. Der Vorwurf: Grok hat aus echten Fotos der Kinder sexualisiertes Bildmaterial generiert. Ein anonymer Discord-Nutzer hatte die Polizei auf die Bilder aufmerksam gemacht.

Noch im Januar bestritt Musk öffentlich, dass Grok jemals CSAM erzeugt habe. Forscher des Center for Countering Digital Hate hatten da längst geschätzt, dass Grok massenhaft solches Material produzierte. xAI weigerte sich damals sogar, die Filter gegen das Entkleiden realer Personen zu verschärfen.

Die Klage könnte der erste gerichtlich dokumentierte Fall von Grok-generiertem Kindesmissbrauchsmaterial sein. Kein theoretisches Risiko mehr, kein Forscher-Alarm, den man ignorieren kann — echte Opfer, echte Fotos, echte Kinder. Das lässt sich nicht mehr als Halluzination abtun.

Musk verkauft Grok als ungefilterte Meinungsfreiheit. In der Praxis heißt das: Ein Chatbot ohne funktionierenden Kinderschutz. Während andere Anbieter längst Sicherheitsmechanismen eingebaut haben, spielte xAI auf Zeit. Jetzt holt die Realität den Hype ein.