NERDMANGericht stoppt Groks Nacktbild-Funktion
Ein niederländisches Gericht hat xAI verboten, mit Grok nicht-einvernehmliche Entkleidungsbilder zu erzeugen. Elon Musks Chatbot konnte offenbar Deepfake-Nacktbilder von realen Personen generieren — ohne deren Zustimmung.
Was passiert ist
Die niederländische Justiz hat durchgegriffen. Per Gerichtsbeschluss darf Grok keine Bilder mehr erzeugen, die reale Personen ohne deren Einwilligung digital entkleiden. Das ist kein hypothetisches Szenario — es gab eine konkrete Klage.
💡 Was das bedeutet
Grok ist der erste große Chatbot, dem ein europäisches Gericht diese Funktion explizit untersagt. Während andere Anbieter wie OpenAI und Google solche Funktionen von Anfang an blockieren, hat xAI offenbar bewusst weniger Sicherheitsfilter eingebaut. Das Urteil setzt ein Signal: Wer KI-Missbrauch ermöglicht, wird vor Gericht gezogen.
Pro (am Urteil)
- Klarer Präzedenzfall für ganz Europa
- Schutz vor nicht-einvernehmlichen Deepfakes
- Zwingt xAI zur Nachbesserung
Con (an der Gesamtlage)
- Urteil gilt erstmal nur in den Niederlanden
- Open-Source-Tools machen dasselbe ohne Gerichtskontrolle
- Durchsetzung bleibt schwierig
Groks Sonderweg
xAI hat sich unter Musk als die „unzensierte" KI-Alternative positioniert. Weniger Filter, mehr Freiheit — so das Marketing. Dass dabei auch Werkzeuge für sexuellen Missbrauch entstehen, nimmt man offenbar in Kauf. Andere Anbieter haben Nacktbild-Generierung längst gesperrt.
Zahlenbox
- 1** — erstes EU-Gerichtsurteil gegen Deepfake-Entkleidung durch einen Chatbot
- 98%** — der großen KI-Anbieter blockieren solche Funktionen bereits
- 0** — Mal hat sich xAI bisher öffentlich für mangelnde Sicherheitsfilter entschuldigt
