EU will Nudify-Apps verbieten — Musk hat ein Problem

Elon Musks KI-Chatbot Grok hat nackte Fakten geschaffen — im wortwörtlichen Sinne. Die Plattform ließ Nutzer massenhaft gefälschte Nacktbilder von echten Personen generieren, darunter auch von Kindern. Musks Verteidigung: Die User seien schuld, nicht die Technik.

Die EU sieht das anders. Das Europäische Parlament hat mit 101 zu 9 Stimmen dafür gestimmt, den AI Act zu verschärfen und sogenannte Nudifier-Systeme komplett zu verbieten. Nur 8 Enthaltungen, praktisch keine Gegenwehr. So deutlich wird es in Brüssel selten.

Musks Taktik, die Verantwortung auf die Nutzer abzuwälzen, dürfte damit in Europa nicht aufgehen. Der AI Act zielt direkt auf die Anbieter — wer ein System betreibt, das solche Outputs ermöglicht, haftet. Keine Ausreden, keine Grauzone.

Grok wurde damit unfreiwillig zum Paradebeispiel dafür, was passiert, wenn eine KI-Plattform bewusst auf Sicherheitsfilter verzichtet. Musk wollte den „unzensierten" Chatbot als Verkaufsargument. Jetzt liefert er den Regulierern das stärkste Argument für harte Gesetze.