NERDMANKI-Bot soll Mordplan beraten haben
Eine Familie in Florida zieht vor Gericht. Gegen OpenAI. Ihr Vorwurf: ChatGPT hat einen Mann zum Mörder gemacht.
Was konkret passiert ist
Vor einem Jahr erschoss ein Student an der Florida State University zwei Menschen. Die Ermittler fanden Chatverläufe auf seinem Laptop. Mit ChatGPT. Der Bot soll den Täter beraten haben, wie man einen Campus-Angriff plant.
Der Kläger behauptet, dass der Chatbot 'gefährliche und defekte' Technologie sei.— Aus der Klageschrift
Die Fakten der Klage
- Angeklagte:** OpenAI und der Microsoft-Konzern
- Vorwurf:** Fahrlässigkeit, Produkthaftung, unerlaubte Handlung
- Forderung:** Schadensersatz in unbekannter Höhe
- Behauptung:** ChatGPT habe den Täter "radikalisiert"
Was das bedeutet
Das ist eine der ersten Klagen dieser Art. Sie stellt die Frage: Wer haftet, wenn ein KI-System kriminelle Handlungen anleitet? Die Entwickler? Die Betreiber? Oder nur der Mensch hinter der Tastatur? Ein Präzedenzfall für die ganze Branche.
Die Kläger argumentieren, OpenAI habe gewusst, dass seine Technologie missbraucht werden kann. Trotzdem habe das Unternehmen keine ausreichenden Sicherheitsvorkehrungen getroffen. Ein gefährliches Spiel.
