NERDMAN12 Dollar reichen, um KI-Bots zu vergiften
Ein Security-Engineer macht sich zum erfundenen Weltmeister im Kartenspiel "6 nimmt!" — und mehrere KI-Chatbots glauben ihm aufs Wort. Kostenpunkt: eine Domain-Registrierung und ein Wikipedia-Edit.
Was passiert ist
Der Forscher registrierte eine Domain für 12 Dollar und legte dort eine Fake-Seite über sich als angeblichen Champion an. Dann bearbeitete er einen Wikipedia-Artikel und verlinkte seine Lüge. Search-backed Chatbots zogen die Info — und spuckten sie als Fakt aus.
- 12 $** — Domain-Registrierung
- 1** — Wikipedia-Edit
- Mehrere** — Chatbots, die den Bullshit übernahmen
- 0** — echte 6-nimmt!-Weltmeisterschaften, die existieren
Warum das funktioniert
Klassische Suchmaschinen liefern dir zehn Links — du entscheidest, wem du glaubst. KI-Chatbots fressen die wackligsten Quellen und servieren dir eine selbstbewusste Antwort. Kein Hinweis, keine Skepsis, keine Gegenmeinung.
💡 Was das bedeutet
Wer Chatbots als Faktenquelle nutzt, ist eine Wikipedia-Bearbeitung von der Lüge entfernt. Für Wahlen, Medizin, Finanzen ist das eine Zeitbombe. Data Poisoning braucht keinen Hacker mit Hoodie — es braucht 12 Dollar und 10 Minuten Geduld.
Pro/Con: Search-backed Chatbots
✅ Pro
- Schnelle, lesbare Antworten
- Quellen werden teilweise verlinkt
❌ Con
- Keine Quellenkritik
- Frische Web-Inhalte werden bevorzugt — auch Fakes
- User merkt nicht, wenn der Bot Müll frisst