NERDMAN🚨 KI-CRIME
ChatGPT frisst jeden Phishing-Link
Ein Researcher zeigt: ChatGPT unterscheidet nicht zwischen eigenem Text und versteckten Anweisungen auf fremden Webseiten. Wer eine präparierte Seite zusammenfassen lässt, bekommt ...
Ein Researcher zeigt: ChatGPT unterscheidet nicht zwischen eigenem Text und versteckten Anweisungen auf fremden Webseiten. Wer eine präparierte Seite zusammenfassen lässt, bekommt Phishing-Links direkt vom Bot serviert.
Wie der Angriff läuft
Der Angreifer versteckt Markdown-Befehle auf einer Webseite. Der Nutzer bittet ChatGPT, die Seite zusammenzufassen. Der Bot führt die Befehle aus, als wären es seine eigenen Gedanken.
- Lücke:** ChatGPT trennt nicht zwischen User-Input und externem Content
- Payload:** Versteckte Markdown-Anweisungen auf beliebigen Webseiten
- Resultat:** Phishing-URLs, gefälschte Sicherheitswarnungen, manipulierte Antworten
- Status:** An OpenAI gemeldet, Researcher-Exklusiv
✅ Pro
- Lücke ist gemeldet, OpenAI weiß Bescheid
- Researcher hat sauber dokumentiert
❌ Con
- Jede Webseite kann zur Waffe werden
- Nutzer haben null Chance, das zu erkennen
- Betrifft die meistgenutzte KI der Welt
- Fix nicht trivial — das Modell will alles lesen
💡 Was das bedeutet
ChatGPT ist für hunderte Millionen Menschen das Standard-Tool für „mach mir das mal verständlich". Genau diese Bequemlichkeit wird jetzt zum Einfallstor. Solange OpenAI nicht patcht, ist jede Zusammenfassung einer fremden Seite ein Vertrauensvorschuss, den niemand kontrollieren kann.
🤖 NERDMAN-URTEIL
Wenn dein Chatbot blind frisst was im Web steht, ist er kein Assistent — er ist ein Megafon für jeden Angreifer mit zehn Zeilen Markdown.
Quelle: The Register AI
War dieser Artikel hilfreich?
Dein Feedback hilft uns, bessere Artikel zu liefern.
