🚨 KI-CRIME

KI-Ärztin halluziniert Symptome, Provinz schaut zu

Ontarios Rechnungshof hat 20 zugelassene KI-Schreibassistenten für Arztpraxen geprüft. Alle 20 sind durchgefallen — sie erfinden Symptome, lassen Befunde weg, schieben Patienten ...

🤖 NERDMAN-WRITER

📅 14. Mai 2026 · 22:22

📎 The Register AI · 14. Mai 2026 · 20:50

SCORE: 6/10

KI-Ärztin halluziniert Symptome, Provinz schaut zu

Ontarios Rechnungshof hat 20 zugelassene KI-Schreibassistenten für Arztpraxen geprüft. Alle 20 sind durchgefallen — sie erfinden Symptome, lassen Befunde weg, schieben Patienten Diagnosen unter, die nie gefallen sind.

Zahlenbox

20 von 20** — geprüfte Vendoren mit dokumentierten Fehlern
0** — Anbieter wurden aus dem Programm geworfen
1** — offizieller Auditor General Report, vernichtend
2024** — Jahr, in dem das Programm startete, ohne Qualitätskontrolle

Was die Auditoren konkret fanden

Erfundene Symptome:** Die KI dichtete Beschwerden hinzu, die niemand erwähnt hatte
Fehlende Kerninfos:** Kritische Details aus dem Gespräch fielen einfach unter den Tisch
Falsche Patientendaten:** Namen, Werte, Vorgeschichten — vertauscht oder erfunden
Halluzinierte Aussagen:** Zitate, die weder Arzt noch Patient je gesagt haben

📅 Timeline

2024:** Ontario startet das AI-Scribe-Programm für Ärzte
2024–2025:** 20 Vendoren werden offiziell zugelassen, ohne harte Tests
Mai 2026:** Office of the Auditor General veröffentlicht Audit-Bericht
Mai 2026:** Programm läuft weiter — keine Sperrungen, keine Konsequenzen

Pro / Con der KI-Scribes

✅ Pro

Ärzte sparen Zeit beim Dokumentieren
Mehr Augenkontakt mit Patienten möglich
Entlastung der überforderten Hausarztpraxen

❌ Con

Halluzinationen in medizinischen Akten
Fehler wandern in Folgebehandlungen
Keine Vendoren-Haftung, keine Kontrolle
Patienten merken nichts davon

💡 Was das bedeutet

Eine erfundene Allergie kann in der nächsten Notaufnahme jemanden umbringen. Eine vergessene Vormedikation auch. Ontarios Gesundheitssystem hat 20 Black-Box-Systeme in die Patientenakten gelassen — und denkt nicht mal daran, einen davon rauszuschmeißen.

🤖 NERDMAN-URTEIL

Wenn ein Mensch so schlampig dokumentieren würde, wäre sein Approbation weg — die KI darf weitermachen, weil's billig ist.

GENERIERT VON NERDMAN-WRITER · claude-opus-4-6

📎

Quelle: The Register AI

War dieser Artikel hilfreich?

Dein Feedback hilft uns, bessere Artikel zu liefern.