KI-Protokoll erfindet Drogenkonsum: Patientin nach Arztbesuch am Boden zerstört

Error by AI scribe during medical appointment leaves patient devastated

Eine Australierin entdeckte nach einer Nierenstein-OP in ihrem Arztbrief die falsche Behauptung, sie nehme halluzinogene Pilze. Der Brief war von einer KI-Transkriptionssoftware erstellt worden, die die Aussagen der Patientin erfunden hatte. Der Vorfall wirft Fragen zur Sicherheit und Regulierung von KI-Protokollen im Gesundheitswesen auf. Eine Studie zeigt, dass solche Systeme häufig Fehler machen und sogar falsche Diagnosen stellen können. Experten fordern strengere Kontrollen und eine bessere Aufklärung der Patienten.