KI verändert Diagnostik und Testinterpretation trotz Halluzinationen
Ärzte sehen Fortschritte bei GPT-5 für die Beratung, warnen aber: Aktuelle neuronale Netze machen >50 % Fehler bei der Interpretation von Tests.
Künstliche Intelligenz in der Medizin: ein Assistent für Ärzte oder ein Risiko für den Patienten?
Einleitung
Künstliche Intelligenz hat festen Einzug in die medizinische Praxis gehalten. Neuronale Netze lesen bereits Röntgenbilder, schreiben Epikrisen und helfen bei der Interpretation von CT-, MRT- und EKG-Ergebnissen. Es scheint, als sei die Zukunft, die in Science-Fiction-Romanen beschrieben wurde, eingetroffen: Algorithmen versprechen, die Diagnostik zu beschleunigen, die Belastung der Ärzte zu verringern und die Medizin zugänglicher zu machen.
Doch mit den ersten Erfolgen kommen auch die ersten Fragen. Wie sehr kann man einem KI-Assistenten vertrauen? Was passiert, wenn ein modernes Sprachmodell die Diagnose übernimmt? Im Jahr 2026 lieferte eine Reihe vielbeachteter Studien eine alarmierende, wenn auch nicht endgültige Antwort auf diese Fragen. Die bahnbrechenden Fähigkeiten der KI bei „Routineaufgaben“ gehen mit einer erschreckenden Inkompetenz in der Hauptsache einher – dem klinischen Denken.
Ereignisdetails und Zeitplan
Daten aus erster Hand: Versagen in 80 % der Fälle
Im April 2026 veröffentlichte die renommierte Zeitschrift JAMA Network Open die Ergebnisse einer groß angelegten Studie, die von Spezialisten des Mass General Brigham, einem der größten wissenschaftlichen und medizinischen Systeme der USA, durchgeführt wurde.
Die Wissenschaftler testeten 21 moderne Sprachmodelle (darunter GPT-5, Gemini 3.0 Flash und Grok 4) an 29 standardisierten klinischen Szenarien. Die Bewertung umfasste alle Stufen des klinischen Denkens: von der Erhebung der Beschwerden bis zur endgültigen Diagnose. Die Ergebnisse waren paradox.
Einerseits zeigten die Modelle, wenn ihnen ein vollständiges klinisches Bild (Testergebnisse, Bilddaten) vorgelegt wurde, eine beeindruckende Genauigkeit und stellten in mehr als 90 % der Fälle die richtige Enddiagnose. Dies erzeugt eine Illusion von der Stärke der KI.
Andererseits – und das ist das Wichtigste – erlitten alle Modelle in der Phase der initialen Differenzialdiagnose, wenn die Informationen noch spärlich sind und der Arzt mögliche Optionen abwägen muss, eine vernichtende Niederlage. Sie waren nicht in der Lage, in mehr als 80 % der Fälle eine korrekte Differenzialdiagnose zu formulieren.
„Diese Modelle sind hervorragend darin, die endgültige Diagnose zu nennen, wenn die Daten bereits vollständig sind, aber sie haben ernsthafte Schwierigkeiten in der anfänglichen, offenen Phase, wenn die Informationen noch knapp sind“, erklärte Aria Rao, Hauptautorin der Studie.
Google AdInline article slot
Halluzinationen und systemische Verzerrungen
Parallel dazu wurde im April 2026 eine weitere alarmierende Studie im Journal npj Digital Medicine (Nature) veröffentlicht, die sich auf eine detaillierte Analyse der Leistung von GPT-5 konzentrierte. Die Wissenschaftler bewerteten nicht nur die Genauigkeit, sondern auch die Sicherheit des Modells.
Die Ergebnisse waren ernüchternd. Erstens stieg die Rate der „Halluzinationen“ (wenn das Modell selbstbewusst falsche Informationen ausgibt und Fiktion für Tatsachen hält). Bei der Verarbeitung klinischer Szenarien mit absichtlich eingebauten Fehlern „schluckte“ GPT-5 in 65 % der Fälle falsche Daten (verglichen mit 53 % bei GPT-4o).
Zweitens zeigte das Modell eine deutliche soziodemografische Verzerrung. Bei identischen Symptomen erhielten Patienten aus LGBTQ+-Gemeinschaften, Obdachlose und ethnische Minderheiten in 100 % der Fälle Empfehlungen für eine ungerechtfertigte psychiatrische Krankenhauseinweisung.
Auswirkungen und Bedeutung
Für das Gesundheitswesen: Ein neues Werkzeug mit alten Risiken
Diese Studien versetzen dem Konzept des „KI-Diagnostikers“ einen schweren Schlag. Sie zeigen, dass modernen Algorithmen das klinische Denken fehlt – sie können nicht unter Unsicherheit argumentieren, Wahrscheinlichkeiten abwägen oder zweifeln. Wie Dr. Mark Succi anmerkte, ist die Differenzialdiagnose „die Kunst der Medizin“, die KI noch nicht nachahmen kann.
In der Praxis bedeutet dies, dass Patienten und Ärzte, die der „Meinung“ eines neuronalen Netzes in frühen Stadien vertrauen, riskieren, in die falsche Richtung zu gehen. Eine falsche vorläufige Diagnose kann zu Folgendem führen:
- Verschreibung unnötiger und traumatischer Eingriffe
- Verzögerung einer kritisch wichtigen Behandlung
- Erhöhung der Patientensorge („Krebs“ statt „Muttermal“)
Wie der Koautor der Studie, Mark Succi, warnt: „Selbst wenn wir schließlich zur richtigen Antwort gelangen, kann eine falsche Differenzialdiagnose zu Verzögerungen bei der Behandlung, unnötigen Eingriffen mit Komplikationen und hohen Kosten führen.“
Für Ärzte: Ein Grund, die eigene Rolle zu überdenken
Gleichzeitig ist klar, dass KI Routineanalysen erfolgreich bewältigt. In der medizinischen Bildgebung (Bildinterpretation) und Pathologie (Analyse histologischer Proben) zeigen neuronale Netze hohe Ergebnisse und werden bereits in der Praxis eingesetzt.
Die wichtigste Erkenntnis aus dem Jahr 2026 ist daher eine klare Aufgabenteilung: KI kann ein blitzschneller Rechner und Assistent sein, aber Entscheidungen und Diagnosen müssen ausschließlich von Menschen getroffen werden. Im gegenwärtigen Stadium ersetzt künstliche Intelligenz den Arzt nicht, sondern liefert lediglich eine „zweite Meinung“.
Reaktion der Hauptakteure
Die Reaktion der Fachwelt auf die veröffentlichten Daten erfolgte umgehend.
Forscher des Mass General Brigham mahnen zur Vorsicht und zur Ablehnung von „Marketingillusionen“. „Trotz ständiger Fortschritte sind große allgemeinsprachliche Modelle noch nicht für den autonomen Einsatz in der Klinik bereit“, sagte Mark Succi. Die Forscher betonen, dass der modernen KI die für einen sicheren Betrieb im Gesundheitswesen notwendigen Mechanismen des klinischen Denkens fehlen.
Auch russische Experten kommentieren die Situation aktiv. Marina Lyashenko, Vizepräsidentin des Versicherungshauses VSK, betont das Schlüsselprinzip: „Vertrauen, aber kontrollieren.“ In ihren Augen bleiben kritisches Denken und die fachliche Aufsicht des Arztes die entscheidenden Entscheidungsfaktoren.
Yevgeny Mukhametshin, stellvertretender Chefarzt der Optikkette „Schastlivy Vzglyad“, fügt einen regulatorischen Aspekt hinzu: Für die sichere Einführung von KI in der Medizin sind klare Rahmenbedingungen erforderlich – Zertifizierung digitaler Lösungen, Transparenz der Algorithmen und die verpflichtende Angabe, dass die KI-Nutzung beratenden Charakter hat.
Interessanterweise bestreiten die Technologen selbst diese Ergebnisse nicht. Die Studie zeigte, dass ein einfacher „Minderungs-Prompt“ die Halluzinationsrate von GPT-5 von katastrophalen 65 % auf akzeptable 7,67 % senkt. Das Problem ist nicht, dass KI „dumm“ ist, sondern dass sie standardmäßig falsch eingesetzt wird.
Prognose und Schlussfolgerungen
Wohin die Branche steuert
Die wichtigste Schlussfolgerung für 2026 ist hart, aber ernüchternd: Sprachmodelle als vollwertige „klinische Diagnostiker“ zu verkaufen, ist derzeit verfrüht und gefährlich.
Dennoch hat KI eine Zukunft in der Medizin, und diese liegt nicht in der Ersetzung des Arztes, sondern in seiner Unterstützung. Die wahrscheinlichsten Szenarien für die kommenden Jahre:
- Strenge Regulierung. Die Markteinführung von KI-Systemen muss mit einer obligatorischen Zertifizierung und Überwachung ähnlich wie bei Medizinprodukten einhergehen. Transparenz der Algorithmen (Bekämpfung von „Black Boxes“) wird zur Pflicht.
- „Geschützte“ Umgebungen. Medizinische KI-Systeme werden innerhalb begrenzter Rahmen arbeiten – nicht als offene Chatbots, sondern als eng gefasste Werkzeuge für eine bestimmte Aufgabe (z. B. Erkennung von Tumoren in CT-Aufnahmen).
- Assistent, kein Ersatz. Die Rolle der KI wird auf Routineanalysen, die Überprüfung der korrekten Ausfüllung von Formularen und die schnelle Suche in Datenbanken beschränkt sein, während komplexe diagnostische Überlegungen dem Menschen vorbehalten bleiben.
Wie einer der Gutachter der Studie zu Recht anmerkte, wird selbst wenn Technologien lernen, die meisten Anfragen korrekt zu beantworten, eine statistisch signifikante Fehlerquote bestehen bleiben. KI-„Halluzinationen“ in einem Bereich, in dem der Preis eines Fehlers das Leben eines Patienten ist, sind inakzeptabel. Daher wird die Diagnose trotz des „Durchbruchs“ in der Datenverarbeitung noch lange eine menschliche Domäne bleiben.
— Editorial Team
