Umělá inteligence mění diagnostiku a interpretaci testů, navzdory halucinacím
Lékaři zaznamenávají pokrok GPT-5 v poradenské podpoře, ale varují: současné neuronové sítě dělají >50 % chyb při interpretaci testů.
Umělá inteligence v medicíně: pomocník lékaře, nebo riziko pro pacienta?
Úvod
Umělá inteligence pevně vstoupila do lékařské praxe. Neuronové sítě již čtou rentgenové snímky, píší epikrízy a pomáhají interpretovat výsledky CT, MRI a EKG. Zdá se, že budoucnost popsaná ve fantastických románech nastala: algoritmy slibují urychlit diagnostiku, snížit zátěž lékařů a zpřístupnit medicínu.
Spolu s prvními úspěchy však přicházejí i první otázky. Jak moc lze důvěřovat AI-asistentovi? Co se stane, když se moderní jazykový model ujme stanovení diagnózy? V roce 2026 přinesla série významných studií na tyto otázky znepokojivou, i když ne konečnou odpověď. Průlomové schopnosti AI v „rutinních“ úkolech se pojí s šokující nekompetentností v tom hlavním – v klinickém myšlení.
Podrobnosti události a časový přehled
Data z první ruky: selhání v 80 % případů
V dubnu 2026 zveřejnil prestižní časopis JAMA Network Open výsledky rozsáhlé studie provedené odborníky z Mass General Brigham – jednoho z největších vědecko-lékařských systémů v USA.
Vědci testovali 21 moderních jazykových modelů (včetně GPT-5, Gemini 3.0 Flash a Grok 4) na 29 standardizovaných klinických scénářích. Hodnocení probíhalo ve všech fázích klinického myšlení: od sběru obtíží po konečnou diagnózu. Výsledky byly paradoxní.
Na jedné straně, když modely obdržely úplný klinický obraz (výsledky testů, zobrazovací data), vykazovaly působivou přesnost a stanovily správnou konečnou diagnózu ve více než 90 % případů. To vytváří iluzi moci AI.
Na druhé straně – a to je nejdůležitější – ve fázi primární diferenciální diagnózy, kdy je informací málo a lékař musí zvažovat možné varianty, všechny modely utrpěly drtivé fiasko. Nedokázaly formulovat korektní diferenciální diagnózu ve více než 80 % případů.
„Tyto modely skvěle pojmenují konečnou diagnózu, když jsou data již úplná, ale mají vážné potíže v počáteční, otevřené fázi, kdy je informací málo,“ vysvětlil Aria Rao, hlavní autor studie.
Google AdInline article slot
Halucinace a systémová předpojatost
Současně v dubnu 2026 vyšla v časopise npj Digital Medicine (Nature) další znepokojivá studie zaměřená na podrobnou analýzu práce GPT-5. Vědci hodnotili nejen přesnost, ale i bezpečnost modelu.
Závěry byly zneklidňující. Zaprvé, úroveň „halucinací“ (kdy model sebevědomě vydává nepravdivé informace a považuje výmysl za fakt) vzrostla. Při zpracování klinických scénářů se záměrně vloženými chybami GPT-5 „polykal“ nepravdivá data v 65 % případů (oproti 53 % u GPT-4o).
Zadruhé, model prokázal zjevnou sociodemografickou předpojatost. Při identických symptomech dostávali pacienti z řad LGBTQ+, bezdomovci a příslušníci etnických menšin doporučení k neopodstatněné psychiatrické hospitalizaci ve 100 % případů.
Dopad a význam
Pro zdravotnictví: nový nástroj se starými riziky
Tyto studie zasazují vážnou ránu konceptu „AI-diagnostika“. Ukazují, že současné algoritmy nemají klinické myšlení – neumějí uvažovat v podmínkách nejistoty, zvažovat pravděpodobnosti a pochybovat. Jak poznamenal doktor Mark Succi, diferenciální diagnostika je „uměním medicíny“, které AI zatím nedokáže reprodukovat.
V praxi to znamená, že pacienti a lékaři, kteří důvěřují „názoru“ neuronové sítě v raných fázích, riskují, že se vydají špatným směrem. Nesprávná předběžná diagnóza může vést k:
- Předepisování zbytečných a traumatických procedur
- Zpoždění kriticky důležité léčby
- Růstu úzkosti u pacientů („rakovina“ místo „mateřské znaménko“)
Jak varuje spoluautor studie Mark Succi: „I když nakonec dospějeme ke správné odpovědi, nesprávná diferenciální diagnóza může vést ke zpoždění léčby, zbytečným procedurám s komplikacemi a vysokým nákladům.“
Pro lékaře: důvod k přehodnocení role
Zároveň je zřejmé, že AI úspěšně zvládá rutinní analytiku. V oblasti lékařského zobrazování (interpretace snímků) a patologie (analýza histologických preparátů) vykazují neuronové sítě vysoké výsledky a jsou již zavedeny do praxe.
Hlavním závěrem roku 2026 je tedy jasné rozdělení oblastí odpovědnosti: AI může být bleskovým kalkulátorem a pomocníkem, ale rozhodovat a stanovovat diagnózy musí výhradně člověk. V současné fázi umělá inteligence nenahrazuje lékaře, pouze mu poskytuje „druhý názor“.
Reakce klíčových hráčů
Reakce odborné komunity na zveřejněná data byla okamžitá.
Výzkumníci z Mass General Brigham vyzývají k opatrnosti a odmítnutí „marketingových iluzí“. „Navzdory neustálému pokroku nejsou velké jazykové modely pro všeobecné použití zatím připraveny k autonomnímu použití v klinice,“ prohlásil Mark Succi. Výzkumníci zdůrazňují, že současná AI nemá mechanismy klinického zdůvodnění nezbytné pro bezpečnou práci ve zdravotnickém systému.
Ruští experti také aktivně komentují situaci. Viceprezidentka pojišťovny VSK Marina Ljašenko zdůrazňuje klíčový princip: „důvěřuj, ale prověřuj.“ Podle jejího názoru zůstávají kritické myšlení a odborná kontrola ze strany lékaře klíčovými faktory rozhodování.
Jevgenij Muchametšin, zástupce hlavního lékaře federální sítě optik „Šťastný pohled“, dodává regulační aspekt: pro bezpečné zavedení AI do medicíny jsou nutné jasné rámce – certifikace digitálních řešení, transparentnost algoritmů a povinné uvedení, že použití AI má doporučující charakter.
Zajímavé je, že sami technologové s těmito závěry nesporují. Studie ukázala, že jednoduchá „ochranná výzva“ (mitigation prompt) snižuje úroveň halucinací GPT-5 z katastrofických 65 % na přijatelných 7,67 %. Problém není v tom, že by AI byla „hloupá“, ale v tom, že je standardně nesprávně používána.
Prognóza a závěry
Kam se odvětví ubírá
Hlavní závěr roku 2026 zní tvrdě, ale vystřízlivění: prodávat jazykové modely jako plnohodnotné „klinické diagnostiky“ je zatím předčasné a nebezpečné.
Přesto má AI v medicíně budoucnost, a ta nespočívá v nahrazení lékaře, ale v jeho posílení. Nejpravděpodobnější scénáře nejbližších let:
- Přísná regulace. Vstup AI systémů na trh musí být doprovázen povinnou certifikací a kontrolou, podobně jako u zdravotnických prostředků. Transparentnost algoritmů (boj s „černými skříňkami“) se stane povinným požadavkem.
- „Chráněná“ prostředí. Lékařské AI systémy budou pracovat v omezených rámcích – nikoli jako otevřené chatboty, ale jako úzce specializované nástroje pro konkrétní úkol (např. hledání nádoru na CT).
- Pomocník, nikoli náhrada. Role AI bude omezena na rutinní analytiku, kontrolu správnosti vyplňování karet a rychlé vyhledávání informací v databázích, přičemž složité diagnostické úvahy zůstanou na člověku.
Jak správně poznamenal jeden z recenzentů studie, i když se technologie naučí správně odpovídat na většinu dotazů, statisticky významný objem chyb zůstane. „Halucinace“ AI v oblasti, kde je cena chyby – život pacienta – nepřijatelné. Proto i přes „průlom“ ve zpracování dat zůstane stanovení diagnózy ještě dlouho výsadou člověka.
— Editorial Team
