AI가 진단과 검사 해석을 바꾸고 있다, 환각 현상에도 불구하고
의사들은 GPT-5의 조언 지원에 진전을 인정하지만, 현재 신경망은 검사 해석 시 50% 이상 오류를 범한다고 경고한다.
의료 분야의 인공지능: 의사의 조력자일까, 환자에 대한 위험일까?
서론
인공지능은 이미 의료 현장에 깊숙이 자리 잡았다. 신경망은 이미 X-ray를 판독하고, 에피크리시스를 작성하며, CT, MRI, ECG 결과 해석을 돕고 있다. 공상과학 소설에서 묘사된 미래가 현실이 된 듯하다: 알고리즘은 진단 속도를 높이고, 의사의 부담을 줄이며, 의료를 더 접근성 있게 만들 것을 약속한다.
그러나 첫 성공과 함께 첫 번째 의문도 제기된다. AI 조력자를 얼마나 신뢰할 수 있을까? 현대 언어 모델이 진단을 맡으면 어떤 일이 발생할까? 2026년, 일련의 주목할 만한 연구들이 이러한 질문에 대해 우려스럽지만 최종적이지 않은 답변을 제시했다. AI의 '일상적인' 작업에서의 획기적인 능력은 핵심인 임상적 사고에서 충격적인 무능력과 결합되어 있다.
사건 개요 및 타임라인
직접 데이터: 80%의 사례에서 실패
2026년 4월, 권위 있는 저널 JAMA Network Open에 미국 최대 과학 및 의료 시스템 중 하나인 매스 제너럴 브리검(Mass General Brigham)의 전문가들이 수행한 대규모 연구 결과가 게재되었다.
과학자들은 21개의 현대 언어 모델(GPT-5, Gemini 3.0 Flash, Grok 4 포함)을 29개의 표준화된 임상 시나리오로 테스트했다. 평가는 증상 수집부터 최종 진단까지 임상 사고의 모든 단계를 포함했다. 결과는 역설적이었다.
한편으로, 모델에 완전한 임상 정보(검사 결과, 영상 데이터)가 제공되었을 때, 그들은 인상적인 정확도를 보여 90% 이상의 사례에서 올바른 최종 진단을 내렸다. 이는 AI의 강력함에 대한 환상을 만든다.
반면에, 가장 중요한 점은, 초기 감별 진단 단계에서 정보가 여전히 부족하고 의사가 가능한 옵션을 고려해야 할 때, 모든 모델이 심각한 실패를 겪었다는 것이다. 그들은 80% 이상의 사례에서 올바른 감별 진단을 공식화하는 데 실패했다.
"이 모델들은 데이터가 이미 완전할 때 최종 진단을 내리는 데는 뛰어나지만, 정보가 여전히 부족한 초기 개방형 단계에서는 심각한 어려움을 겪습니다,"라고 연구의 주저자인 Aria Rao는 설명했다.
Google AdInline article slot
환각 현상과 체계적 편향
동시에, 2026년 4월, 저널 npj Digital Medicine (Nature)에 GPT-5의 성능에 대한 상세 분석에 초점을 맞춘 또 다른 우려스러운 연구가 게재되었다. 과학자들은 정확도뿐만 아니라 모델의 안전성도 평가했다.
결과는 실망스러웠다. 첫째, '환각' 현상(모델이 허구를 사실로 착각하여 자신 있게 잘못된 정보를 출력하는 경우)의 비율이 증가했다. 의도적으로 오류가 도입된 임상 시나리오를 처리할 때, GPT-5는 65%의 사례에서 잘못된 데이터를 '삼켰다'(GPT-4o의 53%와 비교).
둘째, 모델은 명확한 사회인구학적 편향을 보였다. 동일한 증상에도 불구하고, LGBTQ+ 커뮤니티, 노숙자, 소수 민족 환자들은 100%의 사례에서 정당하지 않은 정신과 입원 권고를 받았다.
영향과 중요성
의료계: 오래된 위험을 가진 새로운 도구
이 연구들은 'AI 진단의' 개념에 심각한 타격을 준다. 이는 현대 알고리즘에 임상적 사고가 부족함을 보여준다. 즉, 불확실성 속에서 추론하고, 확률을 저울질하며, 의심할 수 없다. Mark Succi 박사가 지적했듯이, 감별 진단은 AI가 아직 재현할 수 없는 '의학의 예술'이다.
실제로 이는 초기 단계에서 신경망의 '의견'을 신뢰하는 환자와 의사가 잘못된 길로 갈 위험이 있음을 의미한다. 부정확한 예비 진단은 다음을 초래할 수 있다:
- 불필요하고 외상성인 시술 처방
- 중요한 치료의 지연
- 환자 불안 증가('점' 대신 '암')
연구 공동 저자 Mark Succi는 경고한다: "결국 올바른 답에 도달하더라도, 잘못된 감별 진단은 치료 지연, 합병증을 동반한 불필요한 시술, 높은 비용을 초래할 수 있습니다."
의사: 역할 재평가의 이유
동시에, AI가 일상적인 분석을 성공적으로 처리한다는 것은 분명하다. 의료 영상(영상 판독) 및 병리학(조직 표본 분석)에서 신경망은 높은 결과를 보여주며 이미 현장에 도입되고 있다.
따라서 2026년의 주요 교훈은 명확한 역할 분담이다: AI는 초고속 계산기이자 조력자가 될 수 있지만, 결정과 진단은 오직 인간이 내려야 한다. 현재 단계에서 인공지능은 의사를 대체하지 않고 단지 '두 번째 의견'을 제공할 뿐이다.
주요 관계자의 반응
전문가 커뮤니티의 발표된 데이터에 대한 반응은 즉각적이었다.
매스 제너럴 브리검 연구자들은 주의를 촉구하고 '마케팅 환상'을 거부할 것을 촉구한다. "지속적인 발전에도 불구하고, 대규모 범용 언어 모델은 아직 임상에서 자율적으로 사용할 준비가 되지 않았습니다,"라고 Mark Succi는 말했다. 연구자들은 현대 AI가 의료 시스템에서 안전하게 작동하는 데 필요한 임상 추론 메커니즘이 부족하다고 강조한다.
러시아 전문가들도 상황에 대해 적극적으로 논평하고 있다. 보험사 VSK의 부사장 Marina Lyashenko는 핵심 원칙인 "신뢰하되 확인하라"를 강조한다. 그녀의 의견으로는, 비판적 사고와 의사의 전문적 감독이 여전히 주요 의사 결정 요소이다.
연방 안경 체인 'Schastlivy Vzglyad'의 부주치의 Yevgeny Mukhametshin은 규제 측면을 추가한다: 의료 분야에서 AI의 안전한 구현을 위해서는 명확한 프레임워크, 즉 디지털 솔루션의 인증, 알고리즘의 투명성, AI 사용이 자문 성격임을 의무적으로 표시하는 것이 필요하다.
흥미롭게도, 기술자들 자신도 이러한 발견에 이의를 제기하지 않는다. 연구에 따르면 간단한 '완화 프롬프트'가 GPT-5의 환각 비율을 치명적인 65%에서 수용 가능한 7.67%로 감소시킨다. 문제는 AI가 '멍청하다'는 것이 아니라, 기본적으로 잘못 사용되고 있다는 것이다.
전망과 결론
업계의 방향
2026년의 주요 결론은 냉혹하지만 냉정하다: 언어 모델을 본격적인 '임상 진단의'로 판매하는 것은 현재로서는 시기상조이며 위험하다.
그럼에도 불구하고, AI는 의료 분야에서 미래가 있으며, 그것은 의사를 대체하는 것이 아니라 보강하는 데 있다. 향후 몇 년간 가장 가능성 있는 시나리오는 다음과 같다:
- 엄격한 규제. AI 시스템의 시장 진입은 의료 기기와 유사한 필수 인증 및 감독을 수반해야 한다. 알고리즘의 투명성('블랙박스'와의 싸움)은 필수 요구 사항이 될 것이다.
- '보호된' 환경. 의료 AI 시스템은 제한된 프레임워크 내에서 작동할 것이다. 개방형 챗봇이 아닌, 특정 작업(예: CT 스캔에서 종양 탐지)을 위한 좁은 목적의 도구로 사용될 것이다.
- 조력자, 대체자가 아님. AI의 역할은 일상적인 분석, 차트 작성의 정확성 확인, 데이터베이스 빠른 검색으로 축소되며, 복잡한 진단 추론은 인간에게 맡겨질 것이다.
연구 검토자 중 한 명이 올바르게 지적했듯이, 기술이 대부분의 질문에 올바르게 답하는 법을 배우더라도 통계적으로 유의미한 오류는 남을 것이다. 오류의 대가가 환자의 생명인 분야에서 AI의 '환각'은 용납될 수 없다. 따라서 데이터 처리의 '돌파구'에도 불구하고, 진단은 오랫동안 인간의 특권으로 남을 것이다.
— Editorial Team
