FDA와 유럽 규제기관, 제약 분야 AI에 대한 통일된 규칙 수립
이 문서는 임상 결정에 영향을 미치는 AI 모델이 완전한 추적성과 위험 관리를 갖춘 엄격한 GxP 표준을 준수해야 한다고 명시했습니다. 이는 알고리즘이 더 이상 '블랙박스'가 아니라 근거 기반 의학의 합법적인 도구가 되기 위한 첫걸음입니다.
제약 산업은 수십 년 동안 글로벌 규칙 아래 운영되어 왔습니다. 미국은 FDA, 유럽은 EMA가 담당하며, 두 규제를 모두 통과한 의약품은 전 세계 의약품 판매의 2/3를 차지하는 시장에 진입할 수 있었습니다. 2026년 1월 14일, 이 두 규제기관은 알고리즘 세계에서 아무도 달성하지 못한 일을 해냈습니다. 바로 의약품 개발에 있어 인공지능에 대한 10가지 원칙을 통일된 형태로 발표한 것입니다. '블랙박스'는 더 이상 통하지 않습니다.
규제기관이 "충분하다"고 말하다: 무슨 일이 일어났나
문서의 제목은 건조합니다: "의약품 개발에서 우수 AI 관행의 지침 원칙". 그러나 이 이름 뒤에는 규제 요건의 중복 없이, 관할권 충돌 없이, 공통 언어를 사용하여 제약 분야의 AI를 명확한 규제 프레임워크로 가져오려는 첫 번째 대서양 횡단 시도가 숨어 있습니다.
핵심 단어는 GxP입니다. Good Practice는 모든 제약 분야의 기반이 되는 품질 표준군입니다: 제조는 GMP, 임상시험은 GCP, 실험실은 GLP. 이제 FDA와 EMA는 규제 결정에 영향을 미치는 AI 모델이 이러한 표준을 준수해야 한다고 명시적으로 요구합니다. 이는 데이터 추적성, 결정 감사 가능성, 위험 관리를 의미하며, 이는 대부분의 신경망이 한 번도 가져본 적 없는 것입니다.
유럽 보건 위원장 Oliver Várhelyi는 외교적 수사 없이 말했습니다: "이 원칙들은 대서양 양측에서 어떻게 협력하여 글로벌 혁신 경쟁에서 선도적 역할을 유지하면서 환자 안전의 최고 수준을 보장할 수 있는지 보여줍니다."
판도를 바꾸는 10가지 원칙
이 문서는 새로운 법률을 만들지 않습니다. 그리고 그것이 강점입니다. 이 문서는 FDA나 EMA에 신청서를 제출하려는 모든 의약품 제조사가 이제 특정 질문에 답해야 하는 좌표계를 설정합니다.
첫 번째 원칙은 인간 중심 설계입니다. AI는 인간을 대체하지 않고 인간의 결정을 지원합니다. 이것은 철학이 아니라 규제 요건입니다: 알고리즘이 무언가를 추천하면, 인간 전문가가 그 추천을 이해하고 이의를 제기하며 무효화할 수 있어야 합니다.
두 번째 교차 원칙은 위험 기반 접근법입니다. 검증 및 모니터링 수준은 AI 시스템의 잠재적 영향에 상응해야 합니다. 내부 메모를 구조화하는 도구와 안전 검토를 우선시하거나 임상 운영 단계를 트리거하는 알고리즘은 기술적으로 동일한 모델을 사용하더라도 완전히 다른 위험 수준입니다.
세 번째는 데이터 거버넌스와 문서화입니다. FDA와 EMA는 이제 데이터 출처, 처리 단계, 분석 결정이 상세하고 추적 가능하며 감사 가능한 방식으로 문서화되기를 기대합니다. 간단히 말해: 모델이 분자 독성을 예측하도록 학습되었다면, 정확히 어떤 데이터로 훈련되었고 각 단계에서 어떤 결정을 내렸는지 보여줄 준비가 되어 있어야 합니다.
네 번째는 라이프사이클 관리입니다. AI 시스템은 시간이 지남에 따라 변화합니다: 기본 모델의 새 버전, 프롬프트의 진화, 데이터 출처의 변경. 규제기관은 AI가 규제 대상 작업에 영향을 미칠 때 '설정하고 잊어버리기'는 선택 사항이 아니라고 명시합니다. 버전 관리, 드리프트 모니터링, 변경 관리가 필요하며, 이 모두 감사 가능해야 합니다.
왜 지금 이런 일이 일어났나
제약 회사들은 이미 AI 구성 요소가 포함된 의약품에 대해 FDA에 500건 이상의 신청서를 제출했습니다. 2024년 11월 기준, AI는 3,000개 이상의 의약품 개발 또는 재창출에 사용되었습니다. 제약 분야 AI 시장은 2025년 19억 4천만 달러로 추정되며, 2034년까지 연평균 성장률 27%로 164억 9천만 달러에 이를 것으로 예상됩니다.
규제기관은 뒤처지고 있음을 깨달았고, 단순히 따라잡는 것이 아니라 조정을 통해 앞서 나가기로 결정했습니다. 이 이니셔티브의 뿌리는 2024년 4월 FDA와 EU 간의 양자 회의로 거슬러 올라갑니다. 그 후 EMA는 AI에 대한 반성 문서(reflection paper)를, FDA는 초안 지침을 발표했습니다. 2026년 1월, 양측은 앉아서 공통 원칙에 합의했습니다.
별도의 신호는 2025년 11월 FDA의 내부 AI Benchbook 출시와 직원 교육 과정입니다. 규제기관은 업계를 위한 규칙을 작성하는 것뿐만 아니라 자체 검사관이 AI 시스템을 감사할 때 무엇을 찾아야 하는지 이해하도록 재교육하고 있습니다. 한편 EMA는 데이터 및 AI 작업을 2028년까지의 전략(EMANS)에 통합했습니다.
누가 이기고, 누가 지며, 돈은 어디에 있는가
가장 분명한 수혜자는 이미 AI 인프라를 구축 중인 대형 제약 회사입니다. GSK는 2026년 1월 JP Morgan 컨퍼런스에서 AI 파트너십이 초기 R&D 포트폴리오를 강화하여 특허 절벽을 극복하는 데 도움이 될 것이라고 발표했습니다. Eli Lilly는 NVIDIA와 여러 계약을 체결했습니다. 제약 분야에서 '가장 강력한' 슈퍼컴퓨터 구축부터 공동 AI 연구소까지 다양합니다. AstraZeneca는 Modella AI를 인수하여 종양학 의약품 개발을 가속화했습니다.
하지만 거인만 이기는 것은 아닙니다. 명확한 규칙은 스타트업과 벤처 캐피탈의 불확실성을 줄여줍니다. 제약 분야 AI 거래에 대한 벤처 투자는 2014년부터 2024년까지 400% 이상 성장했으며, 이제 투자자들은 로드맵을 갖게 되었습니다: 회사가 처음부터 GxP에 따라 AI 시스템을 구축하면, 의약품 판매든 회사 매각이든 그 출구가 더 예측 가능해집니다.
임상 기술 공급업체(Veeva, Suvoda 등)도 혜택을 받습니다. 그들의 시스템은 이미 규제 대상 프로세스에 내장되어 있으며, '내장형 AI' 원칙은 구조적 이점이 됩니다: 알고리즘이 감사 가능한 플랫폼 내에 존재할 때, 데이터 복사-붙여넣기가 있는 별도 도구로 존재할 때보다 GxP 준수를 입증하기가 더 쉽습니다.
누가 지는가? 추적성에 신경 쓰지 않고 AI를 '블랙박스'로 구현한 회사들입니다. 규제기관은 '섀도우 사용'이라는 용어를 도입합니다. 이는 분석가가 이미 업무 작업에 대규모 언어 모델을 많이 사용하고 있지만 경영진은 아무 일도 없는 척하는 상황을 말합니다. 이러한 관행은 독성 자산이 됩니다: 알고리즘이 신청서에 영향을 미쳤는데 이에 대한 문서가 없다면, FDA 검사 중 결과는 치명적일 수 있습니다.
구체적인 예측: 2028년까지 무슨 일이 일어날까
첫 번째 타임라인은 이미 설정되었습니다. EU AI Act는 2026년 8월 2일에 완전히 발효되며, 고위험 시스템 분류는 새로운 FDA-EMA 원칙과 직접적으로 교차합니다. 두 시장에서 운영되는 회사는 사실상 통일된 표준을 얻게 됩니다: 10가지 원칙 준수는 미국과 유럽 모두에 대한 패스가 됩니다.
두 번째 벡터는 세부 사항입니다. 현재 원칙은 의도적으로 높은 수준이며, 전문가들은 이미 '원칙과 실제 구현 사이의 실용적 격차'를 지적합니다. FDA는 향후 2년 내에 AI 모델 검증, '사용 맥락' 정의, 드리프트 모니터링에 대한 보다 구체적인 지침을 발행할 것으로 예상됩니다.
세 번째는 거래의 물결입니다. 게임의 규칙이 정의되면 통합이 가속화됩니다. AstraZeneca는 이미 AI 스타트업 인수를 시작했으며, 이는 시작에 불과합니다. Big Pharma는 알고리즘뿐만 아니라 GxP 준수 셸에 포장되고 검사 준비가 된 문서를 갖춘 알고리즘이 필요합니다. 이를 이해하고 그에 따라 제품을 구축하는 스타트업이 먼저 인수될 것입니다.
2026년의 주요 신호는 업계 분석가에 의해 공식화되었습니다: "FDA와 EMA는 초점을 'AI가 이것을 할 수 있는가'에서 'AI가 하는 것을 어떻게 통제하는가'로 전환했습니다." 알고리즘 오류가 환자의 사망을 의미할 수 있는 산업에서 이것은 관료적 잔소리가 아닙니다. 이는 AI를 실험적인 장난감에서 근거 기반 의학의 합법적인 도구로 변환하는 것입니다.
— Editorial Team
