FDA·EMA AI 공동 지침: AI 신약 개발, ‘속도’ 넘어 ‘증명’의 시대

최근 제약·바이오 업계의 가장 뜨거운 화두는 단연 AI(인공지능)입니다. 이에 맞춰 미국 FDA와 유럽 EMA는 ‘의약품 개발을 위한 양질의 AI 활용 지침(Guiding Principles of Good AI Practice)’을 공동 발표했습니다.

이제 AI는 단순히 "약 개발을 빨리 도와주는 도구"를 넘어, 규제 기관의 승인을 받기 위한 '표준 거버넌스' 영역으로 들어왔습니다. 단순히 "AI를 잘 쓰라"는 권고를 넘어, 이제 AI가 품목 허가(Approval)를 위한 '공통 언어'가 되었음을 선언했기 때문입니다. 이번 지침이 업계에 미치는 실질적인 영향과 10대 원칙의 의미를 짚어봅니다.

AI 도입의 3대 핵심 키워드

상세 원칙을 보기에 앞서, 이번 지침을 관통하는 세 가지 철학을 먼저 이해해야 합니다.

• 인간 중심: AI는 조력자일 뿐, 책임은 인간이 진다.
• 리스크 기반 접근: 환자 안전에 직결될수록 검증은 더 혹독해진다.
• 데이터 거버넌스: 결과보다 과정의 투명성이 우선이다.

10가지 세부 원칙 (10 Guiding Principles)

이러한 철학을 실질적으로 구현하기 위해, 글로벌 규제 기관이 요구하는 AI 활용의 정석 10계명을 정리했습니다.

1. 다학제적 전문성 확보(Multi-disciplinary Expertise): AI 전문가뿐만 아니라 생물학, 임상, 통계 전문가가 전 과정에 협력해야 합니다.
2. 양질의 데이터 관리(Data Quality & Integrity): 출처가 명확하고 편향되지 않은 무결한 데이터 사용이 필수입니다.
3. 모델의 설명 가능성(Model Explainability): '블랙박스' AI는 지양되며, 결과의 논리적 근거를 설명할 수 있어야 합니다.
4. 리스크 관리 체계 구축(Risk Management): 오작동 등 잠재적 위험을 사전에 식별하고 완화하는 프로세스가 필요합니다.
5. 견고성 및 보안성(Robustness & Security): 외부 간섭이나 예상치 못한 입력에도 시스템이 안정적이고 안전해야 합니다.
6. 성능 모니터링 및 재검증(Performance Monitoring): 실전 투입 이후에도 지속적인 모니터링과 성능 유지가 요구됩니다.
7. 인간의 감독 및 책임(Human Agency & Oversight): 중요한 의사결정 단계에는 반드시 인간의 검토와 승인이 포함되어야 합니다.
8. 투명한 문서화(Transparency & Documentation): 설계부터 검증까지 모든 과정을 규제 기관이 확인할 수 있게 문서화해야 합니다.
9. 윤리적 고려(Ethical Considerations): 환자 권익 침해나 사회적 편향이 없는지 설계 단계부터 반영해야 합니다.
10. 전 생애주기 관리(Lifecycle Management): 기획부터 폐기까지 일관된 품질 관리 기준을 적용해야 합니다.

🚀 10대 원칙이 바꾸는 제약·바이오의 미래

• "AI는 도구가 아니라, 함께 책임지는 '전략적 파트너'입니다" 단순히 효율성을 위해 AI를 도입하던 시대를 지나, 이제는 임상·허가 전문가가 기획 단계부터 개입하는 '다학제적 거버넌스'가 조직의 필수 역량이 되었습니다. 규제 기관은 "AI의 판단"이라는 변명을 인정하지 않으므로, 기업은 AI를 감독할 내부 통제 시스템을 먼저 갖춰야 합니다.
• "성능만큼 중요한 것은 '설명할 수 있는 능력'입니다" 이제 "성능이 좋으니 믿으라"는 식의 블랙박스 모델은 글로벌 승인에서 배제될 가능성이 큽니다. 데이터의 생성부터 가공, 그리고 AI가 결론에 도달한 인과관계(XAI)를 투명하게 입증하고 문서화하는 능력이 곧 신약 파이프라인의 가치를 결정짓게 됩니다.
• "AI 도입은 일회성이 아닌, '지속적인 품질 관리'의 시작입니다" 신약에 유효기간이 있듯, AI 모델도 시간이 흐르면 성능이 변합니다. 도입 후에도 모델의 견고성을 상시 모니터링하고 사이버 보안을 유지하는 '전 생애주기 관리' 프로세스가 필요합니다. 이는 일시적인 기술 도입 비용을 넘어 지속적인 운영 역량이 필수적임을 시사합니다.

결론: 글로벌 진출을 위한 필수 과제 '규제 적합성'

이제 국내 제약·바이오 기업들에게 AI는 효율성의 문제를 넘어 '규제 적합성(Regulatory Compliance)'을 증명해야 하는 필수 과제가 되었습니다. FDA와 EMA가 한 목소리를 낸다는 것은, 이 원칙을 지키지 않은 데이터는 글로벌 승인을 받기 어려워질 것이라는 강력한 신호입니다.

기술의 고도화만큼이나 중요한 것은 '신뢰할 수 있는 AI 시스템'을 구축하는 일입니다.

🔗 Medidata AI 바로가기

🔗 FDA·EMA의 AI 공동 지침 원문 바로가기