SeltaSquare

1. 
2. 

셀타스퀘어는 업계의 변화를 가장 먼저 읽고, 고객에게 의미 있는 인사이트를 전달합니다.

지난 10월 14일에 열린 2026 KIC(KoNECT International Conference)의 ‘Beyond the Hype: Making AI Actionable in Drug Development’ 세션에서 미국 FDA의 Qi Liu 연자가 ‘The Use of Artificial Intelligence to Support Regulatory Decision-Making for Drug and Biological Products’를 주제로 발표했습니다. 이번 세션에서는 규제기관이 AI를 어떻게 활용하고 있는지, 제출 자료에 AI를 사용할 때 어떤 기준으로 신뢰성을 평가하는지를 실제 사례와 함께 소개했습니다.

신약개발 전 주기로 확대되는 AI, 규제 의사결정에서의 활용

발표에서는 AI는 표적 발굴, 약물 설계 같은 탐색 단계부터 임상시험 설계, 대상자 모집, 용량 최적화, 시판 후 감시까지 신약개발 전주기에 걸친 기회로 제시되었습니다. 이런 흐름은 FDA 제출 건수에서도 확인할 수 있습니다. FDA CDER에 접수된 AI 관련된 제출은 2021년 이후 가파르게 늘어 2025년에는 400건을 넘었고, 대부분 IND 신청 건입니다.

규제기관이 직접 AI를 활용한 사례도 소개되었습니다.

ㆍAnakinra COVID-19 긴급사용승인: 임상시험에서 사용된 suPAR 검사를 미국에서 이용하기 어려운 상황에서 FDA CDER는 머신러닝을 활용해 나이, 폐렴 중증도, SOFA 점수 등 8개 임상 기준 가운데 3개 이상을 충족하면 suPAR 상승 가능성이 높은 환자로 분류하는 기준을 개발했습니다. CDER가 처음으로 규제 의사결정에 AI와 머신러닝을 활용한 사례입니다.

ㆍAIM-NASH: 2025년 12월 대사이상 관련 지방간염(MASH) 임상시험에서 간 조직검사의 지방증, 염증과 섬유화 판독을 지원하는 AI 도구가 FDA의 적격성을 인정받은 최초의 AI 기반 의약품 개발 도구가 됐습니다. AI가 산출한 점수는 병리학자가 검토하고 최종 판독을 결정하며, 판독의 일관성과 개발 효율을 높이는 데 활용됩니다.

다만 발표는 AI 활용의 한계도 함께 짚었습니다. 비뚤림, 일반화 가능성, 불투명성, 환각, 성능 저하, 개인정보와 보안 문제는 AI의 신뢰성을 떨어뜨릴 수 있으며, FDA는 이를 위험 기반 접근으로 다루고 있습니다.

FDA의 7단계 위험 기반 신뢰성 평가 프레임워크

FDA는 2025년 1월 Draft guidance로, AI 모델 출력의 신뢰성을 평가하는 위험 기반 프레임워크를 제시했습니다. 핵심은 신뢰성 검증의 범위를 모델의 위험 수준과 사용 맥락에 연결한다는 점입니다.

ㆍ1단계: 연구 질문(Question of Interest) 정의

ㆍ2단계: 사용 맥락(Context of Use, COU) 정의

ㆍ3단계: AI 모델 위험 평가

ㆍ4단계: 신뢰성 확보 계획 수립

ㆍ5단계: 계획 실행

ㆍ6단계: 결과 문서화

ㆍ7단계: COU에 대한 모델 적정성 판단

모델 위험은 AI 결과가 전체 근거에서 차지하는 비중과 잘못된 결정이 초래할 결과를 함께 고려해 평가합니다. 따라서 모델 성능을 검토하기 전에 AI가 지원할 규제 판단과 구체적인 사용 범위를 정해야 합니다.

발표에서는 두 가지 사례를 비교하여 모델 위험 평가가 실제로 어떻게 이루어지는지 보여주었습니다.

구분	가상사례: 재택 모니터링 대상 선별	심사 사례: 디지털 트윈 공변량 보정
AI의 역할	저위험 참여자를 선별해 입원 모니터링 대신 재택 모니터링 적용	위약 투여 시 예상 결과를 예측해 공변량 보정에 활용, 위약군 규모 축소
모델 영향도	높음 (모니터링 방식 결정 요인)	높음 (예후 점수 산출 근거)
결정 영향도	높음 (고위험 참여자를 저위험으로 오분류하면 중대한 이상반응에 즉시 대응하지 못할 수 있음)	낮음 (무작위배정 임상시험의 공변량 보정은 비뚤림과 제1종 오류에 미치는 영향이 제한적)
FDA 판단	모델 위험도 높음	2상 탐색적 분석에는 이견 없음. 3상 주분석은 수용 가능성이 있으나 상세 분석계획 등 추가 자료 요청

두 사례는 AI 결과가 규제 판단에 미치는 영향과 잘못된 판단이 초래할 결과를 함께 살펴야 한다는 점을 보여줍니다. 재택 모니터링 사례는 오분류가 환자 안전에 직접 영향을 주어 모델 위험이 높게 평가됐습니다. 디지털 트윈 사례는 AI가 예후점수 산출에 큰 영향을 미치지만, 무작위배정 임상시험의 공변량 보정에 사용되고 통계적 특성상 비뚤림과 제1종 오류에 미치는 영향이 제한적이어서 잘못된 결정의 영향은 낮게 평가되었죠. FDA는 학습자료의 대표성, 반복 적용 시 결과의 일관성과 예후점수에 영향을 미친 주요 변수의 설명 가능성을 추가로 확인했습니다.

SeltaSquare Insight: AI 신뢰성을 뒷받침하는 설계와 문서화

규제기관은 AI가 지원할 규제 판단과 사용 범위를 먼저 확인하고, 그에 맞는 검증 수준을 요구합니다. 같은 모델이라도 AI 결과가 단독 판단 근거인지 보조 자료인지에 따라 모델 위험과 필요한 검증 범위가 달라집니다. 학습자료의 대표성, 반복 적용 시 결과의 일관성, 결과에 영향을 미친 주요 변수의 설명 가능성도 규제기관이 실제로 확인하는 주요 검토 항목입니다.

이 기준은 약물감시에도 그대로 적용됩니다. FDA Draft Guidance는 시판 후 이상사례를 파악하고 평가와 보고에 AI를 사용하는 경우도 적용 대상에 포함합니다. 따라서 각 업무에서 AI의 사용 맥락과 모델 위험, 검증 결과를 SOP에 따라 문서화하고, 규제기관 요청 시 관련 자료를 제시할 수 있어야 합니다.

AI를 활용해 후향적 데이터에서 위험을 분석하거나 연구 대상자를 선정하는 RWD 연구의 경우에도 데이터의 대표성, 모델의 재현성과 설명 가능성을 설계 단계부터 검토해야 합니다.

“셀타스퀘어는 AI의 사용 맥락과 검증 근거를 설계 단계에서 정의하고, 규제기관이 신뢰하는 약물감시 근거와 RWE를 생성하는 Evidence Partner입니다.”