LLM 의료기기, '환각·왜곡' 검증 의무화…식약처, 허가 기준 첫 제시

식품의약품안전처가 거대언어모델(LLM)을 활용한 디지털의료기기의 허가·심사 기준을 담은 가이드라인을 선제적으로 마련했다.

식품의약품안전처 식품의약품안전평가원은 '거대언어모델(LLM) 기반 디지털의료기기 허가·심사 가이드라인'을 30일 제정했다고 밝혔다. 이번 가이드라인은 의료 분야로 빠르게 확산하는 LLM 기술의 안전성과 유효성을 체계적으로 검증하기 위해 마련됐다.

최근 의료계에서는 챗GPT와 같은 LLM 기술을 활용해 임상의사결정을 지원하거나 의무기록을 요약하는 등 다양한 제품 개발이 활발하다. 하지만 LLM 특유의 '환각(Hallucination)' 현상, 즉 중요 정보를 누락하거나 왜곡하고 맥락을 잘못 이해하는 문제가 허가 과정의 난제로 지적돼 왔다.

이번 가이드라인은 이러한 문제를 해결하기 위한 구체적인 검증 방법을 제시한 것이 특징이다. 특히 장기 대화(멀티 턴) 시 발생할 수 있는 오류, 정보 누락 및 왜곡, 맥락 오인식 등 7가지 주요 위해요인을 제시하고, 이에 대한 객관적·과학적 성능 검증 방법을 담았다.

또한 LLM 기반 디지털의료기기의 구체적인 예시 24건과 허가신청서 작성법, 분석적·임상적 유효성 확인 방안을 상세히 안내했다. 파운데이션 모델 변경 등 중요한 허가 변경에 해당하는 예시 18건도 포함해 개발 업체들의 예측 가능성을 높였다.

업계는 이번 가이드라인 제정을 환영하는 분위기다. 전문가협의체에 참여한 배웅 숨빗에이아이 대표는 "무엇을 어떻게 검증해야 하는지 구체적으로 제시돼 개발 과정의 불확실성을 크게 줄일 수 있을 것"이라며 "궁극적으로 국민이 더 안전한 인공지능 의료서비스를 받는 데 기여할 중요한 성과"라고 평가했다.

식약처는 LLM 기반 디지털의료기기가 실제 의료 현장에서 의무기록 작성 등 반복 업무 부담을 줄여 의료진이 환자 진료에 집중하게 하고, 환자에게는 질 높은 의료서비스를 제공할 것으로 기대했다.

한편 식약처는 가이드라인의 상세 내용을 안내하고 업계 실무 적용을 지원하기 위해 30일 서울지방식품의약품안전청에서 '디지털의료기기 허가·심사 임상평가 업무설명회'를 개최한다.