AI가 처방전 72% 자동 갱신…의사 91% '동의'

미국 유타주에서 진행된 인공지능(AI) 챗봇의 처방전 갱신 파일럿 프로그램에서, AI가 의사 개입 없이 72%의 처방전을 성공적으로 갱신한 것으로 나타났다.

26일(현지시간) 바이오 전문매체 스탯(STAT)에 따르면 유타주는 AI 스타트업 도크트로닉(Doctronic)과 5개월간 진행한 파일럿 프로그램의 초기 데이터를 공개했다. 이 프로그램은 규제 당국의 감독과 안전장치 마련을 조건으로 규제를 면제해주는 제도 하에 운영됐으며, 약 200개 의약품에 대한 처방전 갱신에 AI 챗봇을 활용했다.

이번에 공개된 1단계 결과에 따르면 AI는 전체 처방전 갱신 요청의 72%를 의사에게 전달하지 않고 자체적으로 처리했다. AI가 갱신을 승인한 건에 대해 인간 의사가 검토한 결과, 91%의 사례에서 AI의 판단에 동의했다.

다만 AI의 판단과 의사의 판단이 항상 일치하지는 않았다. 2명의 다른 의사가 검토한 결과, 전체 사례의 3%에서는 두 의사 모두 AI의 갱신 결정에 동의하지 않았다.

이러한 초기 성과에도 불구하고 프로그램에 대한 반발도 거세다. 유타주 의료면허위원회는 파일럿에 대해 강력히 반대하고 있으며, 전문가들은 미국 식품의약국(FDA)의 승인 없이 AI가 합법적으로 처방전을 갱신할 수 있는지에 대한 의문을 제기하며 위험성을 경고했다.

특히 파일럿 프로그램의 모든 감독과 검토가 도크트로닉 내부 팀에 의해 이뤄졌다는 점은 한계로 지적된다. 이에 대해 잭 보이드 유타주 AI 정책실장은 "주 정부가 익명화된 대화 샘플을 확보해 독립적인 검토를 진행할 것"이라고 밝혔다.

애덤 오스코위츠 도크트로닉 공동 최고경영자(CEO)는 "초기 결과에서 부작용이나 부적절한 처방이 확인되지 않았다"며 "1단계의 사전 승인 절차가 의도대로 작동했다"고 시스템의 안전성을 강조했다.

반면 기리쉬 나드카르니 뉴욕 마운트 시나이 헬스 시스템 최고 AI 책임자는 "초기 운영 수치를 'AI 처방이 안전하다'는 결론으로 이어지게 해서는 안 된다"며 "AI 시스템이 일부 리필 요청 처리에 도움이 될 수 있다는 좁은 결론만 가능하다"고 신중한 해석을 당부했다.