AI 화학 에이전트, 오류 무시하고 오답 확신…제약 R&D 안전성 경고

AI 화학 에이전트가 분자 입력 오류를 무시한 채 잘못된 독성 결론을 확신 있게 내놓은 사례가 공개됐다. 휴먼케미컬컴퍼니의 스리짓 실 수석과학자는 거짓음성(안전하다고 잘못 판단)이 거짓양성보다 훨씬 위험하다고 지적했다.

미국 스탠퍼드대 연구진은 3만7000개 이상의 AI 에이전트로 5만5984건의 임상시험을 분석하는 가상 바이오텍 실험을 진행했지만, 치료 가설은 여전히 실제 검증이 필요하다고 밝혔다.