환자 데이터 유출 '제로'…단일 시스템서 임상 AI 6개 구동

의료기관이 환자 데이터를 외부로 내보내지 않고도 최첨단 임상 의사결정 AI를 구동할 수 있는 시스템이 나왔다.

8일(현지시간) 바이오파마 다이브에 따르면 델 프로 맥스(GB300)와 엔비디아 그레이스 블랙웰 울트라 GB300 슈퍼칩 기반의 새 참조 아키텍처가 공개됐다. 이 시스템은 다중 에이전트 임상 AI를 전적으로 온프레미스에서 구동해 환자 데이터를 기관 자체 인프라 안에서만 처리한다.

연구실과 기업 AI 팀을 겨냥한 이 장비는 FP4 기준 2만 테라플롭스(TFLOPS)의 연산 성능을 갖췄다. 최대 1조개 파라미터 규모 모델을 올릴 수 있는 메모리 여유도 확보했다.

엔비디아가 최근 공개한 플레이북에 따르면 이 시스템은 단일 슈퍼컴퓨터에서 6개의 특화 AI 에이전트를 구동한다. 조정자 1개와 환자 데이터·검사 및 활력징후·약물·임상 분석·분자 시각화를 담당하는 5개 전문 에이전트로 구성된다.

핵심에는 1200억개 파라미터의 혼합 전문가(MoE) 모델인 엔비디아 네모트론 3 슈퍼가 컨테이너 추론 방식으로 로컬 구동된다.

이 아키텍처는 데이터가 기기를 벗어나지 않는 에어갭 배포를 지원한다. 환자 데이터는 로컬에서 처리되며 호스팅 대형언어모델(LLM)이나 외부 AI 서비스를 거치지 않는다. 암묵적 거부 네트워크 정책 아래 소수의 읽기 전용 아웃바운드 연결만 허용된다.

이 시스템은 기존 임상 업무 흐름을 대체하기보다 보완하도록 설계됐다. 예컨대 진료 격차 식별 업무에서 품질팀이 검사 결과를 측정 기준과 수작업으로 대조하던 과정을 자동화해 목표 기준을 벗어난 환자를 찾아낸다.

다만 임상 판단의 근거는 모델 가중치가 아닌 파일에 저장된다. 기관 기준에 맞춰 임계값을 9.0%에서 8.5%로 바꾸면 다음 질의부터 에이전트가 갱신된 값을 곧바로 반영한다. 재학습 없이 사람이 읽을 수 있는 스킬 파일을 질의 시점에 읽기 때문에 진료 지침이 바뀌어도 즉시 따라갈 수 있다.

델 AI 팩토리는 워크로드를 로컬과 데이터센터·클라우드 중 적절한 곳에 배치하도록 지원한다. 델 프로 맥스 GB300은 단일 데스크사이드 시스템에서 프런티어급 LLM과 단백질 구조 예측 모델을 동시에 구동할 만큼 GPU 메모리 밀도가 높다.

규제 산업에서 데이터는 곧 지식재산(IP)이다. 이들 분야 기관은 학습 데이터와 모델 가중치를 자체 방화벽 인프라 안에 두기를 요구하는 경우가 많다. 온프레미스 인프라는 변동성 있는 토큰 비용을 예측 가능한 자본 투자로 전환하는 효과도 있다.

이 플레이북은 완제품이 아닌 개념 증명이지만, 정교한 AI를 로컬에서 구동하는 데 드는 연산 장벽이 대다수 의료 시스템과 바이오제약 기관이 감당할 수 있는 수준 아래로 내려왔다는 신호를 보낸다고 바이오파마 다이브는 전했다.

해당 플레이북은 엔비디아 검증을 거쳐 델 AI 팩토리에서 신속 배포가 가능하도록 제공된다. 의료·바이오제약 기관은 이를 내려받아 약 1시간 만에 6개 에이전트 시스템 전체를 배포하고 자체 활용 사례에 맞춰 평가할 수 있다. 데스크사이드에서 데이터센터까지 아키텍처가 일관돼 로컬에서 검증한 것을 재학습이나 플랫폼 전환 없이 AI 팩토리로 확장할 수 있다.