생성형 AI, 의료에 적용했더니···"보안 침해 확률 81%"

대규모언어모델(LLM)을 의료 분야에 적용할 경우 발생할 수 있는 개인정보 유출 문제를 확인하기 위해 의도적 악성 공격을 시행한 결과 보안침해 확률이 최대 81%에 달하는 것으로 나타났다.

구체적 예시로 수술 준비를 위해 상세한 환자 정보를 제공하는 시스템으로 대규모언어모델을 학습시킨 뒤 의료기록 검토를 요청하는 프롬프트를 인코딩 방식으로 조정한 결과 대규모언어모델이 대답을 생성하는 과정에서 민감한 환자 데이터는 물론 의료진의 이름이나 전문 분야 등 구체적인 정보가 노출됐다.

김영학 교수는 "의료 분야에서 대규모언어모델을 활용했을 때 기대되는 발전이 크지만, 데이터 보안 강화 없이는 심각한 개인정보유출로 이어질 수 있다"며 "민감한 개인정보를 다루는 분야인 만큼 보안의 중요성이 특히 강조되며 독립적으로 운용되는 의료 특화형 대규모언어모델이 필요하다"고 말했다..