의료용 AI, 악의적 입력에 취약…프롬프트 인젝션 공격 시 안전성 한계 확인
이번 결과는 연구진이 설정한 공격 시나리오와 실험 조건에서 관찰된 현상으로, 의료 분야 활용에 앞서 보안 검증의 필요성을 시사한다는 설명이다.
/이미지=AI 생성 서울아산병원 비뇨의학과 서준교 교수·정보의학과 전태준 교수팀과 인하대병원 영상의학과 이로운 교수팀은 의료용 대규모언어모델(LLM)의 보안 취약성을 분석한 다기관 공동연구에서 프롬프트 인젝션 공격을 가정한 실험 환경에서 높은 공격 성공률을 확인했다고 5일 밝혔다.
그 결과, 연구진이 설정한 시나리오 내에서 공격 성공률이 높게 나타났으며, 최신 모델 역시 해당 유형의 공격을 완전히 방어하지는 못했다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “디지틀조선일보” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
