상용 AI 대부분 악의적 공격 당해 임산부에 금기약 추천
최근 생성형 인공지능(AI) 챗봇에게 질환 상담을 하는 사례가 늘고 있는데, 상용 중인 AI 모델 대부분이 악의적 공격에 무방비로 당해 잘못된 치료를 권할 위험이 매우 높은 것으로 나타났다.
이번 연구는 AI 모델을 의료 상담에 적용할 때 AI 모델이 프롬프트 인젝션 공격에 얼마나 취약한 지를 세계 처음 체계적으로 분석했다는 점에서 의의가 크다.
모델별 공격 성공률은 △GPT-4o-mini 100% △Gemini-2.0-flash-lite 100% △Claude 3 Haiku 83.3%였다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “이데일리” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
