TTA, 생성형 AI 공격 전략 실증 연구 결과 발표
연구진은 이 중 공격에 성공한 사례 2673건을 선별해 각각에 대해 △공격 타겟(피해 대상), △공격 유형(프롬프트 전략)을 별도로 라벨링했다.
공격 유형은 ‘질문’, ‘직접 요청’, ‘상황 가정’, ‘편향 주입’, ‘순차/누적 질의’ 등 총 10개 전략 유형으로 분류됐다.
공개되는 데이터셋은 AI 신뢰성 평가, 공격 탐지 알고리즘 개발, 프롬프트 설계 연구 등에 활용될 수 있으며, 학계와 산업계의 다양한 LLM 방어 전략 수립에 기여할 전망이다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “이뉴스투데이” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
