연예인 악플까지 반영한 ‘한국형 AI 위험 시나리오’…TTA, 안전성 데이터셋 구축
한국정보통신기술협회(TTA)가 생성형 AI의 위험 요소를 정량적으로 평가할 수 있는 대규모 데이터셋 ‘AssurAI’를 구축해 공개했다.
특히 연예인 악플 재현 요청처럼 한국 온라인 환경에서 실제로 자주 발생하는 위험 시나리오까지 포함해, 국내 현실에 맞춘 AI 안전성 평가 기반을 마련했다는 점이 특징이다.
모델 위험성 측정, 레드팀 테스트 설계, 기업 내부 안전성 점검 등 다양한 분야에서 활용될 전망이다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “이데일리” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
