부위별 탐지·데이터 손실 증거물 분석 가능…선거·성범죄 15건 감정 수행
"여가부·방통위 등 유관기관에 분석 모델 단계적 제공"
(서울=연합뉴스) 오진송 기자 = #1. 21대 대통령 선거 기간 특정 후보가 하지 않은 발언을 하는 것처럼 조작한 영상이 온라인에 퍼졌다. 국립과학수사연구원(국과수)은 인물 음성의 미세한 비일치성을 탐지해 이 영상이 딥페이크라고 판단했고, 유권자에게 혼란을 줄 수 있는 상황을 조기에 차단했다.
#2. 소셜미디어(SNS)에서 얻은 지인의 얼굴 사진을 나체 이미지에 합성해 온라인에 유포한 사건이 발생했다. 국과수는 해당 영상을 분석한 결과 합성된 얼굴의 경계면에 나타난 왜곡을 포착했다. 이 감정 결과는 허위 영상의 신속한 차단과 수사 착수를 위한 결정적 증거로 활용됐다.
이들은 행정안전부가 국과수와 함께 개발한 '인공지능(AI) 딥페이크 분석모델'을 범죄 수사에 활용한 사례다.
딥페이크는 AI 기술을 이용해 사진이나 영상에 다른 이미지를 중첩·결합해 실제와 매우 흡사한 가짜 이미지나 영상을 만드는 기술을 말한다.
최근 딥페이크 기술을 악용해 허위 정보를 제작해 온라인상에 유포하는 일이 벌어지면서 사회적 문제가 되고 있다.
행안부는 수사기관이 관련 증거물 분석에 어려움을 겪는 상황을 극복하기 위해, 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 분석 모델을 개발해 지난 4월 검증을 마쳤다.
모델 개발 과정에서 공개 데이터 세트와 자체 제작 콘텐츠 등 딥페이크 데이터 약 231만 건을 활용했다. 분석 모델은 딥페이크 흔적을 자동으로 탐지하고, 변조 의심 파일의 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속히 판단한다.
특히 이 모델은 눈·코·입 등 신체 부위별 탐지 능력과 데이터가 일부 손실된 증거물에 대해서도 뛰어난 분석 능력을 갖췄다고 행안부는 설명했다.
실제로 이 모델은 경찰청 등 수사기관의 의뢰를 받아 5∼6월 21대 대통령 후보 관련 선거범죄 13건, 디지털 성범죄 2건 등 총 딥페이크 관련 범죄 15건에 대한 감정을 수행하는 데 활용됐다.
대통령 선거 기간에는 중앙선거관리위원회에 이 모델을 공유해 유튜브 등 온라인 공간에 퍼진 불법 딥페이크 선거홍보물 1만여 건을 찾아내 삭제하는 데 기여했다.
행안부는 이 분석 모델을 여성가족부, 방송통신위원회 등에도 단계적으로 제공해 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 지원할 예정이다.
이봉우 국립과학수사연구원장은 "빠르게 변화하는 첨단 기술 환경에 선제적으로 대응해 국민이 신뢰할 수 있는 과학 수사체계를 구축하겠다"고 말했다.
이용석 행안부 디지털 정부혁신실장은 "앞으로도 행안부는 AI와 데이터분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것"이라고 강조했다.
dindong@yna.co.kr
Copyright ⓒ 연합뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
