선관위, 'AI딥페이크 특별대응팀' 가동…가짜 이미지·영상 단속

"악의적인 딥페이크 유포자는 고발 등 엄중 대응 방침"

선관위 특별대응팀

중앙선관위 특별대응팀이 선거법 위반 혐의 게시물에 대한 모니터링을 하고 있다. [중앙선관위 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 최평천 기자 = 중앙선거관리위원회는 23일 딥페이크 영상과 이미지 등을 활용한 위법한 선거운동을 방지하기 위해 '허위 사실·비방 AI 딥페이크 특별대응팀'을 운영하고 있다고 밝혔다.

선관위는 "허위 사실 공표·비방 행위는 유권자의 올바른 선택을 방해해 선거 결과를 왜곡시킬 수 있다"며 "파급력이 큰 악의적인 딥페이크 영상 등의 유포자는 고발 등 엄중하게 대응할 방침"이라고 밝혔다.

선관위는 또 "누구나 손쉽게 AI를 활용한 영상이나 이미지를 제작할 수 있는 만큼 유권자들이 영상이나 이미지를 활용할 때 선거법에 위반되지 않도록 각별히 주의해야 한다"고 당부했다.

이에 따라 선관위는 지난 9일부터 중앙과 시도 선관위에 특별대응팀을 설치했으며, 온라인 위법 게시물을 상시 모니터링하고, 위반 혐의가 있는 게시물을 발견하면 포털사이트 등에 삭제 요청을 하고 있다.

선관위는 시청각적 탐지, 프로그램 감별, AI 전문가 감별 등 3단계를 거쳐 영상과 이미지를 감별한다.

프로그램 감별 단계에서는 국립과학수사연구원(NFS)과 한국전자기술연구원(KETI)이 공동 개발한 감별 도구 등이 활용된다.

공직선거법에 따르면 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·게시할 수 없다.

[e-mail]