6·3 전국동시지방선거가 일주일 앞으로 다가온 가운데, 인천에서 인공지능(AI)을 활용한 가짜 동영상이나 음성이 유포되면서 선거 분위기를 흐리고 있다.
26일 인천시선거관리위원회에 따르면 이날 현재까지 선관위가 적발한 AI 활용 선거운동 위반 사례는 서면 경고 등 행정 조치 1건, 삭제 등 경미한 조치 83건으로 집계됐다. 22대 총선 당시 중앙선거관리위원회가 전국에서 적발한 사례가 389건임을 감안하면 인천에서도 꽤 가파른 증가세다.
현행 공직선거법은 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 기술 등으로 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 만들어 배부해서는 안 된다고 명시한다.
하지만 최근 AI 기술의 급격한 발달로 누구나 쉽게 이를 만들 수 있게 되면서, 캠프 관계자는 물론 일반 지지자들까지 무심코 법을 위반해 적발되고 있는 실정이다.
실제로 선관위는 한 구의원 후보 캠프에 공약을 진짜 배경이나 사람과 합성, 뉴스 기사처럼 보이게 만든 사례를 확인하고 이를 삭제하라고 지시했다. 또 지지자가 후보 공약이나 경력을 AI를 활용, 노래로 만든 사례도 확인해 이 역시 삭제를 명했다.
이처럼 선관위가 적발한 대다수 사례는 후보 공약을 홍보하기 위해 AI를 활용해 짧은 영상을 만드는 경우다. 일부 캠프나 지지자들은 자신이 지지하는 후보를 띄워주기 위해 AI를 활용해 만화나 그래프 등을 이용해 상대 후보를 비방하는 네거티브 전략을 사용하기도 한다. 만화나 그래프 등은 공직선거법 상 실제와 구분하기 어려운 이미지나 영상이 아니라서 단속 대상도 아니다.
이 때문에 선거 현장에서는 이러한 AI 활용 딥페이크 대응에 큰 어려움을 겪고 있다.
인천 지역 한 후보 캠프 관계자는 “최근 AI 기술이 발전해 지지자들이 자발적으로 만들어 주기도 한다”며 “혹시라도 법 위반 요소가 있을까 봐 캠프 차원에서 일일이 모니터링하고 오히려 유포를 말리느라 진땀을 빼고 있는 상황”이라고 토로했다.
이에 대해 인천시선관위 관계자는 “대부분은 지지자나 캠프에서 관련 법을 잘 모르고 가벼운 선거 로고나 정책 홍보물을 만드는 것이지만 이마저도 명백한 불법”이라며 “지난해 총선 때보다 AI 기술 자체가 크게 발달해 관련 내용 모니터링과 감시를 대폭 강화하고 있다”고 말했다. 이어 “실시간으로 확인해 삭제 요청을 하고, 이를 어길 경우 행정조치나 고발 등 엄정 대응할 계획”이라고 덧붙였다.
Copyright ⓒ 경기일보 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
