선관위, AI 딥페이크 영상 유포자에 허위사실 공표 첫 고발

'AI로 제작' 미표시 행위에 과태료 500만원 부과도

중앙선거관리위원회 관악청사

[촬영 안 철 수]

(서울=연합뉴스) 박재하 기자 = 중앙선거관리위원회는 9일 인공지능(AI)으로 제작한 허위 영상물(딥페이크 영상)을 SNS에 게시한 입후보예정자 A씨를 공직선거법 위반 혐의로 울산 남구선관위가 경찰에 고발했다고 밝혔다.

선관위에 따르면 A씨는 '외국의 유명 시사 주간지에서 ○○의 발전을 이끌 인물로 A를 선정했다' 등 허위의 딥페이크 영상을 제작한 후 AI로 제작한 사실을 영상에 표시하지 않고 개인 SNS에 게시·유포한 의혹을 받는다.

이번 고발 건은 딥페이크 영상 등을 이용해 허위사실을 공표하는 행위를 가중 처벌하는 규정이 2023년 12월 28일 신설된 후 최초로 고발한 사례다.

현행법에 따르면 딥페이크 영상임을 표시하지 않고 당선될 목적으로 후보자나 후보자가 되고자 하는 자에게 유리한 허위사실을 공표한 사람은 5년 이하의 징역 또는 5천만원 이하의 벌금에 처할 수 있다.

아울러 선관위는 고발 조치와 별도로 해당 영상에 AI 생성물임을 표시하지 않은 행위에 대해 A씨에게 500만원의 과태료를 부과했다.

공직선거법상 누구든지 선거일 90일 전(3월 4일)까지 선거운동을 위해 실제와 구분하기 어려운 가상의 음향·이미지·영상을 활용하는 경우 AI로 만든 가상의 정보라는 사실을 표시해야 한다.

이에 선관위는 "지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 '딥페이크 등 허위사실공표·비방 특별대응팀'을 운영하고 있다"며 "앞으로도 유권자의 올바른 판단을 저해하고 선거의 공정성을 훼손하는 딥페이크 영상 등 유포자에 대해 강력히 대응할 방침"이라고 밝혔다.

[e-mail]