‘딥페이크 선거운동’ 우려 확산…지선 앞두고 대응 주목

딥페이크 선거운동에 경각심을 주는 일러스트. [사진제공=게티이미지뱅크]

【투데이신문 권신영 기자】6월 3일 실시되는 제9회 지방선거를 약 6주 앞두고 인공지능(AI)을 활용한 딥페이크 선거운동이 빠르게 확산되면서 선거 공정성을 위협하는 새로운 변수로 떠오르고 있다. 특히 관련 법이 신설된 이후 첫 고발 사례까지 나오면서 AI 콘텐츠에 대한 경각심이 요구되고 있다.

22일 취재에 따르면 중앙선거관리위원회(이하 중앙선관위)를 중심으로 6·3 지방선거 딥페이크 영상 확산 우려가 커지고 있다. 중앙선관위는 지난 2월 울산 남구선관위가 입후보예정자 A씨를 공직선거법 제250조(허위사실공표죄) 위반 혐의로 경찰에 고발했다.

해당 인물은 외국 유명 시사 주간지가 자신을 지역 발전을 이끌 인물로 선정했다는 내용의 딥페이크 영상을 제작해 개인 SNS에 게시한 혐의를 받고 있다. 이 영상은 AI로 구현된 아나운서가 뉴스를 진행하는 형식으로 만들어졌으며 AI 생성물이라는 표시도 하지 않은 것으로 조사됐다. 중앙선관위는 고발과 별도로 AI 생성물 미표시에 대해 500만원의 과태료도 부과했다.

해당 조치는 2023년 12월 딥페이크 영상 등을 이용한 허위사실 공표를 가중 처벌하도록 공직선거법이 개정된 이후 첫 고발 사례다. 개정 법에 따르면 딥페이크 영상임을 표시하지 않고 당선 목적의 허위사실을 공표할 경우 5년 이하의 징역 또는 5000만원 이하의 벌금에 처해질 수 있다.

딥페이크 선거운동은 이미 빠르게 증가하는 추세다. 중앙선관위는 지난해 제21대 대통령선거 당시 딥페이크 영상 등을 이용한 선거운동은 총 1만513건 적발됐다고 발표했다. 이는 2024년 제22대 국회의원 선거 당시 389건과 비교해 1년 만에 약 27배 증가한 수치다. 

현행 공직선거법은 선거일 전 90일 전부터 딥페이크 영상 등을 이용한 선거운동을 원칙적으로 금지하고 그 외 기간에도 AI로 제작된 정보라는 사실을 명확히 표시하도록 규정하고 있다. 제작된 정보를 SNS 등에 게시하거나 공유하는 등 배포·유포 행위 역시 금지 대상에 포함돼 유권자들의 각별한 주의가 요구된다.

경기도 과천시 중앙선거관리위원회 공명선거 조형물. [사진제공=뉴시스]

실제로 지난 1월 강원 속초에서도 AI 생성물 표시 없이 특정 입후보예정자를 찬양하는 노래를 게시한 사례가 적발돼 과태료 처분이 내려진 바 있다.

이 같은 문제는 해외에서도 확인할 수 있다. 2023년 슬로바키아 총선 직전에는 야당 대표와 언론인이 선거 조작을 논의하는 것처럼 꾸민 딥페이크 음성이 퍼졌고 조작 사실이 충분히 확인되기 전에 선거가 치러지면서 AI 기반 허위정보의 위험성이 부각됐다.

선거가 임박할수록 허위 정보의 확산 속도는 빨라지고 사실 확인이 지연될 수밖에 없다는 점에서, 딥페이크는 이번 지방선거의 핵심 변수로 부상할 가능성이 크다. 전문가들은 기술적 대응뿐 아니라 유권자의 정보 판별 능력과 플랫폼 책임 강화 등 종합적인 대응이 필요하다고 지적한다.

국민대 정치외교학과 장한일 교수는 ‘AI 딥페이크 제작물이 선거에 끼치는 영향’(2024) 분석에서 “AI 기반 딥페이크 제작물은 누구나 낮은 비용으로 실제와 구분하기 어려운 콘텐츠를 빠르게 만들어낼 수 있고 이 같은 정보가 SNS를 통해 단시간에 확산되면서 유권자의 판단에 직접적인 영향을 미칠 수 있다”고 짚었다.

그는 “왜곡되거나 허위의 정보가 선거 결과를 바꿀 가능성까지 있다는 점에서 민주주의의 핵심 과정인 선거의 공정성을 위협할 수 있다”며 “이러한 위험성 때문에 각국이 규제에 나서고 있지만 표현의 자유와의 충돌 문제도 함께 고려해야 하는 만큼 균형 잡힌 제도 설계가 필요하다”고 덧붙였다.