"딥페이크 선거 영상, 오인 가능성만 있어도 불법"

[이데일리 김현아 기자]제21대 대통령 선거가 50여 일 앞으로 다가온 가운데, 딥페이크(Deepfake)를 활용한 선거 콘텐츠가 공직선거법 위반에 해당할 수 있다는 경고가 나왔다.

또한 “일반 유권자가 오인할 가능성만 있어도 법 위반”이라는 선관위의 기준이 제시되면서 인공지능(AI)기반 영상·음성 생성 기술을 다루는 업계의 주의가 요구된다.

한국인터넷자율정책기구(KISO, 의장 김민호)와 중앙선거관리위원회는 지난 11일 ‘선거기간 인터넷 정보서비스 운영을 위한 간담회’를 공동 개최했다.

서울 서초구 KISO 대회의실에서 열린 이날 간담회에는 네이버, 카카오, 네이트, 이스트에이드, 뽐뿌, SLR클럽, 스캐터랩, 튜닙, 인벤 등 주요 포털·커뮤니티·AI 챗봇 관련 사업자 실무진이 참석했다.

딥페이크 선거운동 “현실 혼동 소지만 있어도 금지”

중앙선관위는 딥페이크를 이용한 선거운동 금지 조항이 지난해 1월부터 시행 중인 공직선거법에 명시돼 있다고 강조했다.

법에서는 △AI 기술로 생성된 △실제와 구분하기 어려운 △음향·이미지·영상 콘텐츠를 딥페이크로 규정하고, 이를 활용한 선거운동을 금지한다.

선관위 측은 “’실제와 구분하기 어렵다’는 판단 기준은 일반 유권자가 직관적으로 식별할 수 있어야 한다는 뜻”이라며 “조금이라도 현실과 혼동할 여지가 있다면 명백한 법 위반에 해당한다”고 설명했다.

KISO 측은 이번 간담회에서 딥페이크 및 허위정보 유포에 대응하기 위해 회원사들과 긴밀히 협력하겠다는 입장을 밝혔다. 김성덕 KISO 정책팀장은 “대통령 선거 기간 중 선관위의 법적 조치에 적극 협조하겠다”며 “공정한 선거 환경을 위해 KISO 차원에서 정책적 지원을 아끼지 않겠다”고 말했다.

이번 간담회는 윤석열 대통령 파면으로 치러지는 조기 대선을 앞두고, KISO가 모든 회원사에 적용하는 ‘선거 관련 인터넷 정보서비스 기준에 관한 정책’을 공유하는 자리이기도 했다.

이에 따라 대선일인 6월 3일까지 KISO 회원사는 공직선거법과 정보통신망법에 따라 후보자 측 요청으로 임시조치가 접수되면 중앙선관위에 신고하고 해당 결정에 따르게 된다.