오는 6월 3일 치러지는 제9회 전국동시지방선거(이하 6·3 지방선거)를 앞두고 인공지능 기술을 악용한 합성 영상이나 사진, 이른바 '딥페이크' 경계령이 내려졌다. 중앙선거관리위원회(이하 선관위)가 일찌감치 "선거운동을 위한 딥페이크 활용은 선거법 위반이다"고 못 박았음에도 여전히 딥페이크에 대한 우려는 가시지 않고 있다. 세계 각국에서 파급력이 크고 진실을 왜곡하기 쉬운 딥페이크 악용 사례가 끊이지 않았던 탓이다.
조롱·비방에 사기 악용까지…인공지능의 어두운 이면 '딥페이크' 몸살 앓는 국제사회
경찰청 등에 따르면 딥페이크 관련 범죄는 날로 고도화·지능화되고 있다. 2024년 기준 딥페이크 관련 범죄 중 96%는 지인의 사진이나 영상을 합성·편집·가공해 성착취물을 제작해 유포하는 성범죄 성격을 지닌 것으로 조사됐다. 그 해 방송통신위원회에서 차단 조치한 딥페이크 관련 음란물 사이트 수도 2만3000개에 달했다.
그러나 불과 2년 새 딥페이크 기술을 악용하는 사례가 눈에 띄게 광범위해졌다. 앞서 3·1절 전후로 등장한 독립운동가 조롱 콘텐츠가 대표적이다. 안중근 열사 사진을 기차나 풍선에 합성하는가 하면 유관순 열사 방귀 영상과 김구 선생의 표정을 바꿔 희화화하는 영상 등이 온라인 상에 급속도로 퍼졌다.
가족이나 지인 목소리를 활용한 보이스피싱이나 유명인 음성 등을 활용한 투자사기도 기승을 부리고 있다. 일례로 현재 경찰이 수사 중인 것으로 알려진 '신재생 에너지(태양광) 투자사기'는 가수 임영웅을 내걸고 피해자들을 현혹해 1인당 적게는 100만원에서 많게는 9억원까지 갈취해 큰 충격을 줬다. 연예인들이 직접 나서 "자신을 이용한 투자 권유에 속지 말라"고 공공연히 알리는 장면도 자주 목격되고 있다.
딥페이크 관련 범죄 문제는 비단 우리나라만의 이야기는 아니다. 앞서 캐나다에선 마크 카니 총리가 등장해 "정부가 암호화폐 투자 프로그램을 만들었다. AI가 미래다; 정부가 수익을 보장하니 투자하라"고 말하는 가짜영상이 확산돼 큰 파장이 일었다. 당시 영상은 카니 총리가 2025년 7월 실제 대중을 상대로 연설한 영상을 기반으로 사실과 구분하기 어려울 정도로 정교하게 제작돼 충격은 더욱 컸다.
문제는 딥페이크 관련 범죄가 '민주주의의 꽃'으로 불리는 선거에까지 악용되고 있다는 사실이다. 특정 후보를 깎아내릴 목적으로 딥페이크 기술을 악용해 사실과 전혀 다른 영상·사진 콘텐츠를 제작·유포하는 식이다. 캐나다 AI정책·전략 싱크탱크 국제거버넌스혁신센터(Centre for International Governance Innovation)는 지난해 세계 각국에서 선거에 영향을 미친 딥페이크 활용 사례를 보고하면서 "딥페이크 특성상 제작자가 누구인지를 특정하는 것이 어려워 선거에 외국이 개입할 가능성이 높아진다"는 점을 경고했다.
그러면서 ▲뉴욕시장 예비선거와 하원의원 선거에 일부 후보들이 AI를 부적절하게 사용했다는 의혹이 네거티브 공격 수단이 된 사례 ▲극우 정당인 독일대안당(AfD)이 과거의 향수를 자극하기 위해 이미 사망한 정치인을 AI 딥페이크로 구현하여 선거운동에 활용한 사례 등이 유의미한 영향을 미쳤다고 보고했다.
인터넷 이용자수가 8억명에 이르는 인도에서도 딥페이크 기술을 악용한 선거 부정 사건이 등장해 사회 전체가 들썩인 적 있다. 국제정보환경패널(IPIE)이 발표한 'Generative AI in Electoral Campaigns(2025)'에 따르면 인도에선 ▲사망한 거물 정치인들을 복원해 지지 연설 영상 제작 ▲볼리우드 탑스타 아미르 칸 등이 특정 진영을 비방하는 허위 영상 제작 ▲여성정치인의 얼굴로 음란물을 만들어 위축시킨 공격 등 딥페이크 관련 사건·사고가 끊이지 않았다.
미국에선 딥페이크 제작물을 선거에 활용한 정치컨설턴트와 통신사가 형사 기소된 사례도 등장했다. 뉴햄프셔주 검찰에 따르면 정치 컨설턴트 스티브 크레이머는 2024년 1월 미국 뉴햄프셔주 프라이머리(예비경선) 과정에서 바이든 목소리로 AI 로보콜을 만들어 유권자에게 '투표를 하지 말라'는 투표방해운동을 기획하는 등 13건의 중죄를 저지른 혐의로 재판에 넘겨졌다. 관련 재판이 지금도 진행 중이다. 이와 별개로 미국 연방통신위원회(FCC)도 정치 컨설턴트에게 600만 달러의 과징금을, 로보콜 전화를 송신한 통신사에 100만달러의 과징금을 각각 부과했다.
법무법인 대겸 김대광 대표변호사는 "우리 공직선거법은 레거시 미디어 규제만 담고 있을 뿐 SNS를 통한 딥페이크 확산 등과 같은 이슈를 촘촘하게 규율하기엔 아직 부족한 측면이 없지 않다"며 "선거법 위반에 대한 제재가 아무리 강하더라도 이미 선거에 영향을 미친 이후의 제재는 공정선거 수호의 측면에서는 의미가 약하다"고 강조했다. 그는 "각 정당 차원에서 선거 공정성 시비를 막기 위한 예방적 노력을 고민해야 하고 선거 당국도 실시간 모니터링과 기민한 대처 등을 토대로 선거 공정성 시비를 사전에 방지해야 한다"고 덧붙였다.
Copyright ⓒ 르데스크 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
