중앙선관위 "대선 후보자 관련 AI이미지 생성 조심하세요"

(챗GPT 생성 이미지)

[이데일리 한광범 기자] AI를 이용한 이미지 제작이 보편화되고 있는 가운데, 중앙선거관리위원회가 23일 대선과 관련해 유권자들에게 공직선거법 위반에 대한 각별한 주의를 당부했다.

중앙선관위는 대선이 40여 일 앞으로 다가오면서 생성형 AI로 제작한 영상이나 이미지 등을 SNS나 커뮤니티 사이트 등에서 선거운동을 위해 사용하게 되면 선거법 82조의8에 위반될 수 있다고 경고했다.

공직선거법 82조의8은 ‘누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등(딥페이크 영상 등)을 제작·편집·유포·상영 또는 게시하는 행위를 해선 안 된다“고 규정하고 있다. 이를 위반할 경우 7년 이하의 징역이나 1000만원 이상 5000만원 이하의 벌금에 처해질 수 있다.

중앙선관위는 딥페이크영상 위법게시물 등 확산을 차단하기 위해 지난 9일부터 중앙 및 시·도 선관위에 특별대응팀을 운영하고 있다. 지난 15일에는 검찰·경찰 및 네이버·카카오 등과 유관기관과 공동 대응방안을 논의했다.

중앙선관위는 특별대응팀을 통해 사이버상 위법 게시물을 상시 모니터링하고 위반 혐의가 있는 게시물 발견 시 SNS·포털사 등에 신속히 삭제요청을 하여 위법 게시물의 확산을 방지하고 있다. 또 딥페이크 영상 등의 위법 여부 판별을 위해 ’시청각적 탐지→프로그램 감별→AI 전문가 감별‘의 3단계 감별체계를 운영하고 있다.

특히 프로그램 감별에는 국립과학수사연구원(NFS), 한국전자기술연구원(KETI)이 공동 개발한 감별 도구 등을 활용하여 판별의 정확성을 더욱 높일 예정이다.

중앙선관위는 선거운동과 관련한 게시물 중 후보자 등 등장인물이 근거를 밝혀 직접 신고·제보한 경우 권리침해에 따른 ‘통지 및 게시중단(Notice and Takedown)’ 원칙을 활용해 포털사 등에 선제적으로 삭제요청 할 방침이다. 이러한 확산 방지 조치와 더불어 신고·제보 웹배너 게시, 선거운동용 딥페이크 영상 게시 중지 안내 등 SNS·포털사와 협업을 통한 자정캠페인도 함께 실시한다.

중앙선관위는 ”허위사실공표·비방행위가 후보자에게 회복하기 어려운 피해를 입힐 수 있고 유권자의 올바른 선택을 방해해 선거 결과를 왜곡시킬 수 있는 만큼 예방과 확산 방지에 최선의 노력을 다할 것“이라고 밝혔다. 특히 파급력이 큰 악의적인 딥페이크영상 등 유포자는 고발 등 엄중하게 대응할 방침이라고 전했다.