“대통령도 겪는 가짜영상 피해”···방통위·기업 딥페이크 자율규제 논의 착수

▲ 이상인 방송통신위원회 부위원장. 사진=뉴시스

투데이코리아=김준혁 기자 | 최근 윤석열 대통령을 대상으로 한 가짜 영상이 논란을 일으키고 있는 가운데, 딥페이크 영상의 사회적 폐해를 미연에 방지하기 위해 정부와 관련 기업들이 회의를 진행했다.
 
24일 정부 및 업계에 따르면, 방송통신위원회는 전날(23일) 민관협력 회의를 개최하고 딥페이크 허위정보 대응 관련 자율규제 강화에 대한 논의를 진행했다.
 
딥페이크(Deepfake)는 AI(인공지능) 기술 ‘딥러닝(Deep Learning)’과 가짜를 뜻하는 ‘페이크(Fake)’의 합성어로 AI를 활용해 다른 이미지 및 영상을 사용한 합성 이미지, 영상물을 뜻하며 최근 진위 여부를 알 수 없는 영상들이 등장해 이에 대한 위험성이 제기되기도 했다.
 
방통위 관계자는 “이날 회의는 최근 딥페이크 기술을 활용한 유명인 관련 허위조작정보가 SNS 등에 확산되며 실제 사기 피해가 발생하는 등 사회적 문제로 대두됐다”며 “사업자가 즉시 취할 수 있는 피해 예방 대책을 논의하기 위해 마련된 자리”라고 설명했다.
 
이날 회의에는 네이버, 카카오를 비롯해 구글, 메타, 엑스(X, 舊트위터), 바이트댄스(틱톡) 등 국내외 대표 IT 기업 관계자가 참석했으며, ‘AI 생성물 표시’, ‘탐지 모니터링’, ‘삭제·차단 조치’ 등과 관련된 자율규제 현황 및 강화 방안 등이 주요 안건으로 오른 것으로 전해졌다.
 
회의를 주재한 이상인 방통위 부위원장은 “딥페이크 허위정보로 인한 개인 피해와 사회적 혼란을 예방하기 위해서는 플랫폼의 자정 노력이 무엇보다 중요하다”며 “특히 올해는 전 세계적으로 큰 선거들도 앞두고 있는 만큼 더욱 적극적이고 선제적인 자율규제에 나서달라”고 당부했다.
 
이 부위원장은 또한 국내 사업자에게 “뮌헨 기술협약 등 글로벌 기업의 자율규제 강화에 상응 하는 조치를 취해달라”고 말하는 한편 글로벌 사업자에게는 “국내 사업자 수준의 신속한 조치에 최선을 다해달라”고 강조했다.
 
이 부위원장이 언급한 뮌헨 기술협약은 구글, 메타, 엑스(X), 틱톡 등 20개 주요 플랫폼·기술 기업이 자발적으로 서명한 기술협약으로, 2024년 선거 관련 AI의 기만적 사용 방지를 목적 아래 진행됐다.
 
한편, 서울경찰청은 최근 인터넷 상에서 확산되고 있는 46초 분량의 가짜 윤석열 대통령 딥페이크 영상물에 대해 방송통신심의위원회에 차단을 요청했다.
 
경찰은 “같은 URL 주소를 통해 틱톡, 인스타, 페이스북 사이트 계정을 사용하는 회원이 ‘가상으로 꾸며본 윤 대통령 양심고백연설’이란 제목의 영상 등을 게시한 것으로 확인돼 삭제·차단을 요청한다”고 밝혔다.

특히 김수경 대통령실 대변인은 23일 대통령실 브리핑에서 해당 영상과 관련해 “명백히 허위 조작 영상이며 설령 가상이라고 표시했다 해도, 가상 표시를 삭제한 편집 영상이 온라인서 확대 재생산되고 있으므로 반드시 근절돼야 한다”며 강력 대응 방침을 시사했다.