세계 거대 기술기업들이 생성형 인공지능(AI) 기술로 제작된 정치 딥페이크(Deep fake·현실과 거짓을 뒤섞은 이미지·음성·영상) 퇴치를 위해 뜻을 한데 모은다. 미국 대통령 선거를 비롯 전 세계 76개국에서 선거가 치러지는 올해 딥페이크로 인한 피해를 차단하자는 취지에서다.
13일(현지시간) 폴리티코 등 외신 보도에 따르면 구글, 메타, 마이크로소프트, 오픈AI, 틱톡, 어도비 등 거대 기술기업들은 'AI 딥페이크 퇴치 협약'과 관련된 서한을 폴리티코에 보냈다. 서한에 따르면 기술 기업들이 유권자를 대상으로 한 AI의 기만적인 사용에 맞서는 협정 내용이 담겼고, 이는 오는 16일 독일 뮌헨에서 열리는 '뮌헨 보안 콘퍼런스'에서 공개된다.
협정 초안은 구글 등 기업들이 공인의 '딥페이크' AI 조작 이미지 및 오디오를 찾아내 라벨을 지정하고, 워터마크 및 탐지 기술과 같은 도구를 만들기 위해 협력한다는 내용이 담겼다고 한다. 특히 기업들이 자사 플랫폼을 통해 생성된 허위 정보에 어떻게 대응하고 있는지에 대해서도 공개하겠다는 약속도 포함됐다.
“우리는 선거의 정직성과 대중의 신뢰를 보호하는 것이 당파의 이해관계와 국경을 초월하는 공동 책임이자 공동선임을 확인합니다.”라고 명시됐다고 폴리티코는 보도했다. 초안이기 때문에 내용은 변경될 수 있다는 설명이다. 16일 콘퍼런스에서 정확한 협정 내용이 공개될 예정이다.
뉴욕대 산하 AI 나우 연구소(AI Now Institute)의 공동 설립자인 메러디스 휘태커(Meredith Whittaker)는 지난주 문서 초안을 놓고 "기업이 자율적으로 규제할 수 있다고 믿을 수 있는 시대는 이미 지났다"라고 했다. 이어 그는 "딥페이크를 유포할 수 있는 플랫폼이 없다면 딥페이크는 문제가 되지 않는다"라는 말도 남겼다.
앞서 AI를 이용한 딥페이크 콘텐츠가 확산되자 이들 기업 중 일부는 이미 자체적인 대응책을 마련해 발표하기도 했다. 틱톡은 공인의 이미지를 이용한 AI 생성 콘텐츠가 정치적 또는 상업적 홍보를 위해 사용되는 것을 금지하고 있다. 메타는 페이스북과 인스타그램에 정치 광고를 게시할 때 AI를 사용했는지 여부를 공개하도록 요구하고 있다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
