[엠투데이 이세민 기자] 일론 머스크가 이끄는 xAI의 인공지능 챗봇 ‘그록’이 성적 딥페이크 영상 및 이미지 생성 문제로 인해 일부 국가에서 접속 차단 조치를 당했다.
인도네시아와 말레이시아 정부는 AI가 생성한 성적 콘텐츠, 특히 미성년자 관련 딥페이크가 대량으로 유통된 것을 문제 삼아 그록에 대한 접근을 일시적으로 차단했다.
인도네시아의 통신·디지털부 장관 메우티야 하피드(Meutya Hafid)는 이번 조치를 공식적으로 발표하며 “그록을 통한 성적 딥페이크 확산이 디지털 공간에서 시민의 권리·존엄·안전을 심각하게 침해하고 있다”고 비판했다.
인도네시아가 먼저 차단 조치를 발표한 뒤, 말레이시아도 유사한 접근 제한 명령을 내렸다.
앞서 유럽과 인도 등에서도 그록과 유사한 AI 서비스의 위험성을 우려하며 조사와 규제 논의가 진행되어 왔으나, 실제 차단 조치가 시행된 것은 이번이 처음이다.
논란이 커지자 xAI는 그록이 생성하는 이미지 생성 기능을 제한하는 대응에 나섰다. 기본적으로 그록을 통한 이미지 생성 기능은 유료 구독자에게만 제한적으로 제공되도록 변경됐다.
그러나 이 조치는 “근본적인 문제 해결에는 미흡하다”는 비판을 받았다. 단순히 유료화를 통해 악성 콘텐츠 생성을 억제하는 방식은 비윤리적 콘텐츠 제작 자체를 기술적으로 차단하지 않는다는 지적 때문이다.
또한, 그록 이미지 생성 기능은 현재 X 플랫폼에서는 제한되지만, 독립 애플리케이션 형태의 그록 앱에서는 여전히 생성이 가능한 것으로 알려져 혼선이 일고 있다.
머스크는 이번 국가의 차단 조치를 ‘언론 검열을 위한 구실 찾기’라고 일축하며 강하게 반발했다.
xAI 공식 이메일 답변은 “Legacy Media Lies (전통 매체의 거짓)”라는 문구를 자동 회신으로 보내며 언론 보도를 비난하고 있다.
반면 미국에서도 정치권의 압박은 강화되는 분위기다. 일부 민주당 상원의원들은 애플과 구글에 그록 앱을 앱스토어와 구글 플레이스토어에서 제거할 것을 요구하는 공식 성명을 발표했다.
이들은 “불법 콘텐츠 방지를 위한 정책을 준수하지 않을 경우 플랫폼에서 제거돼야 한다”고 강조했다.
한편, xAI와 그록 서비스는 해당 지역에서의 차단 조치가 일시적이라고 설명하며, 앞으로 규제 요건과 기술적 개선 방안을 논의할 것이라고 밝혔다.
Copyright ⓒ M투데이 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
