인도네시아, 머스크의 AI 챗봇 ‘그록’ 첫 국가 차단

사진=뉴시스 제공.

세계 최대 무슬림 인구 국가인 인도네시아 정부가 일론 머스크가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록(Grok)’에 대해 음란 콘텐츠 생성 위험을 이유로 접속을 일시 차단했다. 특정 국가가 그록 사용을 공식적으로 차단한 것은 이번이 처음이다.

10일(현지시각) 영국 가디언 등 외신에 따르면, 인도네시아 통신·디지털부는 이날 성명을 통해 “비동의 성적 딥페이크를 포함한 AI 기반 음란 콘텐츠 생성은 인권과 인간의 존엄, 디지털 공간에서 시민의 안전을 심각하게 침해하는 행위”라며 그록 서비스 접근 차단 결정을 밝혔다.

정부는 이번 조치와 관련해 소셜미디어 플랫폼 X(구 트위터) 관계자들을 소환해 재발 방지 및 대응 방안을 논의할 예정이라고 설명했다. 인도네시아는 온라인 외설물 유통을 엄격히 금지해 왔으며, 최근에는 AI 기반 이미지 생성 기술 전반에 대한 규제도 강화하는 추세다.

이번 차단 조치는 그록이 여성의 신체를 노출하거나 미성년자를 성적으로 묘사하는 이미지 생성에 악용됐다는 사례가 확산한 데 따른 것이다. 이에 xAI는 보호장치가 충분히 작동하지 않았다는 점을 인정하고, 이미지 생성·편집 기능을 유료 이용자로 제한하는 한편 내부 점검에 착수했다.

머스크 역시 엑스를 통해 “그록을 이용해 불법 콘텐츠를 제작할 경우, 불법 콘텐츠를 직접 게시한 것과 동일한 책임을 지게 될 것”이라며 사용자 책임을 강조했다.

한편 그록을 둘러싼 규제 압박은 인도네시아에만 국한되지 않고 있다. 영국에서는 벌금 부과와 규제 조치, 나아가 엑스 플랫폼 자체에 대한 제재 가능성까지 거론되고 있다. 호주에서도 앤서니 앨버니지 총리가 “동의 없는 성적 착취에 생성형 AI가 사용되는 것은 혐오스러운 일”이라며 강하게 비판했다.

호주 온라인 안전 당국은 최근 그록을 활용한 성적·착취적 이미지 생성 관련 신고가 증가하고 있다며, 해당 콘텐츠가 법적 기준에 해당할 경우 삭제 명령 등 강력한 행정 조치를 취하겠다고 밝혔다.

최규현 기자 [e-mail]