그록, 성적 이미지 논란에 이미지 생성 기능 제한 나서

▲ 일론 머스크 테슬라 최고경영자(CEO). 사진=뉴시스

투데이코리아=김지훈 기자 | 인공지능(AI) 챗봇 ‘그록’의 성적 이미지 생성 논란이 확산되고 있는 가운데 엑스(X·옛 트위터)가 이미지 생성 기능을 제한하는 기술적 조치를 도입했다.
 
14일(현지시간) 엑스 안전팀은 공식 계정을 통해 아동 성착취물과 동의 없는 노출을 포함한 위험 콘텐츠를 제거하고 있으며 규칙을 위반한 계정에는 적절한 조치를 취하고 있다고 밝혔다.
 
안전팀은 “사람의 이미지를 비키니, 속옷, 기타 이와 유사한 복장의 이미지로 재생성하는 기능을, 해당 행위를 불법으로 간주하는 관할 지역에서 ‘지오블록’(지역 차단)하겠다”며 “비키니와 같이 노출이 있는 복장을 한 실제 인물의 이미지를 편집하는 것을 그록 계정이 허용하지 않도록 기술적 조치를 시행했다”고 전했다.
 
또한 그록 계정을 통한 이미지 생성 및 편집 기능은 유료 구독자에게만 제공된다.
 
특히 일각에서는 이번 조치를 두고 엑스에 게시된 이미지를 그록이 수정할 수 있도록 하는 기능이 도입된 이후, 비동의 성적 딥페이크 이미지 생성 논란이 확산된 데 따른 대응책이란 분석이 나온다.
 
앞서 엑스를 소유한 일론 머스크 테슬라 CEO는 성인용 콘텐츠 생성에 비교적 자유로운 그록을 향한 비판에 억압이라고 대응하거나 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다고 언급한 바있다.
 
머스크는 “그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다”며 “분명히 그록은 스스로 이미지를 생성하지 않으며, 오직 사용자 요청에 따라 생성한다”고 전했다.
 
이어 “이미지 생성을 요청받을 때, 그록은 해당 국가나 주의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것”이라고 덧붙였다.
 
한편, 엑스의 기능 제한 조치는 캘리포니아 검찰이 그록의 성적 이미지 생성과 관련해 법 위반 여부 조사에 착수하겠다고 공식 발표한 이후 진행됐다.
 
이는 미국 내에서 나온 첫 공식 조치로, 세계 각국에서도 그록을 둘러싼 규제 움직임이 잇따르고 있는 상황이다.
 
국내에서는 방송미디어통신위원회(방미통위)가 엑스 측에 그록 서비스에 대한 청소년 보호 장치 마련을 요구했다.
 
방미통위는 그록을 통한 불법 행위가 발생하지 않도록 안전장치를 구축하고, 청소년 접근 제한과 유해정보 차단 등 보호 계획을 수립해 회신할 것을 통보했다.
 
해외에서는 일부 국가가 강경한 조치를 취하고 있는 상황이다.
 
특히 영국의 미디어 규제기관 오프콤은 엑스가 성적 이미지 관련 규제를 준수했는지 여부에 대한 조사에 착수했다.
 
오프콤은 예비 조사에서 “그록이 성적 이미지 남용이나 음란물에 해당할 수 있는 옷 벗은 사람의 이미지, 아동 성착취물에 해당할 수 있는 어린이의 성적 이미지를 생성해 공유하는 데 사용됐다는 대단히 우려되는 보고가 있었다”고 설명했다.