中당국, 'AI 생성' 유해 콘텐츠 제재…게시물 70만건 삭제

샤오홍슈는 AI 관리 계정 단속 강화…"사람인 척 댓글·채팅 안돼"

중국 SNS

[EPA 연합뉴스 자료사진. 재판매 및 DB 금지]

(베이징=연합뉴스) 김현정 특파원 = 중국 당국과 민간 플랫폼 기업이 인공지능(AI)이 생성하는 허위 콘텐츠 등에 대한 제재·단속을 강화하고 있다.

11일 중국 관영 신화통신에 따르면 중국 사이버공간관리국(CAC)은 지난 춘제(春節·중국의 설) 연휴 기간 단행한 온라인 환경 정화 캠페인 결과 70만8천건 이상의 게시물·정보를 삭제했다고 전날 밝혔다.

사이버공간관리국은 AI를 이용한 '디지털 쓰레기'(AI 슬롭·저질 콘텐츠)나 허위 정보를 만들어 유포하거나 불법 활동으로 트래픽을 유도하는 등의 문제를 해결하도록 촉구했다며 단속 기간 법에 따라 3만9천개 이상의 계정을 조치했다고 설명했다.

또한 문제가 된 사례로 웨이보(하트비트 아카이브·心跳存檔)와 샤오홍슈(광샤오젠·匡少見)의 특정 계정을 언급하며 "불건전한 가치관을 조장하고, 악의적으로 성별 갈등을 부추겼다"고 전했다.

아울러 "일부 계정은 불법 활동으로 수익을 창출하는 데 사용됐다"며 샤오홍슈의 또 다른 계정(당분초과·糖分超標)을 지목하며 "지역데이트 등의 주제로 선정적 이미지와 글을 게시해 사용자 연락과 음란물 관련 트래픽을 유도했다"고 지적했다.

사이버공간관리국은 관련 샤오홍슈의 게임 해설 계정과 고전 작품 기반의 이미지 제공 계정을 법에 따라 처리했다며 "온라인상의 무질서를 단호히 근절하고 위반 행위에 대해 즉각적인 조치를 취하기 위해 엄격한 법 집행 방침을 유지할 예정"이라고 강조했다.

단속에 적발된 계정의 플랫폼으로 여러 차례 언급된 샤오홍슈는 같은 날 AI가 관리하는 계정에 대한 단속을 강화하고, 허위 콘텐츠 제작을 엄격히 금지한다고 밝혔다.

샤오홍슈는 또 "기술적으로 실제 사람을 사칭해 댓글·개인 메시지·그룹 채팅을 통해 상호작용하는 모든 행위를 금지한다"고 덧붙였다.

[e-mail]