중국서 AI 규제 강화 움직임…“발전 먼저” vs “안전 우선”

[베이징=이데일리 이명철 특파원] 인공지능(AI) 기술이 점점 발전함에 따라 이를 악용하는 사례도 늘고 있다. AI 기술이 광범위하게 쓰이는 중국에서도 이러한 문제를 인식하고 AI에 대한 규제 강화에 들어갈 조짐이다. 다만 일각에서는 AI 경쟁이 치열해지는 가운데 기술 발전을 멈출 수 없다는 의견도 나온다. AI 전환은 멈출 수 없는 변화인 만큼 기업들이 먼저 대비해야 한다는 것이다.

지난 7월 28일 중국 상하이에서 열린 세계 인공지능 컨퍼런스(AI)에 인공지능(AI) 휴머노이드 로봇이 전시돼있다. (사진=AFP)

◇날로 발전하는 中 AI 기술, 포괄적 테두리 만든다

10일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 중국 최고 입법기관인 전국인민대표대회(전인대)는 상무위원회 입법사무위원회에서 지난달 사이버보안법 개정안을 처음 검토했다,

사이버보안법은 2016년 제정된 후 새로운 기술이 넘쳐나면서 이를 관리하기 위한 개정이 요구됐다. 전인대 상무위 입법사무위측은 개정안 초안을 ‘인터넷 안전 업무 지도 원칙’을 주제로 AI 관련 콘텐츠를 추가하고 개인 정보 보호가 민법과 더욱 부합하도록 하는 데 합의했다고 밝혔다.

우선 개정안에 AI 보안과 개발에 대한 기본 조항이 추가되고 기초 AI 이론 연구 및 핵심 기술 개발에 대한 지원이 포함될 예정이다. AI와 관련한 기본 인프라, 윤리 규범 개선, 보안 위험 모니터링 및 평가 강화, AI 관련 보안 규정 개선에 관한 조항도 담길 것이라고 밝혔다.

개정안은 오는 14일 시작하는 전인대 상무위원회 회의에서 논의될 예정이다. 통상 개정안 초안이 통과되려면 세차례의 검토를 거쳐야 하는데 모든 당사자의 전반적인 합의가 있는 특정 상황에선 한두 차례 검토 후 표결에 부칠 수 있다.

상하이의 로펌 조인트윈파트너스의 왕지앙타오 데이터 컴플라이언스 운영센터 소장은 SCMP에 “중국의 AI 규제는 여러 부처와 위원회에서 발표한 다양한 임시 조치, 기술 표준, 지침, 규범으로 분산됐다”면서 “개정안이 AI 거버넌스를 위한 통일된 법적 프레임워크가 부족하다는 문제를 직접적으로 해결하길 기대하고 있다”고 전했다.

중국 내에서도 AI 급속한 발전에 따른 사회적 문제가 빈번하게 발생하고 있다.

한국에서도 문제가 되는 AI 생성 사진이 대표적인 예다. 중국 광명일보는 사용자가 마치 집에 노숙자가 침입한 것처럼 가상의 상황을 사진으로 만들어 가족이나 지인에게 전송하는 경우가 늘고 있다고 보도했다. 경찰은 이러한 장난이 심각한 결과를 초래하면 사용자에게 벌금형 또는 구금형이 선고될 수 있다고 경고했다.

중국 인터넷 감시 기관인 중국 사이버공간관리국은 지난 3월 AI가 생성한 텍스트·이미지·영상 등에 사용자들이 볼 수 있도록 라벨을 부착해야 한다는 규정을 발표하기도 했다.

법적 기준이 제대로 마련되지 않아 관련 사건 처리에도 많은 어려움을 겪고 있다. 예를 들어 자율주행 사고가 발생했을 때 자동차 제조업체, 소프트웨어 개발자, 안전 담당자간 책임을 어떻게 판단할지는 모호한 영역이라고 SCMP는 지적했다.

모바일 기기에 설치된 딥시크 앱 화면. (사진=AFP)

◇업계에서도 AI 기술 발전 두고 설왕설래

상대적으로 AI 규제에 관대하던 중국이 관련 법·제도의 정비에 들어감에 따라 기술 발전을 저해할 수 있다는 우려도 나온다. 이런 가운데 중국 생성형 AI 대표 기업인 딥시크는 최근 중국 동부 저장성 우전에서 열린 세계 인터넷 컨퍼런스에서 범용인공지능(AGI)에 대한 개발 의지를 피력했다고 SCMP는 보도했다.

딥시크 고위급이 일반 행사에 참여하는 사례는 드물다. 딥시크의 천 델리 선임연구원은 이날 행사에서 “AI 기술 자체에 대해서는 낙관적이지만 사회 전반에 미칠 영향에 대해서는 비관적”이라면서 “지금 AI 한계로 인간과 기계가 ‘허니문’ 단계지만 대부분 작업이 결국 자동화될 것”이라고 강조했다.

그는 “인간은 결국 일에서 완전히 해방될 것이며 이는 사회를 본질적으로 뒤흔들 것”이라면서 “AI 기업들이 먼저 중복될 일자리에 대해 경고함으로써 ‘내부 고발자’ 역할을 해야 한다”고 주장했다.

AI 기술 전환에 따른 산업의 변화는 거스를 수 없는 추세이니 AI 기술을 억압하기보다는 오히려 기술 발전을 유도해 대비 체제를 갖춰야 한다는 것이다. 그런 면에서 AI의 위험 요소를 감안하더라도 AGI 같은 차세대 기술 개발을 서둘러야 한다는 게 딥시크의 논리다.

SCMP는 지난달 튜링상 수상자인 야오치즈 칭화대 교수, 장펑 지푸AI 최고경영자(CEO) 등 수백여명의 AI 전문가, 정책 입안자들이 강력한 대중의 동의와 광범위한 과학적 합의가 있기 전까진 초지능 AI 개발을 중단해야 한다고 요구한 것을 언급했다.

그러나 딥시크는 현재 AI 개발을 늦추거나 중단하는 건 현실적이지 않다고 지적했다. SCMP는 “지푸AI와 알리바바 등 다른 중국 기업들도 강력한 AI 시스템을 개발할 계획을 세우고 있다”고 전하기도 했다.