중국의 고락시(GoLaxy; 인공지능 바둑 프로그램 Golaxy와 철자는 같지만 표기가 다름)라는 회사가 중국 정부와 연계해 고도로 정교한 정치 영향력 캠페인을 벌이고 있다고 미 밴더빌트대 전문가들이 5일(현지시각) 밝혔다.
뉴시스 보도에 따르면, 밴더빌트대 국가안보연구소의 브렛 골드스타인 연구원과 브렛 벤슨 교수는 뉴욕타임스(NYT)에 기고한 “인공지능 선전의 시대-미국 대응 시급”이라는 글에서 그같이 주장했다. 다음은 기고문 요약.
2016년과 2020년 미 대선에 개입하려한 러시아의 노력은 상당히 저급한 기술에 의존해 영향력이 크지 않았다.
그런 시대는 끝났다. 생성형 인공지능 시스템의 기하급수적 발전으로 인해 욕설과 거짓 정보의 홍수가 사라진 대신 일상적 온라인 소통에 스며드는 정교한 조작의 시대가 됐다.
AI가 생성한 이야기들이 큰 주목을 끌지 않으면서 정치 지형을 바꾸는 영향력 작전의 시대가 된 것이다.
고락시라는 중국 회사가 인간처럼 보이는 봇 네트워크와 심리적 프로파일링을 활용해 개인을 공략하는 국가 영향력 캠페인의 선두주자다.
이 회사는 중국 정부와 연계돼 있다는 징후가 뚜렷하다.
고락시는 이미 홍콩과 대만에서 영향력 캠페인을 벌였으며 미국으로 확장을 준비하고 있는 것으로 보인다.
고락시는 생성형 AI를 방대한 개인 데이터와 통합한다는 점에서 특별하다.
소셜 미디어 플랫폼에서 수집한 자료를 토대로 특정 개인의 역동적 심리 프로파일을 구축한 뒤 개인의 가치관, 신념, 감정적 성향, 취약점을 공략하는 콘텐츠를 생성한다.
고락시의 AI가 만든 인물들이 마치 실제 사람이 대화하는 것처럼 소셜 미디어 이용자들과 소통한다. 고락시가 생성한 콘텐트는 진짜처럼 보이는 것은 물론 실시간으로 적응하면서 탐지를 피한다. 그 결과 합법적 온라인 상호작용과 거의 구별되지 않는, 즉각적이고 대규모로 벌어지는, 효율 높은 선전 엔진이 된다.
고락시의 AI는 사용자 데이터를 추출하고 더 넓은 패턴을 연구함으로써, 폭넓은 대중에 어필할 수 있는 메시지를 생성할 수 있다. 소셜 미디어 이용자의 어조, 가치관, 습관, 관심사에 맞춰 적응하면서 게시물에 ‘좋아요’를 남기거나 댓글을 쓰고 특정 콘텐트를 퍼트리는 등 사람처럼 행동할 수 있다.
고락시는 2020년 홍콩에서 국가보안법에 대한 반발을 최소화하는데 역할을 했다. 18만 개의 홍콩 트위터 계정에서 수천 명의 활동가와 여론 주도자를 식별한 뒤 AI로 생성한 이용자들을 동원해 이들이 거짓을 퍼트리고 오해를 낳는다고 지적함으로써 침묵시켰다.
고락시는 지난해 대만 선거에서도 맹활약했다. 중국 영유권 주장에 반대하는 민진당을 약화시키는 방법을 제안했으며 대만에서 진행되는 정치 논쟁 관련 정보를 수집한 뒤 봇 네트워크를 배치해 정당들 사이의 분열을 악용하도록 대만의 친중 단체들에 권고했다.
당시 고락시는 정부 기관들의 정치 성향, 중국에 대한 태도, GPS 좌표 등 논쟁에 개입하는데 필요한 정보와, 논쟁에 뛰어들 대만 국민 5000명 이상의 계정 프로필도 확보한 상태였다.
고락시는 미 의원 최소 117명과 정치인 및 여론주도층 2000명 이상의 데이터 프로필을 구축한 상태다. 이 작업이 계속 진행되면 조만간 미국에서도 작전을 벌일 것이다.
고락시는 중국의 국가안보 우선순위와 밀접하게 연계되어 작동한다.
◆중국 정보기관, 당, 군 등과 협력
이 회사는 2010년 중국과학원(CAS)의 산하 연구소에 의해 설립된 이래 중국의 정보기관, 당, 군 관련 기관들과 협력해왔다.
고락시가 중국의 정치 시스템과 통합돼 있음을 보여주는 사례다.
2021년 미 국방부가 중국군 산하로 지정한 슈퍼컴퓨터 회사 수곤의 자금지원을 받았다. 고락시의 대외용 AI 플랫폼이 수곤의 슈퍼컴퓨터 및 중국 AI 딥시크와 연계돼 있다.
이는 고락시의 영향력 작전이 중국 국가 전략의 핵심 도구가 되고 있음을 보여준다.
고락시와 같은 조직은 민주주의 사회의 개방성을 활용한다. 토론, 투명성, 다원주의 등 민주주의의 강점인 동시에 취약점을 악용한다.
AI가 생성한 콘텐트를 은밀하고 대규모로 퍼트리는 한편 개입 방법을 빠르게 개선함으로써 저항을 받지 않고 유포할 수 있는 것이다.
지속적으로 영향력 작전을 폄으로써 가짜 여론을 만들어내 민주주의를 내부로부터 무력화한다.
효과적인 소셜 미디어보다 더 큰 규모로, 목표를 달성하기 위해 포괄적으로 접근하면서, 설득력 있고 저항하기 어려운 선전을 합성해 영향력을 행사하는 것이다.
우리는 지금 새로운 회색지대 분쟁의 시대로 진입하고 있다. 전에 없는 규모와 속도, 정교함으로 벌이는 정보 전쟁의 시대다.
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
