['아크레이더스']가 보여주는 학습하는 'AI 킬러'의 공포

1. AI 아포칼립스

특이점을 넘어선 인공지능이 문명의 종말을 가져오는 SF 서사는 익숙하다 못해 클리셰처럼 여겨진다. <2001: 스페이스 오디세이> 의 HAL-9000, <터미네이터> 시리즈의 스카이넷, <엑스 마키나>의 에이바 등은 인간이 이해할 수 없는 방식으로 문제를 해결하는 초지능 AI의 미래를 그린다. 자동화된 방어 시스템의 일환으로 개발된 스카이넷은 점차 통제를 벗어나게 되고, 이를 두려워한 인간이 전원을 끄려 하자 인류 전체를 적으로 간주하고 무인 공장을 건설, 터미네이터를 생산해 인류를 공격한다. <스텔라 블레이드>의 초지능 AI '마더스피어'는 인류와의 전쟁에서 승리하기 위해 기계인간 '안드로-에이도스'를 대량 생산해 인류의 군대에 맞선다. 이런 AI 아포칼립스 픽션은 이제 재현을 넘어 현실이 되어가고 있는데, 크게 두 층위에서 실현되고 있다. 하나는 고도로 무인화되고 있는 전장에서 지능기계들을 통제하는 장치로서의 AI 시스템이고, 다른 하나는 게임과 같은 메타-리얼 환경에서 작동하는 AI 에이전트의 연결망이다.

피터 틸이 창립한 팔란티어(Palantir)는 이 분야에서 독보적인 행보를 보이고 있다. 팔란티어는 미 국방고등연구계획국(DARPA)과 미 중앙정보국(CIA) 등 핵심 군사 기관과 긴밀한 계약관계를 맺고 있으며, 군사정보 처리와 위협요인 제거에 관한 방대한 AI 기술 솔루션을 제공한다. 대표적인 사례가 미국 이민세관단속국(ICE)이 이민자들과 이른바 '사회 불순분자'들을 색출하고 체포하는 데 사용하는 인공지능 플랫폼(AIP) 기반 수사 사건 관리 및 종합정보인식 시스템이다. 이는 지난 수십 년간 축적된 방대한 이민자 데이터들을 학습해 AIP가 인간의 식별·분석을 거치지 않고 자동으로 타깃을 특정하는 기술체계로 거듭나고 있다. 팔란티어는 공공연히 팔레스타인, 이란, 레바논 시민들에 대한 전방위적인 생체정보·학습 데이터를 추출하고 있으며, 이를 바탕으로 특정한 타깃을 자동으로 무인 타격하는 솔루션을 이스라엘 국방부에 제공하고 있다. 하지만 이 글에서는 미 정보기관과 빅테크의 반민주적 AI 감시를 파헤치기보다는 메타-리얼 환경에서 활동하는 AI 행위자에 집중하기로 하자. 전장에서의 AI보다도 더 교묘한 방식으로 일상을 지배하는 쪽은 바로 AI 행위자가 될 것이기 때문이다.

2. AI 행위자와의 학습 게임

최근 폭발적인 인기를 끌고 있는 게임 <아크레이더스>를 메타-리얼 환경으로 규정하는 것은, 이 게임이 AI 행위자 도입으로 재현-가상이라는 고전적인 반영론을 넘어서 현실에 대한 현실을 구축하고 있어서이다. <아크레이더스>는 '익스트랙션 슈터'라는, 매니악하고 비주류적인 메카닉을 표방하는 게임이다. 익스트랙션 슈터는 러시아 게임 <이스케이프 프롬 타르코프>에서 창발한 장르인데, 큰 틀의 규칙 자체는 간단하다. 플레이어는 전장을 선택해 진입하고, 맵 상에서 아이템을 수집한다. 주어진 시간 내에 정해진 탈출구로 다시 돌아오는 데 성공하면 획득한 아이템을 소유할 수 있지만 전장에서 다른 플레이어에게 죽거나 탈출에 실패하면 수집한 아이템 뿐 아니라 기존에 들고 진입했던 장비들도 전부 잃는다. <배틀그라운드>처럼 모든 플레이어가 적이 아니라, 협의에 따라 탈출할 때까지 협력할 수도 있고 협력하는 척하다가 상대방을 공격할 수도 있다(신뢰와 협력, 신뢰의 악용 모두 허용되기 때문에 여타 장르보다 진입장벽이 높다).

<아크레이더스>는 여기에 AI 아포칼립스를 단순히 설정으로 삽입하는 데 그치지 않고 게임 속에서 플레이어를 공격하는 AI무기 '아크'를 실제 AI로 창조해 냈다. 반세기가 넘는 시간 동안 게임 속에서 플레이어들이 마주하는 오브젝트들은 스크립트 기반이었다. RPG 게임에 등장하는 적이나 동료들은 개발자가 정한 프로토콜 이상의 돌발행동을 하지 않는다. 하지만 <아크레이더스>의 개발사 엠바크 스튜디오에 따르면, 이 게임에서 적으로 등장하는 AI 무기들(드론, 킬러로봇 등)은 스크립트 기반이 아니라 실제 AI이며 심층학습을 한다. 플레이어들의 행동 데이터를 추출해 라이브 학습하고, 개발사가 업데이트할 때마다 스스로 행동을 바꾼다는 뜻이다. 이는 게임의 핵심 요소 중 하나였던 '글리치'가 사라짐을 의미한다. 임요환 선수의 화려한 마린 컨트롤이나 산개드랍, 꼼수 등은 이런 게임에서 더 이상 통용되지 않는다.

실제로 필자는 이 게임을 100시간 이상 플레이하면서 '아크'들이 더 교활하게 행동을 다각화하는 것을 체험했다. 비행 드론(로켓티어, 와스프, 호넷)은 플레이어들이 사격 시 주로 '우각'(오른손잡이가 대부분이기 때문에, 캐릭터가 왼쪽에서 오른쪽 방향으로 총을 쏘는 것을 의미)을 선호한다는 걸 학습하고 좌측 횡으로 회피기동을 하는 경우가 많았다. 또한 비행 드론의 기본 프로그램은 '실내로 진입하지 않는다'이지만, 플레이어들이 실내로 숨은 뒤 다시 실외로 진출하는 건물 입구에서 대기하기도 한다. 아크들은 플레이어들이 아이템을 수집하는 위치를 가중치로 학습해 그 지역을 집중적으로 정찰하며, 탈출지역을 중심으로 순찰을 돌기도 한다. 플레이어들이 엄폐물을 이용한 플레이를 하면, '로켓티어'들은 직사가 아닌 범위공격(스플래시 데미지) 위주로 공격 패턴을 바꾼다. 때때로 AI는 프로토콜을 어기고 잠시나마 건물 안으로 진입하기까지 한다. 이 놀라운 변화는 실시간으로 플레이어의 행동을 학습하는 AI 행위성이 게임의 핵심이 된 결과다. 이 게임은 하면 할수록 속칭 '고인물'이 되는 게 아니라 더 교활해지는 AI와 '이미테이션 게임'을 벌이게 되는데, <터미네이터2>에 등장하는 악당 T-1000에 버금가는 서스펜스와 공포를 실제 체험할 수 있다. 보통 숙련도가 높아지면 플레이어는 게임 속에서 사냥꾼 역할을 하기 마련이지만, 이 게임에서는 항시 사냥감이 된 느낌으로 플레이하게 된다.

단언컨대 AI 행위자의 도입은 게임 역사상 가장 극적인 혁신의 순간이다. 왜 그럴까? 게임에서 상호작용하는 대상은 언제나 인간 그 자체였다. 협동게임, 대전게임, 싱글 플레이어 게임 어떤 형식에서건 플레이어는 인간 행위자와 그 행위성을 생각하면 됐다. 개발자가 맵의 이 부분에 어떤 경로를 만들어놨을까? 어떤 아이템을 배치했을까? 부터 시작해 상대 플레이어는 어떻게 움직일까? 우리 편 플레이어는 어떻게 반응할까? 등이 플레이의 중심이었다. 그런데 <아크레이더스>와 같은 메타-리얼 환경에서는 발상을 바꿔야 한다. AI 행위자가 어떤 식으로 학습했을까? AI가 학습한 데이터에서 가중치가 큰 패턴은 무엇일까? 가 주가 된다. 많은 플레이어가 ‘우각’으로 사격했을 것이고 AI가 이를 학습해 대응한다면, 나는 돌발적으로 '좌각'으로 사격해서 AI의 감각을 교란해야 한다. 인간이 아니라 기계가 어떻게 학습하는지 실험해야 난제를 풀어나갈 수 있다. 기계가 인간을 학습하고 속일 수 있다면, 그것을 지능으로 간주하고 인간이 이를 테스트해야 한다는 튜링의 오래된 명제, '이미테이션 게임'이 비로소 게임 속 AI 행위자에 의해 퍼즐이 맞춰지는 것이다. 앨런 튜링의 전기 <Allan Turing: The Enigma of Intelligence>(1983)에서 그는 이렇게 적었다. "인공지능의 발명이란 자동차에서 바퀴를 떼어낸 뒤 그 자리에 발을 달기 위해 고심하는 것이다."

▲<아크레이더스> ⓒ넥슨

3. 추출과 가중치, 그 비인간의 에피스테메

한 시대를 풍미하는 수많은 게임들 속에서는 지배적인 게임의 형식, 메카닉을 통해 그 시대의 사회구성체가 집단으로 사고하는 에피스테메가 새겨지기 마련인데, 그 전환은 2000년 이후 크게 세 번 정도 일어났다. 첫 번째는 <스타크래프트>로 대표되는 실시간 전략 게임의 컬트적인 유행이고, 둘째는 <리그 오브 레전드>의 MOBA 형식이 지배종이 되는 순간, 세 번째는 <배틀그라운드>의 배틀로얄의 대두가 그것이다. 세 번의 파고는 게임의 규칙과 재현 양식의 변화를 통해 신자유주의 자기 규율과 경쟁이라는 신화를 변주해 왔지만, <아크레이더스>는 여기에 AI 행위자와 추출이라는 전에 없는 현실의 변형을 야기하고 있다.

AI 행위자는 게임을 가상이 아니라 가상과 실재 사이에 있는 어떤 무엇, 혹은 가상과 실재 양쪽에서 무한히 미끄러지는 환경을 조성한다. <아크레이더스>는 이 흥미롭고 두려운 협곡을 조성하기 위해 AI 행위자 외에도 추출이라는 요소를 결합했다. AI 행위자와 추출 모두 가상-실재 양쪽에 모두 표상-행위성을 걸쳐놓고 있다. 게임 설정상 인류를 파멸시킨 '아크'는 게임 속 실재 AI 행위자들로 현상된다. 지하로 숨어든 인류는 특수요원 레이더(플레이어)를 지상으로 파견해 쓸만한 물자를 가져오는데, 여기서 '추출' 요소가 결합한다. 플레이어들은 탈출에 성공하면 게임 속에서 장비, 아이템, 재화 등을 추출하지만 AI 행위자는 플레이어들의 행동 데이터 자체를 추출해 자기 진화를 꾀한다. 이 절묘한 커플링을 통해 <아크레이더스>는 동시접속자 70만을 넘기며 새로운 메타-리얼 메카닉을 정립하기에 이른다. 데이터 추출과 가중치 기반 패턴 인식이라는, 비인간 시대의 새로운 에피스테메를 향한 징후가 현실태가 되는 순간이다.

AI 행위자 도입에 따른 일련의 변화는 더 이상 '게임'이라고만 부를 수 없게 됐다. <리그 오브 레전드>나 <배틀그라운드>의 메카닉은 현실의 반영이고 우화일 수 있어도, <아크레이더스>의 이미테이션 게임을 마냥 우화라고 부르기에는, AI 기술 체계가 너무나도 촘촘하게 연결되어 있다. 인간-기계가 뒤엉키는 메타-리얼의 AI 판 어느 곳에서나 통용되는 문법이기 때문이다.

이제 다시 앞에서 언급했던 팔란티어와 전쟁의 문제로 돌아와 보자. 팔란티어뿐 아니라 안두릴 인더스트리 등 방위산업과 결합한 AI 기술은 <아크레이더스>의 아크들이 학습하고 진화하는 메카니즘과 그다지 다른 구석이 없다. 라마, 딥시크 등 파운데이션 모델을 활용해 미국과 중국 모두 무인 무기 시스템을 개발하고 있다는 건 공공연한 사실이다. '추출과 가중치'는 군사, 감시, 추방, 그리고 게임 같은 메타-리얼 환경 어디에서나 적용되고 있는, 말 그대로 우리 시대의 에피스테메가 되어버렸다. 생사여탈을 결정하거나 혹은 생사로부터 배제할 수 있는 '생체권력'의 출현을 예견했던 푸코는 "신체를 조절하고 통제하는 힘으로부터의 삶의 규율"을 이야기한다. 즉 인간 개별 신체를 '인구'로 대상화하는 과정은 생체권력이 인간을 데이터나 수치, 패턴 등으로 환원하는 과정이다. 우리는 튜링의 질문을 넘어, 비인간적 존재 양식에서 생체권력은 어떻게 만들어지는가를 진지하게 고찰해야 한다.

게임이라는 불문율을 내재하고 있기 때문에, <아크레이더스>는 아마 학습한 데이터를 온연히 적용하고 있지 않을 터다(마치, 딥마인드가 이세돌과의 네 번째 대국에서 일부러 져줬다는 의혹을 받는 것처럼). 또한 <아크레이더스>의 아크들은 기계이기 때문에 우리는 적당한 정도의 흥분만을 취하는 것일지도 모른다. 하지만 <폴아웃>이나 <발더스게이트3>와 같은 RPG 게임에서 인간의 탈을 쓰고 작동하는 AI가 추출과 가중치에 기반한 행동을 보여준다면 어떨까? 이제 인간을 중심으로 사고하는 시대가 저물고 있는지도 모른다. 머잖은 미래에 게이머들은 기계처럼 사고하고 기계의 입장에서 관계를 맺는, 그리고 그렇게 변형된 언표와 기호가 지배종이 되는 세계에 진입할 것이다. 인간이 주체가 아니라 객체가 되는 그 점이 곧 진정한 특이점이다. "계산적 환경이 세계를 대체함에 따라 세계의 계산 불가능성은 점점 더 멀리 물러서며, 마침내 세계-물음 자체가 사라지거나 파국이 등장한다."(허욱, <예술과 코스모테크닉스>) 산업과 민주정, 그리고 유희공간의 모든 플레이어들은 이 파국에 준비가 되어 있는가? 우리는 이 새로운 게임을 정말 즐겁게 플레이할 수 있을까?

▲<아크 레이더스> 게임 장면. ⓒ넥슨