'불온(不穩)'. 온당하지 않다는 뜻으로 사상이나 태도가 기득권 내지는 통치 권력, 고정관념, 체제에 순응하지 않고 맞서는 성격을 가리킬 때 쓰인다. 이러한 성질은 누군가에게는 불편할 수 있으나 우리 사회를 앞으로 나아가게 해주는 불쏘시개가 된다는 점은 부정하기 어렵다. <프레시안>은 그러한 '불온'한 삶을 살아가는 이들을 만나 그들의 '불온'한 이야기를 들어보고자 한다. 편집자
일상 곳곳에 AI(인공지능, artificial intelligence)가 자리 잡고 있다. 언제든 궁금한 게 생기면 AI에게 묻는 이들은 흔하다. AI로 리포트를 쓰거나 과제를 작성하는 학생들로 인해 교수들이 골머리를 앓는다는 이야기도 익숙하다.
정치권도 분주하다. '미래의 먹거리'인 AI를 선점하기 위해 3대 메가프로젝트 등 굵직한 정책과 방안이 쏟아져나오고 있다. 박정희 정권 때 진행한 국가주도 전략 정책과 매우 비슷하다.
그렇다고 AI가 마냥 '좋은 것' 일 수는 없다. 혹자는 AI가 노동해방, 즉 인간을 노동에서 자유롭게 만들어 줄 것이라고 설파하지만, 단순히 그렇게 볼 수 있는지는 의문이다. AI가 노동 현장을 침투하면서 발생하는 여러 문제들은 엄연한 현실이기 때문이다.
이광석 서울과학기술대학교 IT정책전문대학원 교수는 "학습화를 통해 발전하는 AI의 '똑똑해지는' 과정은 누군가의 무보수 데이터, 누군가의 저임금 노동, 그리고 특정 지역의 자원 소모라는 세 가지 유무형 자원을 계속 투입해야 가능한 공정"이라며 "'학습'이라는 인지적 은유 뒤에 이 물리적·인적 비용이 가려져 있다"라고 평가했다.
기술문화연구학자인 이 교수는 서울과학기술대학교 부설 미래이후연구소장과 비판적 문화이론 저널 <문화/과학> 편집 주간을 맡고 있기도 하다.
<프레시안>은 이 교수에게 AI에 열광하는 현재, 우리가 짚어봐야 할 AI의 문제점은 무엇인지를 들어보았다. 이 교수와의 인터뷰는 두 회에 나눠 게재한다. 아래 그와의 일문일답.
"AI, 데이터·전력·노동·자본이 결합된 거대 물리적 인프라"
프레시안 : 모두가 AI를 이야기한다. 하지만 AI라는 개념을 한마디로 규정하기가 쉽지 않다. AI를 무엇이라고 할 수 있나.
이광석 : 흔히 AI를 '인간처럼 사고하는 기계'로 정의하지만, 이는 업계와 언론이 만들어 낸 이미지에 가깝다. 실제로 지금 우리가 AI라고 부르는 것의 대부분은 대량의 학습 데이터에서 통계적 패턴을 추출해 다음 결과를 예측하는 계산 시스템이다. AI의 한 종류인 '머신러닝'(기계학습, Machine Learning)일 뿐이다. 지능체라기보다는 상관관계를 통계학적으로 풀어내는 연산 같은 것이다. 여기에 '지능'이라는 단어를 붙여 마치 이해하고 판단하는 주체처럼 느껴지지만, 그 안에서 벌어지는 일은 사고라기보다 대규모 상관관계 연산에 가깝다.
질문을 돌려 AI를 정의할 때 '무엇을 하는가'보다 '무엇으로 만들어지는가'를 먼저 봐야 한다. AI는 보통 비물질적인 것으로 불리지만, 실은 데이터·전력·노동·자본이 결합된 거대 물리적 인프라이자 그 위에 '지능'이라는 허상의 이름표를 붙인 사회적 구성물이다.
프레시안 : 인간 두뇌 연구가 AI 개발의 시작이었고 토대였다는데.
이광석 : 절반만 사실이다. 1940~1950년대 초기 인공지능 연구가 신경생리학·인지과학과 접점을 가졌던 것은 맞다. 가령 매컬럭과 피츠의 뉴런 모델, 퍼셉트론 같은 초기 시도들이 뇌를 참조했다. 하지만 이것을 유일한 기원처럼 이야기하는 것은 절반의 이야기다. 최근 번역 출간된 마테오 파스퀴넬리의 <주인의 눈: 인공지능의 사회사>는 이 통념을 정면으로 반박한다. 그의 주장은 AI의 내적 논리가 뇌를 모방한 것이 아니라 산업혁명기 공장에서 노동을 분업화하고 감시하던 방식(예를 들면, 찰스 배비지의 '계산 기계'처럼)에서 유래했다는 것이다.
즉 AI의 진짜 계보는 신경과학이 아니라 '노동 관리와 집단행동 감시의 역사'에 있다는 것이다. 이 지적은 상당히 의미가 있다. 일단은 AI의 기술주의적 해석 바깥을 읽을 수 있는 비판적 시각을 우리에게 열어준다. 그리고 '두뇌를 재현한다'는 주장, 즉 AI를 과학적이고 기술 내재적인 것으로 보이게 만드는 착시 효과를 벗어나게 한다. 실제로 AI의 역사적 진화는, 특히 그것이 가장 잘하는 분류, 예측, 통제 등의 일은 애초부터 노동과 인구를 관리하려는 목적에서 발달해 온 기술 계보에 더 가깝다고 보는데 동의한다.
프레시안 : 그렇다면 쿠팡 물류센터에서 물건을 옮기는 무인 운반 로봇의 경우, 이것을 AI 도입이라 볼 수 있나.
이광석 : 기술적으로 경로 최적화, 재고 예측, 작업 배분 등에 머신러닝 요소가 결합 돼 있다면 넓은 의미의 AI라고 부를 수 있다. 다만 이 질문에서 더 중요한 지점은 'AI냐 아니냐'라는 기술적 분류가 아니라, 그 로봇이 실제로 무엇을 하고 있는가이다. 물류센터의 자동화 시스템은 노동자의 동선, 속도, 휴식 시간까지 실시간으로 계량화하고 최적화 대상으로 삼는다. 로봇을 움직이는 알고리즘이 노동 과정 전체를 데이터화 해서 관리자의 시선을 대체·확장하면서, 로봇은 물론이고 이와 함께 일하는 노동자의 노동 수행을 통제 관리한다. 즉 AI 로봇은 일부 인간, 산 노동을 대체하기도 하지만, 함께 하는 인간 노동에 대한 알고리즘 통제를 더 촘촘하고 비가시적인 제어 형태로 가져간다.
"피지컬AI 능력치 70%라면 노동현장을 큰 위험에 빠뜨릴 수 있다"
프레시안 : 쿠팡 무인 운반 로봇의 경우를 보아도 결국 AI의 도입으로 노동의 일자리는 줄어드는 구조가 될 수밖에 없는 듯하다. AI가 인간을 노동에서 해방한다고 하지만, 이를 뒤집으면 일자리가 소멸한다는 이야기 아닌가.
이광석 : AI 자동화 효과로 일자리가 일부 대체되거나 소멸하는 건 맞다. 하지만 자동차 등 기존 산업 기술에 비해 AI 고용 창출 효과가 낮다는 점, 그리고 노동 소멸에는 여러 경제, 사회적 변수들이 작용하고 있어 기술 자동화 변수로 단순화하기 어렵다는 점 등을 고려해야 한다. 게다가 AI 자동화로 실질적으로 무수한 초단기 AI 보조 노동의 이름없는 비정규직 유령노동 형태가 증식하고 있는 것 또한 사실이다.
프레시안 : 이름 없는 비정규직 노동 형태, 즉 질 나쁜 일자리가 늘어난다고 했는데, 어떤 부분에서 그렇게 되나.
이광석 : 일례로 AI를 학습화하는 노동인 '라벨링'(labeling)의 경우, 인간이 일일이 다 해야 한다. 인도 노동자의 경우, 이마에 캠을 달고 공장에서 일한다. AI 학습을 위해 노동자의 '암묵지(tacit knowledge)' 데이터를 수집한다. 또한 AI가 상용화되면서 '미세 노동', 즉 AI가 실수하는 부분을 인간이 수작업을 통해서 메워주거나 오류를 바로 잡아주는 노동이 생겨났다.
프레시안 : 그런 일자리들은 사실 기존 노동법의 보호를 받기 어려울 듯싶다.
이광석 : 정규직이나 안정된 직장 등 우리가 과거에 알고 있던 전통적인 계약 관계를 통해 4대 보험을 적용 받고 산재 보상받는 안정적인 노동, 월급을 받는 노동 형태는 사라지고 불안정한 이름 없는 유령 노동 형태, AI를 보조하는 이름 없고 고용 없는 초단기 불안정 노동이 늘어나고 있다. 문제는 이들 노동은 노동법에 적용되지 않는 질 나쁜 노동이라는 점이다.
문제의 핵심은 '일자리가 줄어든다'는 총량의 문제가 아니라, 누가 이 전환의 비용을 치르고 누가 그 이득을 가져가느냐다. 콜 센터, 번역, 게임, 물류, 단순 사무직처럼 대체 압력이 큰 직군의 노동자들이 먼저 비용을 지불하는 반면, 그로 인한 생산성 이득은 플랫폼과 관련 모델을 소유한 소수 기업에 집중된다. '노동해방'이라는 표현은 이 내적 노동의 분화나 노동 불평등 문제를 가려버리는 효과가 있다.
프레시안 : 최근 현대차에서 피지컬AI인 휴머노이드 로봇 '아틀라스'를 공개했다. 실제로 피지컬AI가 산업 현장에 도입될 수 있을 것이라 생각하는가.
이광석 : 아틀라스의 능력이 어느 정도인지는 모르겠지만 인간 노동자에 비해 한 70% 수준의 능력을 지니고 있다고 판단된다. AI 로봇을 도입하려는 포스코 관계자는 회사에 막 입사한 인턴 수준이라고 평가했다. 기업들은 나머지 이 미진한 30%를 현장에 투입해 다른 노동자들을 보며 학습해서 채우겠다는 생각이다. 일종의 후행 학습 과정을 통해 오류 수정 등을 하겠다는 것인데, 그 과정이 매우 지난할 것으로 판단된다. 또한 그 과정이 인간 노동자들에게 업무 스트레스나 사고로 올 수도 있다.
프레시안 : 사고는 어떤 것을 말하는 것인가.
이광석 : 공장이라는 공간에서 일할 경우, 에러가 나면 신속하게 대처해야 한다. 그러지 않으면 큰 사고로 이어질 수 있다. 그런데 그런 대처를 제대로 하지 못하는 70% 수준의 AI와 함께 인간 노동자가 일한다면 매우 위험한 상황을 맞닥뜨릴 수 있다. AI는 현재 워크슬롭(Workslop), 즉 좋은 결과를 내지 못해 노동 현장에서 골치덩어리로 평가되는데, 피지컬AI의 능력치가 70%라면 제조 산업 현장에서도 워크슬롭은 충분히 나올 수 있고 노동 현장을 큰 위험에 빠뜨릴 수 있다.
"알고리즘을 중립적 도구로 포장 순간, 그 안에 새겨진 권력관계는 보이지 않게 된다"
프레시안 : 일론 머스크는 5년 내에 그런 문제가 다 해결된 피지컬AI가 나온다고 이야기했다.
이광석 : 그 말은 5년 안에 나머지 30%가 채워진 인간과 같은 피지컬AI를 산업현장에 투입할 수 있다는 이야기인데, 이 특이점의 도래가 쉽지 않다. 우선은 머스크와 같은 이들이 피지컬AI의 특이점을 바라보는 수준이 다 다르다. 게다가 자본주의는 그렇게 단순하지 않다. 기술 요인에 의해서만 움직이지 않는다. 경기, 고용변수, 노동자들의 투쟁 역량 등 다양한 요소들이 영향을 미친다. AI 노동을 도입할 거냐 말거냐를 결정할 때, 이런 여러 변수들이 많기에 머스크가 말한 5년이라는 것은 거의 근거 없는 사기에 가깝다고 본다.
프레시안 : 현실을 머스크도 알텐데, 왜 그렇게 단정적으로 이야기한다고 생각하나.
이광석 : 머스크 회사가 AI에 올인하고 있지 않나. 그의 말 한마디 한마디가 회사의 주가와 연동돼 있다. 그런 그를 따르는 테크노크라시(technocracy, 과학적·전문적 지식을 바탕으로 국가 행정·경제·사회적 의사 결정에 참여하는 전문가 또는 관료)와 머스크의 과장된 발언들을 포장해서 나르는 국제 언론들도 문제다.
프레시안 : 책 <주인의 눈>에서는 AI를 자본의 지배력 강화를 위한 추출 기계로 본다. 그런데 지금 이야기를 들어보면 AI가 실제 그러한 노동 통제가 가능한 구조로 가고 있는 듯하다.
이광석 : 이 책의 해제를 썼던 입장에서 상당 부분 동의한다. 저자인 파스퀴넬리의 핵심 주장은, AI의 목적이 애초부터 자율적 사고의 구현이 아니라 노동과 사회적 관계를 관찰, 분해, 재조합해서 자본이 통제 가능한 형태로 만드는 데 있었다는 것이다. 이 틀로 보면 오늘날의 대형 AI 모델이 왜 인터넷에 존재하는 인류 전체의 글, 이미지, 대화를 무차별적으로 수집하는지가 설명된다. 이는 개인의 지적 산물이 아니라 인류가 집단적으로 쌓아온 지식과 표현(마르크스가 말한 '일반 지성')을 사적으로 전유해서 상품화하는 과정이다.
그리고 그렇게 만들어진 모델은 다시 콜센터, 물류센터, 플랫폼 노동 현장에 배치되어 노동 과정을 감시하고 최적화하는 도구로 돌아온다. 다만 이런 과정은 노동하는 인간의 인지 활동과 암묵지 등을 추출하는 기계로만 보는데 치우칠 수 있다. 동시에 에너지, 물, 광물 채굴 등 자연 자원의 추출 기계라는 점에서 AI의 반생태적 속성을 함께 읽어야 한다.
프레시안 : AI의 진행 과정을 알고리즘이라고 하는데, 정확히 알고리즘은 무엇인가. 그리고 AI와 알고리즘과의 관계는 어떻게 규정할 수 있는가.
이광석 : 알고리즘은 어떤 문제를 풀기 위한 명확한 절차, 즉 순서가 정해진 규칙의 집합이다. 예를 들어 요리 레시피가 알고리즘이라면, 데이터는 레시피에 소모되는 식자재다. 학습 데이터는 알고리즘의 분석 대상이자 요리 재료라고 보면 된다. 사람이 알고리즘 규칙을 일일이 짜주는 대신, 지금 단계는 AI가 데이터를 반복 학습하면서 스스로 규칙(가중치)을 만들어 내도록 설계된다.
여기서 강조하고 싶은 점은, '알고리즘'이라는 단어가 마치 객관적이고 중립적인 수학처럼 들리지만 실제로는 그렇지 않다는 점이다. AI에게 어떤 데이터를 학습시킬지, 무엇을 정답으로 정의할지 등 이 모든 절차와 선택 하나하나가 개발자와 자본의 가치판단이 개입된 정치적 결정이다. 알고리즘을 중립적 도구로 포장하는 순간, 그 안에 새겨진 권력관계는 보이지 않게 된다. (계속)
Copyright ⓒ 프레시안 무단 전재 및 재배포 금지
