"이것이 중요한 사건이라는 사실은 알았지만, 정확히 어떤 의미인지는 알지 못했다"
소설가 장강명은 2016년 3월 이세돌 9단과 알파고의 대국이 모두의 예상과 달리 알파고의 압승으로 끝나는 장면을 본 소감을 이렇게 말했다(<먼저 온 미래>, 동아시아). 세기의 대국 이후 10년, 한국사회는 AI산업 진흥에 무게를 둔 인공지능기본법을 제정하고 곧 시행(2026.1.22)을 앞두고 있다.
바둑이나 체스 게임에서 인간 플레이어를 상대하며 고전했던 AI는 이제 범용기술의 자리에 올랐다. 역사적으로 범용기술은 활자 인쇄술, 증기기관, 전기, 인터넷처럼 전반적인 경제와 사회구조를 변모시키는 거대한 파급력을 가졌던 기술을 일컫는다. 이재명 정부의 'AI 기본사회'나 'AI 100조 투자' 선언은 테크노-유토피아적 기대와 함께 한국사회에 AI기술 확산을 가속화시킬 전망이다. 이런 맥락에서 우리가 여전히 "정확히 어떤 의미인지 알지 못하는" 채로 신기술의 무차별적 침투라는 곤경에 빠지지 않기 위해 예상하고 대비해야 할 점을 짚어보고자 한다.
첫째, AI기술 주도권의 편중. 현재 AI기술은 행정, 물류, 금융, 의료, 교육, 복지, 군사 등 전 분야에서 데이터 분석, 자동화 작업 같은 업무에 활용되고 있다. 그러나 다양한 프로그램이 활용하는 원천 기술은 OpenAI, Google, Anthropic 등 미국의 소수 빅테크 기업에 의해 독점되어 있다. 이 기업들은 막대한 자금을 기술개발에 투입하고 있으며, 급증한 투자금을 회수하기 위하여 공익성보다는 수익성 위주의 구독료 모델이나 API(Application Programming Interface) 가격 정책을 적용하고 있다. 또한 다른 국가나 기업과의 기술접근성 격차는 이미 해소되기 어려운 수준에 이르러 개별 국가나 국제사회의 규제가 따라가기 어렵기 때문에 정부와 시민들은 기업의 자율 규제에 의존하는 상황이 되고 있다.
의료 부문에서도 소수 빅테크 기업이 AI 시장을 독점함으로써 환자진료의 패턴을 바꾸고 의료윤리를 위협하고 있다. 가령 에픽(Epic)이 개발한 알고리즘은 2억 5000만 명 이상의 의료기록을 보유한 전자건강기록(EHR) 시스템에 내장되어 있어, 개별 의료기관이 독자적으로 검증하거나 수정하기 불가능하다. 또 네비헬스(NaviHealth)는 요양기관 치료일수를 제한함으로써 진료비를 절감하는 방식으로 설계되어, 의료진들이 임상현장에서 부정확하거나 잘못된 예측에 개입하여 환자에게 필요한 서비스를 제공하기는 어려웠다. 심지어 기업들은 결함이 드러난 AI 예측모델임에도 더 많은 병원이 도입하도록 인센티브를 지급하며 장려하기까지 했다.
둘째, '영향받는 사람(affected person)'에 대한 고려 부족. 현재의 법체계는 빅테크 기업과 다운스트리밍 사업자를 개발자로, 이들의 기술을 구매하는 기업을 이용자로 규정한다. 그러므로 실제로 AI 시스템의 적용을 받는 개인들은 법적 주체로 포착되지 않아, 최근의 논의에서는 이들을 '영향받는 사람' 이라는 개념으로 지칭한다(<인공지능에 대한 인권기반접근>, 정보인권연구소).
영향받는 사람들은 이미 도처에서 확인할 수 있다. 신입 직원을 아예 선발하지 않는 일자리 대체, AI학습 데이터에 포함된 콘텐츠 창작자의 권리 문제, 플랫폼 노동자나 데이터 라벨링 작업자의 열악한 노동환경, 알고리즘 편향으로 피해를 입거나 AI 의사결정에서 배제되는 취약집단 같은 현상들이 생겨나고 있다.
예를 들어 병원의 진단AI는 전자건강기록 데이터를 분석하여 질병 발생을 예측하고 치료를 권장하지만, 그 과정이 "블랙박스"적 특성을 가져 의사결정의 투명성이 부족하다. 더욱이 학습데이터에 내장된 인종, 성별, 장애, 연령에 대한 편향을 강화하거나 증폭시킨다는 사실이 학계에 보고되고 있다(☞관련논문 바로가기). 게다가 기술접근성과 환자 규모 등을 고려하면 특정 지역에 집중될 수 밖에 없는 AI보건의료 투자는 지역간 의료격차를 오히려 확대하기 쉽다(☞시민건강논평 바로가기). 이처럼 사람들이 기존의 사회적 불평등과 차별이 고스란히 반영된 신기술의 일방적 적용 대상이 된다면, AI는 사람중심관점을 역행하는 파괴적 도구일 수 밖에 없다.
셋째, 불충분한 영향평가와 속도 경쟁. 한때 빅테크 기업문화의 상징으로 여겨졌던 '빠르게 움직이고 기존 질서를 파괴하라(Move fast and break things)의 잔재로 인해 현행 규범이나 법제도를 신중하게 준수하는 것이 오히려 혁신과 기술개발에 방해가 된다는 인식이 널리 퍼져있다. 더구나 빅테크 기업의 기술 독점과 기술발전 속도에 비하여 공적 규제기관의 검증시스템이나 규제절차는 부재하거나 격차가 크다. 규제기관은 노동, 교육, 금융 등 각 분야의 고유한 특성들을 잘 알지 못할 뿐 아니라, 가령 의료분야의 경우 임상환경에서 사용되는 알고리즘 기반 의사결정 도구에 대한 규제기관의 검토가 필수사항이 아닌 경우도 있다.
경쟁의 압박으로 기업들의 안전성 검증 책무는 생략되기도 하는데, 이런 속도 경쟁을 부추기는 것은 기업화된 국가로서의 한국 정부이기도 하다. 가령 신의료기술 선진입 후평가 제도는 기술 개발자에게는 시장 진입 기회를 주고 의료기기산업의 글로벌 경쟁력을 강화한다는 명목으로 환자를 실험체 삼아 기술의 유효성을 평가하는 것이다. 이것은 신의료기술의 안전성과 효과성 검증을 국가가 책임지지 않고, 환자와 시장에 내맡기는 무책임한 일이다. 또한 최근 발표한 '대한민국 인공지능 행동계획(안)'에 포함된 '보건의료 AI 고도화'나 '30년 AI 기반 글로벌 바이오∙헬스 5대 강국 도약'은 그동안 추진했던 보건의료산업화 전략을 AI와 결합시켜 기업들의 수익창출을 부양하겠다는 뜻에 다름 아니다.
결국 이 세 가지 요인은 서로를 증강하는 기전이 된다. 즉 기술주도권을 확보하려는 기업의 속도 경쟁이 AI가 미칠 파급효과에 대한 평가를 소홀히 하게 만들고, 이것이 결국 영향받는 사람들의 목소리를 배제하는 결과로 이어진다.
하지만 지금 더욱 필요한 것은 AI 안전성(AI safety) 연구와 AI기술이 인간의 삶과 사회구성의 원리를 어떻게 바꿀지에 대한 체계적 검토이다. 기술의 시대일수록 인간다움, 일의 의미, 문화와 사회 진보의 가치를 더 많은 사람이 공유해야 한다. 이를 위해 우리는 수동적으로 "영향받는 사람"이 아니라, 적극적으로 행동하는 권리주체가 되어야 한다. AI 시스템의 작동방식을 묻고, 잘못된 결정에 이의를 제기하며, '자동화된 결정을 거부할 권리'를 행사해야 한다. 이러한 요구와 저항이 기업과 정부로 하여금 보호조치를 강화하고, 기술 확산 속도를 제어하며, 권력을 시민에게 분산시키는 시작이 될 수 있음을 명심하자.
Copyright ⓒ 프레시안 무단 전재 및 재배포 금지
