[K-VIBE] 임기범의 AI혁신 스토리…국방부vs앤트로픽, AI 윤리는 누구의 것?

[※ 편집자 주 = 한국국제교류재단(KF)의 2024년 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재합니다.]

임기범 서울과학종합대학원 대학교 객원교수

[본인 제공]

미국 국방부가 인공지능(AI) 기업 앤트로픽(Anthropic)을 '공급망 리스크'(supply-chain risk)로 지정하며 연방정부 전반에서 사실상 퇴출시키겠다고 나선 사건이 벌어졌다. AI 모델 '클로드'(Claude)를 만든 이 회사는 그동안 미군의 작전과 정보 분석에 깊이 관여해 온 파트너였다. 그런 회사를 국방부가 '안보에 위협이 되는 리스크'로 분류했다는 건 단순한 계약 분쟁이 아니라 AI 시대 국가와 기업 간 힘의 관계가 어디까지 비틀려 있는지를 보여주는 징후다.

갈등의 출발점은 의외로 단순하다. 앤트로픽은 자사 AI를 미국 내에서 이루어지는 대규모 감시에 쓰지 말 것, 인간 개입 없이 작동하는 완전 자율 치명적 무기에는 쓰지 말 것이라는 두 가지 금지선을 정책으로 못 박았다. 반면 미 국방부는 AI를 "법이 허용하는 모든 영역(all lawful purposes)"에서 활용할 수 있어야 한다며 이 가드레일을 해제하라고 요구했다. 협상이 결렬되자 미 국방부는 앤트로픽에 공급망 리스크 딱지를 붙였고, 트럼프 행정부는 모든 연방기관에 앤트로픽 기술 사용 중단을 지시했다. 이에 맞서 앤트로픽은 이러한 조치가 위헌적이며 보복적이라고 주장하며 소송을 제기했다.

이 사건을 단순히 '윤리적인 스타트업 대 안보 우선의 국방부' 구도로만 읽으면 중요한 지점을 놓치게 된다. 앤트로픽은 그동안 팔란티어(Palantir)와의 연계를 통해 미 정보·국방기관의 다양한 시스템에 자사 모델을 제공해 왔고, 베네수엘라 작전 등 실제 군사 행동에 클로드가 활용됐다는 보도도 이미 나왔다. 다시 말해 이 회사는 군사 AI에 반대하는 '비협력' 업체라기보다 어디까지는 협력하되 그 이후는 선을 긋겠다고 나선 회사다. 바로 그 선 긋기의 정당성을 둘러싸고 국가와 기업이 정면충돌한 셈이다.

우선, 군사 분야에 AI를 적용하는 문제에서 구체적인 금지·허용 범위와 책임 주체에 대한 합의는 아직 충분히 정리돼 있지 않다. 이런 상태에서 국방부가 말하는 '법이 허용하는 모든 용도'는 바로 이 틈을 파고든다. 법이 아무 말도 하지 않는 영역까지 사실상 행정부의 재량 영역으로 편입시키고, 거기에 이견을 제기하는 기업은 '안보 리스크'로 규정하는 방식이다. 이번 사건이 위험한 선례인 이유는 여기서 안보 리스크라는 말이 더 이상 외국 경쟁사나 적대국 기업을 겨냥한 것이 아니라 정책에 동의하지 않는 자국 기업을 길들이는 도구로 쓰이기 시작했다는 점이다.

다음으로는, 이른바 '공급망 리스크' 라벨이 정치화되는 문제다. 이 표현은 주로 반도체나 통신장비처럼 국가 기간망에 들어가는 기술·부품이 외국 정부의 영향력 아래 놓일 위험을 관리하기 위해 쓰여 왔다. 그런데 이번에 미 국방부는 이 라벨을 특정 AI 회사의 '이용 정책'을 마음에 들게 바꾸기 위한 압박 수단으로 사용했다는 비판을 받고 있다. 앤트로픽은 소장에서 자사가 대규모 국내 감시와 완전 자율 무기에 대한 예외를 고수했다는 이유로 그동안 주로 외국 기업, 특히 안보상 '위험'으로 분류된 업체들에 적용되던 조치를 미국 기업이 적용받게 됐다고 주장한다. 안보 판단의 필요성과 별개로 안보 프레임이 기업 정책을 교정하는 만능열쇠로 쓰일 수 있는 가능성이 한 번 열렸다는 사실은 가볍지 않다.

마지막으로, 이 분쟁은 AI '안전 원칙'이 '도덕 선언'을 넘어 계약 조건이자 권력 투쟁의 언어가 되기 시작했음을 보여준다. 앤트로픽은 자사 이용 정책을 일종의 표현행위로 보고 정부가 이를 고치지 않으면 블랙리스트에 올리겠다고 압박한 것은 표현의 자유를 침해하는 '보복 조치'라고 주장한다. 반대로 국방부는 "국가안보에 관한 판단은 민간 회사가 사실상 거부권(veto)을 행사할 수 있는 영역이 아니다"라며 최종 판단 권한은 군과 정부에 있다는 점을 분명히 한다. 어느 쪽 손을 들어주든 이제 AI 기업의 '가드레일'은 더 이상 홍보용 문구가 아니라 계약서와 법정에서 다투는 실질적인 권리·의무의 내용이 돼버렸다.

[로이터=연합뉴스 자료사진. 재판매 및 DB 금지]

흥미로운 것은 이 싸움이 기술 업계 내부에서도 작지 않은 파장을 낳고 있다는 점이다. 오픈AI와 구글의 연구자들을 포함한 여러 AI 연구자가 법원에 앤트로픽을 지지하는 의견서를 제출했고, 업계에서는 '이번 조치가 선례가 되면 어느 기업도 군사적 활용에 명시적인 레드라인을 제시하기 어려워질 것'이라는 우려가 나온다. AI 기업이 국가안보를 이유로 한 요구에 어느 정도까지 거절 의사를 밝힐 수 있는지, 그 선을 둘러싼 집단적 협상이 사실상 시작된 셈이다.

이제 질문을 한국으로 옮겨 보자. 한국 역시 군사·안보 분야에서 AI 활용을 적극적으로 추진하고 있다. 각종 국방·방산 과제에서 'AI 기반 지휘·정찰·무인체계' 같은 표현은 익숙해졌지만 정작 국내에서 기업과 정부가 어떤 절차와 기준으로 갈등을 조정할지에 대해서는 아직 뚜렷한 틀을 제시하지 못하고 있다. 군사적 활용이 논의되는 와중에도 국내 기업이 스스로 설정한 윤리·안전 원칙을 어디까지 주장할 수 있는지에 대한 사회적 논의는 거의 없다.

만약 한국의 한 AI 기업이 국방부와의 계약 과정에서 '국내 시위 참가자 감시에는 쓰지 않겠다', '완전 자율 살상 무기 개발에는 협조하지 않겠다'는 조항을 넣자고 요구한다면 어떤 일이 벌어질까. 지금의 제도와 문화에서 그런 회사는 '안보 현실을 모르는 이상주의'쯤으로 쉽게 몰릴 수 있다. 분단 현실 속에서 기본적인 방어 역량을 유지해야 하는 나라라는 점을 생각하면 이런 문제 제기를 사치로 보는 시선이 있는 것도 사실이다. 그렇다고 해서 안보를 이유로 한 정부의 요구가 언제나 기업이 내세운 원칙을 덮어도 된다는 뜻은 아니다. 더 나아가 정부가 안보·공급망 리스크를 명분으로 그런 기업을 각종 조달·지원 사업에서 사실상 배제하는 시나리오를 상상하는 것도 어렵지 않다. 그때 우리는 그것을 정당한 안보 판단이라고 볼 것인가, 아니면 민주적 통제를 우회하는 정책 보복이라고 부를 것인가.

그렇다면 우리는 이번 미 국방부와 앤트로픽 분쟁에서 무엇을 생각해 볼 수 있을까. 아직 우리에게 같은 수준의 갈등이 벌어지고 있는 것은 아니지만, 군사 AI 논의가 본격화된다고가정할 때 다음과 같은 질문들은 피해 가기 어렵다.

첫째, 군사 AI의 금지·허용 범위를 정하는 과정에서 국회와 시민이 어느 수준까지 참여할 수 있을지 그리고 어디까지를 법과 공개된 원칙으로 분명히 할지에 대한 설계가 필요하다.

둘째, 앞으로 국내 기업이 스스로 윤리·안전 원칙을 내세우기 시작할 때 그것이 정부와의 계약 협상 과정에서 완전히 무력화되지 않도록 최소한의 절차적 장치를 두어야 한다.

셋째, '안보'나 '공급망 리스크'라는 말이 기업 정책을 바꾸게 만드는 만능 키워드가 되지 않도록 이런 판단의 기준과 절차를 투명하게 만드는 논의가 뒤따라야 한다.

AI가 전쟁을 바꾸고 있다는 말은 이제 새로울 것이 없다. 그러나 더 중요한 변화는 AI를 둘러싼 권한과 책임의 경계선이 바뀌고 있다는 데 있다. 미 국방부와 앤트로픽의 충돌은 "누가 AI를 더 잘 만드는가"의 문제가 아니라 "누가 AI의 사용 규칙을 정할 것인가"라는 정치의 문제다. 그리고 그 질문은 머지않아 한국 사회에도 훨씬 덜 준비된 상태로 도착할 가능성이 크다. AI 윤리는 기업 보도자료의 미사여구가 아니라 우리가 국가에 어디까지 권한을 맡길 것인지, 어디서부터는 시민과 기업이 '아니오'라고 말할 수 있을지를 둘러싼 권력 싸움의 다른 이름이다.

임기범 인공지능 전문가

▲ 서울과학종합대학원 대학교(aSSIST) 객원교수 ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장 ▲ ㈜컴팩 CIO ▲ 신한 DS 디지털 전략연구소