AI 의존 커지는 ‘군사작전’···미래 안보의 새 변수

LIG D&A가 지난해 ADEX 2025에서 선보인 지능형 통합 지휘통제체계. [사진=LIG D&A]

[이뉴스투데이 김재한 항공·방산 전문기자] 군사작전에서 민간기업이 개발한 AI(인공지능)의 역할이 빠르게 커지고 있다. 하지만 특정 기업의 모델에 지나치게 의존하면 이용조건 변경이나 서비스 중단이 작전 수행의 제약으로 이어질 수 있다는 지적이 나온다.

3일 관련 업계에 따르면, 군의 AI 활용 범위는 장비 정비와 군수품 수요 예측, 문서 작성 등 행정업무를 넘어 감시·정찰 영상 분석과 표적 식별, 작전계획 수립, 지휘관의 판단 지원으로 넓어지고 있다.

실제로 미 육군은 지난 3월 10일 보도자료를 통해 AI 도구인 '메이븐 스마트 시스템(Maven Smart System)'을 활용해 지휘통제작전을 위한 교육훈련을 현대화한다고 밝혔다. 메이븐 스마트 시스템은 위성과 무인기 등이 수집한 사진과 영상 등을 분석해 전장 상황을 파악하고 지휘관의 판단을 돕는 기능을 갖췄다. 

북대서양조약기구(NATO)도 지난 5월 14일, AI를 이용해 훈련 설계와 통제, 개선 방식 등을 현대화하고 있다면서 복잡하고 현실적인 시나리오를 구축하는 훈련팀에 실질적인 지원을 제공하는 데 중점을 두고 있다고 밝혔다.

이처럼 민간기업이 개발한 AI가 군의 훈련과 작전 지원에 폭넓게 활용되면서, 모델의 사용범위를 누가 결정할 것인지도 새로운 쟁점으로 떠올랐다. 이를 보여주는 대표적인 사례가 미 국방부와 AI 기업 앤트로픽의 갈등이다.

앤트로픽은 자사 모델 ‘클로드’를 사람의 승인 없이 공격하는 완전자율무기와 미국 내 대규모 감시에 사용해서는 안 된다는 입장을 밝혔다. 반면 미 국방부는 법률이 허용하는 군사적 용도라면 정부가 사용범위를 결정할 수 있어야 한다고 맞섰다.

에밀 마이클 미 국방부 연구·공학 담당 차관은 지난 3월, 상용 AI 계약에 포함된 폭넓은 제한이 실시간 군사임무의 계획과 실행을 방해할 수 있다고 밝혔다. 로이터 보도에 따르면, 그는 계약조건에 따라 군이 사용하던 AI가 임무 도중 작동을 멈출 가능성을 문제로 제기했다.

미 국방부는 한 기업에 대한 의존을 줄이는 방식으로 대응하고 있다. 미 국방부가 지난 5월 발표한 ‘기밀망 AI 협약(Classified Networks AI Agreements)’에 따르면, 미 국방부는 8개 민간기업의 AI를 기밀 전산망에서 사용할 수 있도록 협약을 맺었다. 한 업체의 서비스를 이용하기 어려워져도 다른 모델로 대체할 수 있는 구조를 구축하겠다는 것이다.

우크라이나는 정부와 군이 관리하는 서버에 AI를 직접 설치하는 방식을 추진하고 있다. 지난달 7일 로이터 보도에 따르면, 로만 키슬리 우크라이나 디지털전환부 최고 AI책임자는 정부와 기업, 군이 사용할 AI를 선정할 때 자체 서버에서 운용할 수 있는지를 중요하게 평가하겠다고 밝혔다.

업계에 따르면 기관 내부 서버에 AI를 설치하는 방식을 ‘온프레미스(On-premises)’라고 한다. 외부 기업의 서버에 접속하지 않아도 돼 자료 저장과 모델 업데이트를 직접 관리할 수 있고, 인터넷 연결이 불안정한 전장에서도 사용할 수 있다. 다만 고성능 그래픽처리장치(GPU)와 데이터센터, 전문인력을 자체적으로 확보해야 한다.

국제시험평가협회(ITEA)가 6월 게재한 학술논문 ‘AI 조달에서 공급업체 종속 방지’에 따르면, 특정 기업만 사용하는 전산구조와 자료 형식에 맞춰 AI를 구축하면 다른 제품으로 교체하기 어려워진다. 연구진은 필요한 기능만 바꿀 수 있도록 시스템을 나눠 설계하고, 기업이 달라도 함께 사용할 수 있는 공통 자료 형식을 적용해야 한다고 제안했다.

한국 국방부도 민간 기술을 활용해 국방 특화 AI를 개발하고 있다. 국방부는 지난 5월 14일, SK텔레콤과 체결한 업무협약을 통해 국가 AI 프로젝트에서 배정받은 GPU를 활용해 2분기 중 독자 AI 파운데이션 모델의 경량화 모델 개발에 착수할 계획이라고 밝혔다.

협약에 따라 SK텔레콤은 자체 모델인 A.X K1과 후속 모델을 적은 수의 GPU에서도 운용할 수 있도록 경량화하고 국방 분야 자료를 추가로 학습시킬 예정이다.

과학기술정보통신부는 독자 AI 파운데이션 모델 사업을 통해 외국 AI에 대한 기술·안보적 종속을 줄이고, 국내에서 모델을 직접 개발·고도화하며 운용을 통제할 수 있는 역량을 확보한다는 방침이다.

다만 현재 공개된 협약의 적용 대상은 군사작전이 아닌 국방 행정업무다. 개발한 모델을 국방 내부망이나 자체 서버에서 운용할지, 다른 기업의 AI와 함께 사용할지, 공급업체가 바뀌면 기존 자료와 업무체계를 어떻게 옮길지에 관한 구체적인 기준도 공개되지 않았다.

다만 현재 공개된 협약은 국방 행정업무에서의 활용을 우선 목표로 하고 있다. 작전지휘나 무기 통제에 적용한다는 내용은 포함되지 않았다. 개발한 모델을 국방 내부망이나 자체 서버에서 운용할지, 다른 기업의 AI와 함께 사용할지, 공급업체가 바뀌면 기존 자료와 업무체계를 어떻게 옮길지에 관한 기준도 공개되지 않았다.

군사전문가들은 AI가 작전의 핵심 영역으로 들어올수록 민간기업의 계약조건과 서버 운영도 군사적 취약점이 될 수 있다고 지적한다. 이에 따라 국내에서도 국방 특화모델 개발과 함께 군이 모델과 자료를 직접 관리하고 필요할 때 다른 제품으로 바꿀 수 있는 운용 기준을 마련하는 것이 과제로 떠오르고 있다.