'보안 핵무기' 된 AI…글로벌 사이버 안보 비상

미국도 규제 검토 선회…각국 대응 체계 구축 착수

한국도 나섰다…정부, 범부처 합동대응반 예고

[로이터=연합뉴스 자료사진. 재판매 및 DB 금지]

(서울=연합뉴스) 권하영 기자 = 인공지능(AI)이 스스로 보안 취약점을 찾아내고 공격 코드까지 생성하는 시대가 현실화하면서 AI가 국가 안보 지형을 뒤흔드는 새로운 '디지털 핵무기'로 떠오르고 있다.

최근 앤트로픽의 자율형 AI 모델 '클로드 미토스'를 둘러싼 '미토스 쇼크'가 전 세계로 확산하면서 미국·중국·일본 등 주요국은 AI 기반 사이버 공격을 차세대 안보 위협으로 규정하고 대응 체계 재정비에 속도를 내는 분위기다.

특히 AI가 인간 해커를 뛰어넘는 속도로 제로데이(미공개 취약점)를 탐지하고 공격까지 자동화할 수 있다는 우려가 커지면서 기존 사이버 방어 체계만으로는 대응이 어려워졌다는 경고도 나온다.

미국에서는 도널드 트럼프 행정부가 신규 AI 모델 공개 전에 정부 차원의 사전 검토 절차 도입을 검토하는 등 탈규제 기조였던 AI 정책 방향에도 변화 조짐이 감지된다.

우리 정부 역시 상황을 심각하게 보고 범부처 차원의 대응 체계 구축에 착수했다.

정부는 기술 전문가 중심의 관계부처 합동 대응반을 운영하고, 글로벌 협력과 함께 독자 AI 보안 역량 확보 방안도 추진할 계획이다.

AI 기술 경쟁이 사이버 안보와 직결되는 국면으로 접어들면서 향후 국가별 'AI 보안 주권' 확보 경쟁도 본격화할 것이라는 전망이 나온다.

◇ AI가 취약점 찾고 공격까지…사이버 방어체계 흔든다

최근 AI 논란의 중심에는 앤트로픽의 차세대 자율형 AI 모델 '클로드 미토스'가 있다.

미토스는 대규모 취약점 탐지와 공격 활용 능력을 갖춘 모델로 알려지며 보안 업계에 충격을 안겼다. 단순 명령 수행 수준을 넘어, 시스템 결함을 스스로 탐지하고 공격 도구를 직접 생성할 수 있다는 점에서 대규모 사이버 공격 자동화에 악용될 가능성이 제기된 것이다.

앤트로픽

(로이터=연합뉴스)

실제 인간 해커가 수개월에 걸쳐 수행하던 제로데이(미공개 취약점) 탐지가 수시간 단위로 단축될 수 있다는 전망이 나오면서, 공격 속도가 방어와 패치 속도를 추월할 수 있다는 점이 핵심 위험 요인으로 지목된다.

국내에서도 우려가 현실화하고 있다.

과기정통부와 한국인터넷진흥원(KISA)은 최근 국내 기업 1곳을 대상으로 일반에 공개된 '클로드 오푸스 4.7' 모델을 활용한 모의해킹을 진행한 결과, 약 10분 만에 7건의 취약점이 발견됐다고 밝혔다.

◇ 미국도 AI 사전 검토…글로벌 'AI 안보전' 본격화

미토스 쇼크는 AI 규제에 비교적 소극적이던 미국의 기류 변화까지 끌어내고 있다.

뉴욕타임스(NYT) 등 외신에 따르면 최근 도널드 트럼프 미 행정부는 신규 AI 모델 공개 전 정부 차원의 사전 검토 절차를 도입하는 방안을 논의 중이다.

조 바이든 전 미국 행정부의 AI 안전성 평가 의무 규제를 철회할 정도로 탈규제 기조였던 트럼프 행정부가 입장을 선회한 배경에는 AI 기반 대규모 사이버 공격이 현실화할 경우 국가 안보와 산업 전반에 미칠 파장에 대한 우려가 깔려 있다는 분석이 나온다.

특히 앤트로픽 주도로 운영되는 글로벌 협력체 '프로젝트 글래스윙'을 둘러싼 긴장감도 커지고 있다. 백악관이 미토스의 잠재적 위험성을 이유로 프로젝트 글래스윙의 접근 권한 확대에 반대하고 있기 때문이다.

미토스 모델을 제한적으로 개방해 취약점 검증과 대응 체계를 공동 구축하는 이 연합체에는 현재 구글·아마존·마이크로소프트·애플 등 미국 빅테크를 중심으로 52개 기업·기관이 참여 중이다. 국가 단위 참여 사례는 미국 외에 영국 AI안전연구소가 사실상 유일한 것으로 전해진다.

중국은 미토스와 자국 AI 모델과의 성능 격차가 드러나면서 위기감이 커진 분위기다.

앤트로픽 '클로드'

(AP=연합뉴스)

실제 베이징 소재 컨설팅 회사 콩코르디아 AI에 따르면 사이버 보안 취약점 탐지 성능 지표인 '사이버짐(CyberGym)' 평가에서 미토스는 83.1%를 기록했으나 같은 시기 공개된 중국 즈푸AI의 'GLM 5.1'(68.7%), 문샷AI의 '키미 K2.5'(41.3%) 등은 그보다 낮은 수준인 것으로 나타났다.

중국은 미중 기술 패권 경쟁 구도상 프로젝트 글래스윙 참여 가능성이 낮은 만큼 자체적인 AI 기반 사이버 방어 역량 강화에 집중할 것이라는 관측이 나온다.

일본 정부 역시 미토스 쇼크 이후 자국 금융사와 전력회사 등을 대상으로 취약점 점검을 지시한 데 이어, 앤트로픽 측에 미토스 접근 권한 확보를 직접 요청하는 방안을 추진 중인 것으로 알려졌다.

◇ 한국도 범정부 대응 착수…'AI 보안 주권' 시험대

관건은 우리나라가 새롭게 형성되는 글로벌 AI 보안 질서에서 어떤 위치를 확보하느냐다. 현재 우리 정부는 프로젝트 글래스윙에 참여하지 못한 상태다.

과기정통부는 지난 11일 류제명 제2차관 주재로 앤트로픽과 간담회를 열고 한국 기업·기관과의 협력 및 취약점 정보 공유를 요청했지만, 글래스윙 참여에 대한 확답은 받지 못한 것으로 알려졌다.

AI 보안 주권

[김선영 제작] 일러스트

이에 정부는 '투트랙' 전략에 무게를 두고 있다.

범용 AI 모델을 활용해 AI 보안 역량을 끌어올리는 동시에 사이버 보안 특화 독자 AI 모델 개발을 통해 장기적으로 'AI 보안 주권'을 확보하겠다는 구상이다. 이르면 이달 말, 늦어도 내달 초 관련 장단기 대응 방안을 공개할 예정이다.

보안 업계 관계자는 "이제 AI 기반 사이버 공격은 기존처럼 개별 기업 차원의 보안 문제로만 보기 어려운 단계에 들어섰다"며 "글로벌 협력과 함께 국내 독자 기술 역량 확보를 병행하지 않으면 향후 AI 안보 국면에서 주도권을 확보하기 쉽지 않을 것"이라고 말했다.

[e-mail]