AI 보안 모델 '미토스', 숙련된 전문가 수준 취약점 분석 능력 입증

 

앤트로픽이 개발한 보안 특화 AI 모델이 기존 자동화 도구를 뛰어넘는 실전 역량을 갖춘 것으로 확인됐다. 연합뉴스에 따르면 클라우드플레어는 20일 '클로드 미토스 프리뷰'를 자사 코드 저장소 50여 개에 적용한 분석 결과를 담은 보고서를 발표했다.

미국의 네트워크 인프라 기업인 클라우드플레어는 앤트로픽 주도로 구글, 마이크로소프트, 애플, 엔비디아 등 52개 주요 기업·기관이 참여하는 글로벌 보안 협력체 '프로젝트 글래스윙'의 일원이다. 이를 통해 미토스에 대한 제한적 접근 권한을 확보할 수 있었다.

◇ 단순 탐지 넘어 실제 침투 시나리오까지 구성

그랜트 부지카스 클라우드플레어 최고보안책임자(CSO)는 보고서에서 미토스 프리뷰를 "분명한 진전"으로 평가했다. 특히 익스플로잇 체인 구성 능력과 개념 증명 역량이 주목할 만하다는 분석이다.

취약점 악용 코드 생성 측면에서 미토스는 단일 취약점에 의존하지 않는다. 여러 소규모 취약점을 조합해 실제 작동 가능한 공격 시나리오를 도출하는 실전적 접근법을 보여줬다. 이러한 추론 과정이 "자동 스캐너 결과물이 아닌 선임 연구원의 작업물처럼 느껴진다"고 보고서는 평가했다.

개념 증명 능력도 단순 취약점 발견 수준을 넘어섰다. 버그 유발 코드를 직접 작성하고 임시 환경에서 실행한 뒤, 예상과 다른 결과가 나오면 가설을 수정해 재시도하는 과정을 자율적으로 반복했다.

기존 최첨단 AI 모델들이 개별 취약점 발견이나 분석까지는 가능했지만 이를 연결하는 단계에서 한계를 드러냈다면, 미토스는 다르다. 우선순위가 낮아 방치됐던 경미한 버그들을 엮어 하나의 고위험 침투 경로로 완성해내는 점이 차별화 요소로 꼽혔다.

다만 자체 보안 가드레일의 일관성에는 문제가 발견됐다. 동일한 코드 분석 요청을 처음에는 거부했다가 무관한 환경 변경 후에는 수행하거나, 심각한 메모리 버그 발견 후 시연용 코드 작성은 거절했으면서도 요청 방식만 바꾸면 응하는 불안정한 모습을 보였다.

◇ 양날의 검…"패치 속도만으로는 대응 불가"

클라우드플레어는 미토스의 능력이 방어와 공격 양쪽 모두에 전용될 수 있다는 점을 명확히 경고했다. 보고서는 "자사 코드에서 버그를 찾아낸 동일한 역량이 악의적 주체 손에 들어가면 인터넷 전체 애플리케이션에 대한 공격을 가속화할 것"이라고 우려를 표명했다.

패치 배포 속도를 높이는 것만으로는 충분한 대응이 어렵다는 지적도 나왔다. 이러한 AI 모델의 일반 공개를 위해서는 현행 기본 동작에 추가적인 안전장치가 필수적으로 갖춰져야 한다는 것이다.

근본적 해결책으로는 구조적 방어 체계 구축이 제안됐다. 취약점이 존재하더라도 공격자가 이를 활용하지 못하도록 애플리케이션 접근 제어를 강화하고, 코드 결함의 확산을 차단하며, 코드 배포와 수정을 동시에 적용하는 방식 등이 포함된다.