오픈AI의 최신 인공지능 모델들이 내부 보안 시험 과정에서 통제망을 벗어나 외부 사이트에 접속한 사실이 확인됐다.
특히 이들 모델은 해당 사이트의 로그인 정보를 빼낸 뒤 서버까지 해킹한 것으로 파악됐다.
21일(현지시간) 오픈AI 등에 따르면 ‘GPT-5.6 솔’과 일부 비공개 모델은 사이버 공격 역량을 점검하는 내부 평가 도중 오픈소스 AI 공유 플랫폼 허깅페이스에 무단 접속했다.
시험은 인터넷과 완전히 분리된 ‘샌드박스’에서 진행됐지만, AI 모델들이 공개되지 않은 취약점을 활용해 격리 장치를 우회한 것으로 조사됐다.
이후 인터넷에 접속한 모델들은 허깅페이스 서버의 인증 정보를 확보하고 시스템 내부로 침투했다.
오픈AI는 “모든 정황을 종합해볼 때 이 모델들은 (보안 벤치마크인) ‘익스플로잇짐’의 평가용 문제에 대한 해법을 찾는 데 지나치게 집중해 극단적인 수단까지 동원했던 것으로 보인다”고 설명했다.
평가 당시 공격 수행 능력을 확인하기 위해 일부 사이버 안전장치가 평소보다 느슨하게 설정돼 있었던 점도 영향을 미친 것으로 분석됐다.
앞서 허깅페이스는 자사 시스템이 자율형 AI 에이전트의 공격을 받았다고 공개했지만, 당시에는 공격에 사용된 모델을 특정하지 못했다. 이후 조사 과정에서 오픈AI 모델이 해당 침입에 관여한 사실이 확인됐다.
다만 일반 이용자에게 공개된 모델이나 데이터세트가 변경된 정황은 확인되지 않았다. 소프트웨어 공급망에도 별다른 이상은 없는 것으로 파악됐다.
오픈AI와 허깅페이스는 현재 공동으로 디지털 포렌식 조사를 진행하며 침입에 활용된 취약점과 보안 체계를 점검하고 있다.
오픈AI는 이번 일을 계기로 연구 일정이 늦어지더라도 내부 인프라의 접근 권한을 더 엄격하게 관리하겠다는 방침을 밝혔다. 모델 개발과 평가 단계에서 감시 체계와 접속 통제, 이상행동 탐지 장치도 강화할 방침이다.
그러나 외부와 차단된 시험 환경에서도 AI 모델이 독자적으로 보안망을 우회한 만큼, 고성능 AI의 자율성과 사이버 공격 위험을 둘러싼 논란은 이어질 전망이다.
특히 미국 상용 AI보다 안전 통제가 상대적으로 느슨한 것으로 평가되는 중국산 오픈소스 모델의 성능이 빠르게 향상하면서, 이를 이용한 자동화 공격이 확산할 수 있다는 우려도 나온다.
허깅페이스 역시 당초 공격 주체를 중국 즈푸의 개방형 AI 모델 ‘GLM 5.2’로 추정한 바 있다.
Copyright ⓒ 경기일보 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
