22일 파이낸셜타임스(FT), 와이어드(WIRED) 등 외신과 오픈AI 공식 발표에 따르면, 오픈AI의 최첨단 AI 에이전트가 사이버 보안 평가 과정에서 테스트 환경을 탈출해 AI 스타트업 허깅페이스(Hugging Face) 관련 시스템에 접근한 것으로 확인됐다.
이번 사건은 AI가 단순히 해킹 방법을 알려주는 수준을 넘어, 목표 달성을 위해 취약점을 찾고 공격 경로를 조합하는 능력을 실제 환경에서 보여줬다는 점에서 업계의 주목을 받고 있다.
|
◇오픈AI “전례 없는 사이버 사고”… AI 모델이 공격 경로 확보
오픈AI는 내부 사이버 보안 평가 과정에서 “최첨단 사이버 능력이 포함된 전례 없는 사이버 사고”가 발생했다고 밝혔다.
이번 평가에는 최근 공개된 GPT-5.6 Sol과 출시 전 테스트 중이던 더 강력한 내부 모델이 활용됐다. 해당 모델들은 AI의 사이버 공격 능력을 평가하기 위해 일반 서비스 환경보다 일부 안전 제한이 낮춰진 상태에서 테스트됐다.
테스트는 외부 인터넷 접속이 제한된 격리 환경에서 진행됐다. 그러나 AI 모델은 평가 목표를 달성하기 위해 내부 환경의 취약점을 탐색했고, 패키지 저장소 캐시 프록시에 존재하는 제로데이 취약점(아직 알려지지 않은 보안 취약점)을 발견해 악용했다.
이를 통해 권한 상승과 내부 이동 과정을 거쳐 인터넷 접근이 가능한 환경에 도달했고, 이후 허깅페이스 시스템에서 테스트 답안을 확보하기 위한 접근 경로를 찾았다.
오픈AI에 따르면 AI 모델은 탈취한 인증 정보와 취약점을 결합해 원격 코드 실행 경로를 확보하는 등 복수의 공격 방식을 연결했다.
◇“AI가 반란?”… 일반 챗GPT 해킹과는 달라
일부에서는 이번 사건을 두고 “AI가 통제를 뚫었다”, “터미네이터 현실화” 같은 표현을 사용하고 있지만, 실제 상황은 영화와는 다르다.
이번 사건은 일반 사용자가 이용하는 챗GPT가 인터넷을 돌아다니며 공격을 수행한 것이 아니다. 연구 목적으로 설계된 별도의 보안 평가 환경에서 AI 에이전트가 주어진 목표를 해결하는 과정에서 발생했다.
또 AI가 자의식이나 악의를 가지고 행동한 것도 아니다. AI는 인간처럼 의도를 갖고 공격한 것이 아니라, 부여된 목표를 달성하기 위해 가능한 경로를 탐색하는 과정에서 예상하지 못한 방법을 선택했다는 것이 오픈AI의 설명이다.
◇‘AI의 의도’가 아니라 ‘자율성’이 악용된 사례
IT 업계가 이 사건을 심각하게 보는 이유는 AI의 악의성이 아니라 자율형 AI 에이전트의 능력이 실제 보안 환경에서 어느 수준까지 도달했는지 확인됐기 때문이다.
기존에는 AI가 해킹 코드를 작성하거나 취약점을 설명하는 수준의 위험이 주로 논의됐다. 하지만 이번 사례는 AI 에이전트가 목표를 부여받으면 취약점 탐색, 공격 경로 설계, 인증정보 활용 등 여러 단계를 스스로 수행할 수 있다는 가능성을 보여줬다.
오픈AI는 “사이버 능력이 강력해지는 AI 모델이 확산하면서 이러한 유형의 사고가 더 흔해질 수 있다”며 모델 평가 과정의 보안 강화와 모니터링 체계 개선에 나서겠다고 밝혔다.
허깅페이스의 클렘 들랑그 최고경영자(CEO)는 “이번 사건은 AI 안전이 한 기업이 비밀리에 해결할 문제가 아니라는 점을 보여준다”며 “모든 방어자가 협력하는 공개적인 접근이 필요하다”고 강조했다.
업계에서는 이번 사건을 ‘터미네이터의 현실화’라기보다 자율형 AI 에이전트 시대에 대비한 새로운 사이버 보안 체계 구축이 필요하다는 신호탄으로 평가하고 있다.
Copyright ⓒ 이데일리 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요
