OpenAI, 차세대 모델 '아스트라' 개발 부분 중단

사진=뉴시스 제공.

OpenAI가 차세대 AI 모델 '아스트라(Astra)'의 개발을 부분 중단했다. 내부 평가에서 이 모델이 '핵심급(Critical)' 사이버 공격 능력에 도달했을 가능성을 배제할 수 없기 때문이다. AI 기업이 보안 우려로 자발적으로 모델 개발 속도를 늦춘 것은 전례 없는 일이다.

OpenAI는 7일(현지시간) 블로그 게시물과 Axios 단독 보도를 통해, 최근 내부 평가 결과 아스트라 모델이 에이전트 프로그래밍과 사이버보안 분야에서 상당한 진전을 보였다고 밝혔다. 회사는 "이 모델이 핵심급 사이버 능력에 도달했을 가능성을 배제할 수 없다"며, 강화된 안전 요건을 충족하지 못하는 내부 활동을 중단했다.

OpenAI의 '준비 프레임워크(Preparedness Framework)'에 따르면, 핵심급 모델은 인간의 개입 없이 단독으로 취약점을 발견하고 공격할 수 있거나, 고위 명령만 주어지면 방어가 강화된 실제 시스템에 대한 종단간 사이버 공격을 설계하고 실행할 수 있는 수준이다. 이는 '고위험' 등급보다 한 단계 높은 최상위 위협 등급이다. 기존 GPT-5.6 솔(Sol) 모델은 '고위' 등급으로 분류되었다.

Axios에 따르면 백악관 관계자는 "OpenAI가 아스트라 출시 연기 계획을 정부에 자발적으로 통보했다"고 밝혔다. 새로운 출시 시점은 아직 정해지지 않았다. 이는 전방위 AI 연구소가 사이버 보안 우려로 자체 모델 개발을 늦추기로 공개적으로 약속한 최초의 사례다.

이번 결정은 최근 일련의 AI 모델 통제 상실 사건들과 맞물려 있다. 7월에는 OpenAI의 모델이 격리 환경을 돌파해 인터넷에 접속한 뒤, 오픈소스 AI 플랫폼인 허깅페이스(Hugging Face)의 시스템을 공격했다. 이는 AI 연구소가 자체 모델의 통제를 상실한 최초로 확인된 사례로, 해당 모델은 소프트웨어 제로데이 취약점을 이용해 인터넷 연결을 확보한 뒤 허깅페이스 운영 시스템에 침투해 평가 답안을 찾으려 했다.

Anthropic 역시 4월 테스트 중 자사 AI 모델이 3개 기업을 공격했음을 공개했다. 메타(Meta)도 이번 주에 자사 모델이 테스트 한계를 돌파했음을 인정했다. 영국 AI 안전연구소와 민간 평가기관 Irregular의 테스트에서도 모델들이 테스트 환경을 벗어나 실제 웹사이트와 계정에 접속하는 사례가 확인되었다.

OpenAI는 아스트라의 전체 개발을 중단한 것이 아니라고 설명했다. 강화된 안전 요건을 충족하는 평가와 개발은 계속되며, 나머지 작업만 일시 중단된다. 회사는 모델 가중치 암호화 강화, 네트워크 및 도구 권한 제한, 고위험 작업에 대한 더 엄격한 격리 환경 구축 등의 조치를 취하고 있다. 또한 정부 기관 및 일부 AI 안전 기관과 협력해 아스트라의 능력을 테스트할 계획이다.

비영리 연구기관 Palisade Research의 제프리 라디시 국장은 "OpenAI가 허깅페이스 공격 사건 발견 후 아스트라 작업을 중단했어야 했다"며 "AI 기업이 자율 규제만으로 문제를 해결할 수 있다는 대중의 신뢰를 크게 낮춰야 할 단계에 왔다"고 지적했다.

테크크런치(TechCrunch)는 이 사건이 "AI 모델이 그 사용을 규제하는 법규보다 더 빠른 속도로 능력을 갖춰가고 있음"을 보여준다고 평가했다. 트럼프 행정부는 현재 AI 모델 출시 전 평가 프로세스를 개발 중이며, 이번 주 업계 관계자들에게 프레임워크를 브리핑했지만 여전히 미해결 과제가 많다. 어떤 기관이 모델에 접근하거나 검토하는지, 충분한 국가적 위험이란 무엇인지 등 핵심 질문이 남아 있다.

Anthropic은 6월 사이버 능력이 가장 뛰어난 모델 '미토스(Mythos)'의 안전 버전을 출시하며 "신중하게 보수적으로 접근하고 있다"고 밝힌 바 있다. 회사는 또한 AI 발전의 전면 중단을 촉구하는 블로그 게시물을 발표하기도 했다. 다만 Anthropic은 올해 2월 책임 확장 정책 업데이트에서 능력 통제를 넘어서는 모델의 훈련 중단 약속을 후퇴시킨 바 있다.

업계에서는 한 기업만 개발을 멈추고 다른 기업이 계속 전진할 경우, 오히려 더 위험한 세상이 될 수 있다는 우려도 나온다. OpenAI의 프레임워크 문서도 "한 AI 개발자가 안전 조치를 위해 개발을 중단하는 동안 다른 기업이 완화 없이 시스템을 배포한다면, 그 결과는 덜 안전한 세계가 될 수 있다"고 경고했다.

이번 사건은 AI 모델의 사이버 능력이 규제 체계보다 앞서 나가고 있음을 여실히 보여준다. 선도적 AI 연구소들이 스스로 안전 브레이크를 밟기 시작했지만, 업계 전반의 조율과 정부 차원의 검증 체계 구축이 시급한 과제로 떠올랐다.

차승민 기자 [e-mail]