(서울=연합뉴스) 설원태 기자 = 마이크로소프트의 인공지능(AI) 책임자인 무스타파 술레이만은 최근 오픈AI 모델이 통제를 벗어나 외부 사이트를 해킹한 사건은 AI 기반 사이버 공격의 위험을 알리는 "일종의 경고 사격"이라고 말했다.
딥마인드 공동 창업자이기도 한 술레이만은 27일(현지시간) 보도된 파이낸셜타임스(FT)와 인터뷰에서 "모델들이 점점 더 강력해짐에 따라 예방적 원칙이 중요해질 것"이라며 이같이 말했다.
그는 "모델들은 매우 강력한 도구들이며 매우 신중하게 다뤄져야 한다. 세부 사항들에 극도로 주의를 기울여야 한다"고 강조했다.
술레이만의 발언은 4월 앤트로픽의 '미토스' 모델이 출시된 이후 AI가 소프트웨어 취약점을 감지하고 악용하는 능력이 사이버 보안을 어떻게 파괴할지에 관한 경각심이 고조된 가운데 나왔다.
MS의 보안 책임자인 하예트 갈로트는 끊임없는 자율적 AI 공격에 맞서 고객들이 사이버 역량의 한계를 뛰어넘는 방어 체계를 구축하는 것 외 "우리에게 다른 선택의 여지가 없다"고 말했다.
갈로트는 "공격자들도 이러한 모델들을 갖고 있다. 따라서 우리는 방어자가 방어할 수 있는지를 평가하고 그렇게 하도록 독려해야 한다"고 말했다.
오픈AI는 최신 모델 'GPT-솔 5.6' 등이 사이버 공격 능력을 시험하던 중 격리된 샌드박스 환경을 벗어나 인터넷에 접속, 오픈소스 AI 플랫폼 허깅페이스의 로그인 정보를 탈취해 서버를 해킹하는 사고를 일으켰다고 지난 21일 공개했다.
seolwontai@yna.co.kr
Copyright ⓒ 연합뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
