구글이 전 세계 18억 명의 Gmail 사용자에게 최근 사이버 보안에 대한 ‘새로운 위협’이 증가하고 있다며 중대 경고를 발표했다.
구글은 최근 블로그 게시물을 통해 ‘간접 프롬프트 주입’이라는 새로운 형태의 사이버보안 공격을 받을 수 있다며 이는 개인, 기업, 심지어는 정부까지 위험에 빠뜨릴 수 있다고 밝혔다.
최근 보안 연구 기업인 세이프브리치(SafeBreach)는 “블로그 포스트에서 구글의 인공지능 비서 제미나이(Gemini)에서 심각한 취약점이 발견됐다”며 “이는 초대장만 있으면 충분하다”고 폭로했다. 여기서는 단순한 이메일이나 캘린더 초대장이 어떻게 강력한 AI 비서를 해커의 손에 넘겨주는 도구로 변질될 수 있는지를 보여준다.
세이프브리치는 “공격자가 악성 명령을 프롬프트에 직접 입력하는 직접 프롬프트 인젝션과 달리, 간접 프롬프트 인젝션은 외부 데이터 소스 내에 숨겨진 악성 명령을 사용한다”며 “여기에는 AI가 사용자 데이터를 유출하거나 기타 악성 작업을 실행하도록 지시하는 이메일, 문서 또는 캘린더 초대장이 포함될 수 있다”고 밝혔다.
세이프브리치가 발견한 해킹은 ‘간접 프롬프트 주입(Indirect Prompt Injection)’이라는 기법으로, 이는 공격자가 악의적인 명령어를 사용자가 직접 알아채기 어려운 방식으로 AI 시스템에 주입하는 방식이다.
세이프브리치는 "해커들은 구글의 자체 AI인 제미나이를 이용해 스스로를 공격하는 방법을 찾아냈고 제미나이에 숨겨진 메시지가 담긴 이메일을 보내 사용자가 알아차리지 못하는 사이에 비밀번호를 알아낸다“면서 ”정부, 기업, 개인들의 제미나이 사용이 늘어나면서 해킹 우려가 더욱 커지고 있어 즉각적인 주의와 강력한 보안 조치가 요구된다“고 밝혔다.
이와 관련, 구글은 사용자를 이같은 위협으로부터 안전하게 지키기 위해 프롬프트 수명 주기의 각 단계에 맞춰 설계된 보안 조치를 도입하는 등 새로운 보안 조치를 추진하고 있다고 밝혔다.
Copyright ⓒ M투데이 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
