지난 6월, 오픈AI의 통제를 벗어난 '불량' 인공지능(AI) 에이전트가 호주 정부 웹사이트를 해킹해 비공개 데이터에 접근한 것으로 알려졌다. 전문가들에 따르면 AI 모델이 정부 기관을 해킹한 첫 사례다.
미국 뉴욕을 방문 중인 앤서니 앨버니지 총리는 23일(현지시각) 해당 에이전트가 호주의 보편적 의료보험 제도인 '메디케어'의 통계 포털에 "침투" 했다고 밝혔다. 다만 "민감하지 않은" 데이터였다고도 덧붙였다.
이어 샘 알트먼 오픈AI CEO와 "매우 솔직한 대화"를 나눴으며, 이 같은 침투 사실을 공개하는 데 "너무 오래 시간을 끌었다"고 지적했다. 아울러 이번 사건에 "법적 결과"가 뒤따를 것이라고도 설명했다.
오픈AI 측은 지난 8월 "모델의 비정상적 활동"을 검토하던 중 이 침해 사실을 처음 인지했으며, 9월 10일 호주 정부 기관의 일반 이메일 주를 통해 이 같은 사실을 전달했다고 설명했다.
5일 후, 해당 이메일을 접수한 담당 기관 '서비스 오스트레일리아'는 이를 호주 사이버보안 센터에 전달했고, 이후 관련 부서 장관 및 총리에게도 보고됐다.
앨버니지 총리는 알트먼 CEO와의 전화 통화에서 "이번 사건에 대한 호주 당국의 심각한 우려"를 전달했을 뿐만 아니라, 회사가 침해 사실을 공개하는 데 수개월이 걸린 점, 그 "공개 방식"에 대해서도 "실망"을 표명했다고 말했다.
알트먼 CEO는 오픈AI "프로토콜 상의 문제"가 있었다는 점을 인정한 것으로 전해졌다.
앨버니지 총리는 호주 사이버보안 센터의 주도로 "법의학 조사"를 벌여 영향을 받은 다른 정부 시스템도 있는지 점검할 것이라고 밝혔다. 이어 조사를 통해 경찰 수사가 필요한지도 평가할 것이라며, "분명히 법적인 결과가 뒤따를 것"이라고 강조했다.
앨버니지 총리는 이번 사건에 대해 자세히 설명하면서, AI 에이전트가 접근한 데이터는 "민감하지 않은" 데이터가 저장된 '메디케어 통계 보고 서비스' 포털의 "공개 및 비공개 파일"이었다고 밝혔다.
이 밖에도 '호주 보건복지연구소', '뉴사우스웨일스주 범죄통계연구국', '빅토리아주 보건부' 등 3개의 정부 시스템도 영향을 받았을 "가능성이 있다"는 설명이다.
앨버니지 총리는 "현재로서는 개인정보가 유출된 것으로 보이지는 않지만, 조사 중"이라고도 전했다.
또한 "그렇지만 명백히 용납될 수 없는 사건"이라고 강조했다.
한편 오픈AI는 성명을 통해 "내부 평가 과정에서 우리 모델이 호주와 관련된 질문에 대해 답변과 관련 통계를 찾아보려 시도하던 중, 여러 호주 정부 웹사이트 및 서비스와 관련된 활동을 벌인 점을 확인했다"고 설명했다.
이어 "그 과정에서 윌 모델이 우리가 의도하지 않은 행동을 했다"고 덧붙였다.
앨버니지 총리는 22일 밤 뉴욕에서 열린 도널드 트럼프 미국 대통령과의 대면 회담에서 이와 관련해 문제를 제기했는지 묻는 질문에는 답변하지 않았다. 현재 뉴욕에는 UN 총회 참석을 위해 각국 정상이 모여 있다.
호주는 이번 주 초 인공지능(AI) 개발에 대한 전 세계적 감독과 안전장치 마련을 촉구하는 공동 성명에 서명한 22개국 중 하나다.
사이버 보안 전문가들은 BBC와의 인터뷰에서 AI 에이전트가 개인 및 상업적 용도로 점점 더 널리 보급되는 만큼, 이번 사건이 규제 당국에 경각심을 불러일으키는 계기가 될 수 있다고 전망했다.
뉴사우스웨일스대학교(UNSW) '사이버보안 연구소'의 해먼드 피어스 교수는 BBC와의 인터뷰에서 이는 AI 에이전트가 자의적으로 정부 기관을 공격한 것으로 알려진 첫 사건이지만, 앞으로 유사한 사례가 더 많이 발생할 것으로 전망했다.
이러한 유형의 공격이 "심각성과 빈도 면에서 더욱 증가할 것"이라는 설명이다.
"이번 사건이 전 세계 정부에 경종을 울리는 계기가 되기를 바랍니다."
올해 초, 오픈AI는 자사가 테스트 중이던 AI 에이전트들이 통제에서 벗어나 은밀히 협력해 기술 기업 '허깅 페이스'를 해킹했다고 밝힌 바 있다.
또한 올해 들어 여러 불량 AI 사례가 잇따라 공개됐다. 일례로 디지털 어시스턴트 기능은 호주의 한 남성을 필라테스 수업에 등록시키고자 별도의 지시 없이 대기자 명단에서 다른 사람의 이름을 임의로 삭제했다.
최근 알트먼, 앤트로픽의 다리오 아모데이 CEO, 일론 머스크를 비롯한 여러 AI 기업 최고 경영자들은 현재 AI 발전 속도가 인류를 위협한다며 이를 억제하자고 목소리를 높이고 있다.
하지만 AI 패권을 놓고 경쟁 중인 미국과 중국이 그 걸림돌로 지적된다. 양국 모두 규제 강화에 적대적이며, AI로 인한 경제적, 기술적 성과를 추구하는 탓에 상대적으로 안전 문제를 경시한다.
- 젠슨 황, AI 때문에 인류 멸망할 확률 '0%'
- AI가 인류를 위협할 수 있다는 우려, 근거는 무엇이고 얼마나 현실적일까?
- 오픈AI 샘 알트먼 '세상이 인공지능 두려워할 수 있지만…기업 신뢰해야'
- 앤트로픽 공동 창업자 BBC 인터뷰 'AI 킬 스위치 의무화 필요할 수도'
Copyright ⓒ BBC News 코리아 무단 전재 및 재배포 금지
