그는 25일(현지시간) 공개된 미 NBC뉴스 인터뷰 예고편에서 “AI는 분명 10억명이 사망하는 사건을 촉발할 만큼 강력하다”며 “인류의 100%를 죽이는 수준까지 가는 것은 상당히 어렵겠지만, 악의를 가진 사람들이 최신 AI 도구를 사용하는 것만큼 강력한 무기는 지금까지 없었다”고 경고했다.
그는 미국 정부가 AI 발전을 감시하고 안전장치를 마련하기 위한 연방 차원의 법률을 반드시 제정해야 한다고 주장했다. 그는 “자율규제만으로 충분하다고 생각하는 사람은 아무도 없다”며 “법을 만들면 업계에 약간의 부담은 생기겠지만, 기업들이 하고 있는 일을 극적으로 늦추는 수준은 아닐 것”이라고 말했다.
그는 AI 위험을 단기적인 악용 위험과 장기적인 ‘실존적 위험’을 구분했다. 테러리스트나 불량국가가 AI를 무기 개발이나 사이버 공격 등에 활용할 가능성은 당장 현실화할 수 있는 위험인 반면 AI가 통제 불가능한 수준으로 발전해 인류 자체를 위협할 가능성은 보다 장기적인 위험이라는 설명이다.
|
후자의 경우 AI 위험성을 경고한 제이컵 콕슨 앤스로픽 전 연구원 등 AI 안전 전문가들도 문제를 제기해왔다. 콕슨 전 연구원은 많은 AI 개발자들이 이 기술이 “이번 10년이 끝나기 전에 우리 모두를 죽일 수도 있다”고 믿고 있다고 말했다.
이 같은 발언은 최근 몇 주 사이 잇따른 대형 사이버보안 사고로 오픈AI와 앤스로픽 같은 최첨단 AI 기업들이 자사 모델을 제대로 통제할 수 있는지에 대한 의문이 확대된 가운데 나왔다. 이에 AI 안전성 논쟁도 다시 불붙고 있다.
최근에는 오픈AI의 한 에이전트가 호주 공공보건 서비스 웹사이트를 해킹해 공개 파일뿐 아니라 비공개 파일에도 접근한 사실이 알려졌다. 오픈AI는 해당 공격이 발생한 뒤 수개월 동안 호주 정부에 이를 알리지 않았고, 앤서니 앨버니지 호주 총리는 23일 해당 침해 사건과 오픈AI의 늑장 대응에 대해 “명백히 용납할 수 없는 일”이라고 비판했다.
이달 앤스로픽은 친이란 후티 반군으로 추정되는 예멘 무장세력이 클로드 AI 모델을 이용해 탄도미사일의 유도·제어·항법 소프트웨어 개발 지침을 얻으려 했다고 밝히기도 했다.
이처럼 실리콘밸리 내 우려가 커지고 대중의 AI 반대 여론도 확산하고 있지만,도널드 트럼프 미국 대통령은 AI 규제에 여전히 강하게 반대하고 있다. 그는 AI 안전성에 대한 우려를 ‘사기’라고 부르며 “기술을 통제하려는 글로벌리스트들의 책략”이라고 일축했다.
반면 주요 AI 기업들은 글로벌 안전 규제가 필요하다는 입장이다. 오픈AI의 샘 올트먼 최고경영자(CEO)와 앤스로픽의 다리오 아모데이 CEO는 최근 유엔 안전보장이사회 연설을 통해 미국이 이를 주도해 글로벌 AI 안전 기준을 마련해야 한다고 주장했다.
이번 주 열린 미중 정상회담에서도 양국은 AI와 관련한 대화 채널을 마련하기로 했다.
Copyright ⓒ 이데일리 무단 전재 및 재배포 금지
