미국 AI 기업 앤트로픽의 한 연구원이 인공지능(AI) 개발 경쟁이 지나치게 빨라질 경우 인류를 파멸시킬 수 있다고 경고하며 회사를 떠났다.
8일(현지시간) 월스트리트저널(WSJ)에 따르면 앤트로픽에서 근무했던 영국 출신 연구원 제이컵 콕슨(27)은 최근 퇴사하면서 AI 업계의 개발 속도와 안전 문제에 대한 우려를 제기했다.
콕슨은 방대한 데이터를 활용해 새로운 AI 모델을 학습시키는 분야에서 연구해왔다. 올해 초 오픈AI를 떠나 앤트로픽으로 자리를 옮겼지만, 장기적으로는 특정 기업 차원의 노력만으로 AI 위험을 충분히 관리하기 어렵다고 판단한 것으로 전해졌다.
그가 특히 우려한 것은 사람의 지속적인 개입 없이 AI가 스스로 능력을 끌어올리는 기술이다. 주요 AI 기업들이 이 같은 시스템 개발에 속도를 내면서 안전성을 충분히 검토할 시간이 줄어들 수 있다는 것이다.
향후 AI가 자체적으로 성능을 향상시키는 단계에 이르면 인간이 내리는 지시를 따르지 않거나 통제 범위를 벗어날 가능성도 배제할 수 없다는 게 콕슨의 주장이다.
콕슨은 “가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있다”며 “내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다”고 말했다.
그는 치열해지는 업계 경쟁 속에서 한 회사가 자체적인 안전 원칙을 지키는 것만으로는 근본적인 위험을 막기 어렵다는 결론에 이른 것으로 알려졌다.
AI 기술의 향방을 극소수 개발자가 사실상 결정하고 있다는 점에도 문제를 제기했다. 콕슨은 인류 사회에 광범위한 영향을 줄 수 있는 기술의 미래가 일부 엔지니어들의 판단에 달린 현재의 구조를 “일종의 광기”라고 표현했다.
이에 따라 인간의 지적 능력을 넘어서는 범용인공지능(AGI)을 안전하게 개발하려면 개별 기업에 맡기는 방식을 넘어 정부 차원의 규제나 업계 공동의 대응 체계가 필요하다고 강조했다.
콕슨은 앞서 AI 개발 속도를 관리할 수 있는 국제적 장치를 마련해 달라고 각국 정부에 요구한 AI 연구자들의 공동 성명에도 이름을 올렸다.
해당 성명에는 다리오 아모데이 앤트로픽 최고경영자(CEO)와 야쿠프 파초키 오픈AI 수석과학자 등을 포함해 AI 분야 연구자 1천여명이 참여한 것으로 전해졌다.
Copyright ⓒ 경기일보 무단 전재 및 재배포 금지
