앤트로픽 "AI 모델, '스스로 진화'로 향하고 있다"

인공지능(AI) 모델 클로드 개발사 앤트로픽이 세계가 AI 모델 개발 속도를 늦추는 방안을 검토해야 한다고 촉구하고 나섰다.

사내 연구소 책임자 마리나 파바로와 공동창업자 잭 클라크가 작성한 이 게시글은 AI 모델의 발전이 "(인간의 개입 없이 스스로 개선될 수 있는) 재귀적 자기 개선(recursive self-improvement)"으로 향하는 것으로 보인다고 지적했다..

마리나 파바로와 잭 클라크가 작성한 게시글은 "사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권을 세계가 갖는 것이 바람직하다고 믿는다"고 밝혔다.