“폭탄을 만든 자가 아니라, 투하할 권한을 가진 자가 누구인가?” 실리콘밸리 최대 투자사 a16z가 앤트로픽의 ‘윤리적 거부’를 정면 비판하며 AI 기술의 국가 통제권을 주장하고 나섰습니다.
AI포스트 핵심 요약
- ✅ [AI의 ‘오펜하이머 순간’ 소환] 에릭 토렌버그 a16z GP는 칼럼을 통해 핵무기 개발 당시의 ‘국가 주도’ 원칙을 강조. 앤트로픽이 자율 무기 사용 등을 거부하며 정부와 대립하는 상황을 “핵무기를 만든 민간 기업이 대통령의 투하 결정을 가로막는 격”이라며 강하게 비판.
- ✅ [사유 재산 논리와 공적 안보의 충돌] 초강력 AI 기술은 인류의 운명을 좌우할 ‘무기’의 성격을 띠므로, 이를 통제할 최종 권한은 선출된 권력인 정부에 있어야 한다고 주장. 기업의 자체 윤리 가이드라인이 국가의 군사적 의사결정을 제한해서는 안 된다는 논리.
- ✅ [실리콘밸리 내부의 노선 갈등 가중] 앤트로픽을 옹호하는 ‘윤리파’ 전직 판사들과 기술의 국가 귀속을 주장하는 ‘실리파’ a16z·팔란티어 연합 간의 대립 격화.
실리콘밸리의 거물 투자사인 앤드리슨 호로위츠(a16z)가 최근 앤트로픽(Anthropic)과 미 국방부 간의 갈등을 정면으로 겨냥한 칼럼을 발표해 눈길을 끈다. 에릭 토렌버그 제너럴 파트너는 공식 뉴스룸을 통해 'AI의 오펜하이머 순간(AI’s Oppenheimer Moment)'이라는 글을 올리고, AI 기술의 통제권이 민간의 '사유 재산' 논리에 갇혀서는 안 된다고 강조했다.
"손에 피 묻었다"던 오펜하이머, 그리고 트루먼의 냉소
토렌버그는 영화 '오펜하이머'에서 오펜하이머가 트루먼 대통령에게 "제 손에 피가 묻은 것 같다"고 고백하자, 트루먼이 "히로시마나 나가사키에 있는 사람들이 누가 폭탄을 만들었는지 신경이나 쓸까? 폭탄을 만든 놈이 아니라 투하한 놈이 누구인지가 중요하다"며 조롱했던 장면을 소환했다.
그는 이 장면이 주는 핵심 메시지는 '강력한 기술의 사용권은 국가에 귀속된다'는 당연한 전제라고 분석했다. 핵무기 개발 당시에는 국가 주도의 프로젝트였기에 이 논리가 통했지만, 지금의 AI는 민간 기업들이 독자적으로 개발하며 정부의 접근을 제한하려 한다는 점이 문제의 핵심이라는 것이다.
토렌버그는 만약 핵무기가 델라웨어의 비상장 벤처 기업인 '맥봄볼즈 코퍼레이션'에 의해 개발됐다면 어땠을지 가상의 시나리오를 제시했다. "오펜하이머 CEO가 트루먼 대통령에게 전화해 '우리가 원자폭탄을 만들었지만, 일본 도시에 투하하는 건 불편하다. 우리가 승인한 시연만 허용하겠다'고 말한다면 어땠을까?"
그는 이 가상 상황이 현재 앤트로픽(Anthropic)과 다리오 아모데이 CEO가 처한 상황과 정확히 일치한다고 지적했다. 앤트로픽은 자율 무기와 감시 시스템에 AI를 사용하는 것을 거부하며 정부와 대립하고 있는데, 토렌버그는 이를 "초강력 무기 확산이라는 실존적 위협을 단순한 '사유 재산의 문제'로 치부하는 심각한 오해"라고 비판했다.
토렌버그는 "만약 인공지능이 앤트로픽이 생각하는 그대로라면, 우리는 지금 바로 그 시간대에 살고 있는 것이다. 다리오 아모데이는 AI를 핵무기와 같다고 생각한다"라며 "AI가 선한지 악한지는 아직 알 수 없다. 어쨌든 정부는 인공지능에 대한 접근을 원하고 있고, 앞서 언급했듯이 앤트로픽은 이를 제공하기를 꺼리고 있다"라고 설명했다.
"핵무기 만들지 말지가 아니라, 누가 사용할지의 문제"
토렌버그는 이미 개발된 이상 기술의 확산은 '필연적'이라고 봤다. 따라서 우리의 선택은 "기술을 만들지 말 것인가"가 아니라, "군사적 문제에서 이 무기를 책임감 있게 사용할 권한을 누구에게 맡길 것인가"로 옮겨가야 한다고 주장했다.
그는 "미국 정부가 항상 가장 책임감 있는 관리자가 될 것이라는 보장은 없다"면서도, 인류의 운명을 좌우할 기술을 다루는 데 있어 민간 기업의 윤리적 가이드라인이 국가 안보라는 공적 가치를 우선할 수는 없다고 역설했다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
