“회사가 문을 닫는 한이 있어도 원칙을 사수하겠습니다.” 앤트로픽을 이끄는 다리오 아모데이 CEO와 다니엘라 아모데이 사장 남매가 기업의 실존적 사멸 위기를 감수하며 윤리적 원칙을 지켜낸 숨겨진 일화를 최초로 고백했습니다.
AI포스트 핵심 요약
- ✅ [펜타곤의 잔인한 요구... 살상 드론과 대량 감시 체제 이식] 미 국방부는 국가 방위를 명분으로 클로드의 최후 안전장치를 제거할 것을 압박함.
- ✅ [“생태계에서 말려 죽이겠다”... 전방위 자본 고립의 공포] 거부권 행사에 대한 권력의 보복은 즉각적이었음. 펜타곤은 모든 정부 공급 계약을 백지화한 것은 물론, 정부와 거래하는 실리콘밸리의 민간 기업, 금융사, VC들이 앤트로픽과 비즈니스를 하지 못하도록 전방위 압력을 가함.
- ✅ [부끄럽지 않기 위한 선택... 공익 법인의 가치 증명] 이들을 지켜낸 것은 주주 이익 극대화가 아닌 인간으로서의 양심과 '공공의 이익을 법적 의무로 명시한 공익 법인'의 정체성이었음.
인공지능(AI) 기술이 인류의 통제를 벗어나 전방위로 폭주하는 시대, 거대 자본과 국가 권력의 압박 앞에서 한 기업이 자신의 '영혼'을 지키기 위해 모든 것을 걸었던 묵직한 비화가 마침내 베일을 벗었다.
글로벌 AI 업계의 두 축이자 오픈AI 출신들이 세운 앤트로픽(Anthropic)을 이끄는 다리오 아모데이 CEO와 다니엘라 아모데이 사장 남매가 세계적인 토크쇼 호스트 오프라 윈프리의 팟캐스트에 출연해 털어놓은 고백은 기술 저널리즘을 넘어 인간 양심에 대한 깊은 울림을 던져주고 있다.
이들은 미 국방부(DoD)의 파멸적인 요구에 맞서 "회사의 종말"이라는 실존적 공포를 느끼면서도 끝내 변절하지 않았던 그날의 숨 막히던 순간을 가감 없이 공유했다.
“살상 드론과 국민 감시에 클로드를 바쳐라”
이날 인터뷰에서 남매의 목소리가 가장 크게 떨렸던 대목은 미 국방부(펜타곤)와의 정면충돌 일화였다. 국가 방위라는 명분 아래 펜타곤이 앤트로픽에 요구한 것은 클로드가 가진 '지능의 붉은 선' 즉, 최후의 안전장치(Guardrails)를 완전히 제거해 달라는 압박이었다.
다리오 아모데이 CEO가 밝힌 국방부의 요구 사항은 잔인할 정도로 구체적이었다. 첫째는 단 한 명의 지휘관이 버튼을 누르면 인간의 개입 없이 기계가 스스로 판단해 민간인을 사살할 수 있는 '완전 자율형 드론 군대'의 두뇌가 되어달라는 것이었고, 둘째는 미국 시민 전체의 일상을 실시간으로 트래킹하고 감시하는 '국내 대량 감시 시스템'에 클로드의 분석력을 탑재하라는 명령이었다.
실리콘밸리의 수많은 빅테크 대기업들이 정부의 막대한 예산과 압력에 밀려 이미 이 어두운 계약에 도장을 찍거나 타협안을 모색하던 시점이었다. 하지만 앤트로픽의 창업자들은 차가운 원탁에 둘러앉아 이 요구를 결코 수용할 수 없다는 결론을 내렸다. 감시 도구와 전쟁 무기만큼은 결코 생성형 AI의 영역이 되어서는 안 된다는 확고한 창업 원칙 때문이었다.
“회사가 문을 닫을 수 있겠다”…사방이 꽉 막힌 고립 속의 공포
권력의 보복은 즉각적이고 치명적이었다. 다니엘라 사장은 당시 국방부가 가했던 압박의 수위가 기업을 완전히 말살하는 수준이었다고 폭로했다. 국방부는 앤트로픽과의 모든 정부 공급 계약을 백지화하는 것에 그치지 않고, 정부와 거래하는 실리콘밸리의 그 어떤 민간 기업, 금융사, 벤처캐피털도 앤트로픽과 비즈니스를 하지 못하도록 전방위 압박을 가하겠다고 협박했다.
실리콘밸리라는 생태계 전체에서 앤트로픽을 철저히 고립시켜 굶겨 죽이겠다는 선전포고였다. 자본의 투자가 끊기면 단 몇 달도 버티기 힘든 첨단 AI 스타트업 입장에서 이는 사형선고나 다름없었다.
다리오 CEO는 "당시 회의실 안은 '이 결정이 정말로 우리 회사가 문을 닫는 계기가 될 수도 있겠다'는 극도의 공포와 무력감으로 가득 차 있었다"고 참담했던 심경을 회고했다. 거대 권력이 휘두르는 칼날 앞에 사방이 꽉 막힌 절망감이 남매의 목을 조여왔던 순간이었다.
“과거의 나와 미래 세대에게 부끄럽지 않기 위해”
그러나 앤트로픽의 창업자들을 움직인 것은 눈앞의 생존이나 주주들의 이익 극대화가 아닌, 인간으로서의 '부끄러움'이었다. 다리오 CEO는 공포 속에서도 중심을 잡을 수 있었던 비결에 대해 "우리가 만약 여기서 타협한다면, 먼 훗날 과거의 우리 자신을 돌아봤을 때 고개를 들 수 없을 것 같았다"고 말했다.
기술이 인류를 파괴하는 도구로 전락하는 것을 방조한 채 얻은 번영은 아무런 의미가 없다는 확신이었다. 결국 이들은 "회사가 문을 닫는 한이 있어도 원칙을 사수하자"며 창업자 전원 만장일치로 국방부의 요구에 거부권을 행사했다.
앤트로픽이 주주의 이익만을 쫓는 일반 기업과 달리, 공공의 이익과 윤리를 법적 의무로 명시한 '공익 법인'의 정체성을 온전히 증명해 낸 역사적 순간이었다. 오프라 윈프리가 "무엇이 당신들을 매일 밤 잠 못 들게 하느냐"고 묻자, 다리오 CEO는 진심 어린 고백으로 인터뷰의 끝을 맺었다.
"이 기술은 지난 수백 년간 인류에게 일어난 변화 중 가장 거대하고 파괴적인 힘을 가지고 있습니다. 매일 밤 제가 잠을 이루지 못하는 유일한 이유는, 우리가 치명적인 실수를 저질러 인류를 돌이킬 수 없는 위험에 빠뜨리면 어쩌나 하는 극도의 경각심 때문입니다. 완벽하지 않기에 앞으로도 수많은 실수를 하겠지만, 최소한 인류의 운명이 걸린 거대한 본질 앞에서는 결코 부끄러운 타협을 하지 않겠다는 약속만큼은 목숨을 걸고 지켜낼 것입니다."
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
