마이크로소프트(MS) 사티아 나델라 최고경영자(CEO)가 소프트웨어 조직을 뜯어고친 데 이어 이번에는 실리콘 생산량에 숫자를 박았다. 2만명 인력 감축과 업무 절차를 줄여 AI가 실제 산출물로 이어지는 실행환경을 만든 데서 멈추지 않고 연산능력까지 직접 확보하려는 수직 통합에 들어간 것이다
12일 빅테크업계 등에 따르면 MS가 차세대 인공지능(AI) 가속기 ‘마이아300(Maia 300)’을 2027년 30만개 이상 생산하기 위해 TSMC와 협상을 진행하고 있다는 보도가 나왔다. 장기적으로 원하는 가속기 생산능력은 100만개 이상이다.
지금까지 마이아가 데이터센터 두 곳에만 제한적으로 배치됐다는 점을 감안하면 단순한 신제품 출시가 아니다. 나델라는 AI를 소프트웨어 기능으로 붙이는 단계를 지나 조직의 생산구조를 바꾼 데 이어 이제 그 소프트웨어를 실제로 돌리는 연산원가와 반도체 공급량까지 직접 통제하려 하고 있다.
이 움직임은 최근 MS의 조직 개편과 함께 봐야 의미가 선명해진다. AI를 직원에게 하나씩 지급하는 보조도구로 두는 것이 아니라 반복 업무와 전달·승인 단계를 소프트웨어 실행환경으로 흡수해 인간이 차지했던 중간 공정을 줄이는 방향으로 회사를 바꾸고 있다.
여기까지가 소프트웨어 생산구조의 개혁이었다면 마이아300 30만개는 엔비디아 장악한 물리 계층을 직접 향한다. AI가 처리하는 업무가 늘어날수록 결국 필요한 것은 더 많은 추론이고, 추론량이 늘수록 GPU를 외부에서 사오는 비용과 공급 제약이 MS 자신의 생산성 병목으로 돌아오기 때문이다.
물론 마이아 사업의 출발이 순탄했던 것은 아니다. 보도에 따르면 마이아200은 초기 테스트에서 내부 목표에 미달해 일정이 늦어졌고, 지난달 말까지 미국 데이터센터 두 곳에서만 사용되고 있었다. 구글과 아마존이 각각 TPU와 트레이니엄을 대규모 서비스에 투입한 것과 비교하면 MS의 자체 가속기 사업은 분명 후발주자다.
30만개라는 목표 설정이 중요한 이유다. 기존 칩이 기대에 못 미쳤다면 사업을 축소할 수도 있었지만 MS는 반대로 다음 세대 생산량을 수십만개 단위로 키우는 쪽을 택했다. 실패한 세대를 붙잡고 설명하는 대신 다음 세대의 생산능력을 먼저 확보하려는 방식이다.
소프트웨어 구조조정한 뒤
'칩 원가 절감'까지 노린다'
삼성-SK에겐 또 다른 시장
중국의 추격 사례만 보더라도 칩 성능만 개선한다고 끝나는 것도 아니다. TSMC의 웨이퍼 생산능력과 첨단 패키징, HBM을 비롯한 부품 공급까지 실제 물량으로 묶어야 30만개가 현실의 연산능력이 된다. 이 지점에서 마이아300은 삼성전자와 SK하이닉스의 HBM 경쟁으로도 직결된다. 마이아200에는 SK하이닉스의 HBM3E 216GB가 탑재됐지만, 생산량이 수십만개 단위로 뛰는 차세대에서는 HBM의 성능뿐 아니라 공급량과 수율, 패키징 대응력이 가속기 생산량 자체를 결정한다.
특히 MS가 장기적으로 100만개 이상의 마이아 생산능력을 노린다면 HBM 조달은 단순 부품 구매를 넘어 공급망 전략이 된다. SK하이닉스에는 기존 마이아 공급 지위를 차세대까지 이어갈 기회이고, 삼성전자에는 HBM 경쟁력을 실제 대형 ASIC 물량으로 증명할 새로운 고객 전선이 열린다. 결국 나델라가 숫자로 못박은 30만개의 뒤에서는 MS와 TSMC뿐 아니라 한국 메모리 양사의 생산능력 경쟁까지 동시에 시작되는 셈이다.
MS는 마이아200이 최신 엔비디아 칩보다 모델 구동 비용을 30~40% 낮출 수 있다고 주장한다. 이 경제성이 마이아300에서도 확보되고 실제 대량 배치까지 이어진다면 MS는 GPU 구매자가 아니라 자신의 클라우드에서 어떤 연산을 어느 실리콘에 배치할지 결정하는 생산자가 된다.
앤스로픽과 마이아 사용을 논의하는 것도 같은 맥락이다. 자체 모델과 코파일럿에만 쓰는 칩이라면 내부 원가절감 수단에 머문다. 외부 AI 기업까지 고객으로 끌어들이면 마이아는 애저의 독립적인 AI 연산상품이 된다. CPU와 GPU를 구매해 클라우드에 올리던 사업자가 칩 설계부터 데이터센터, 클라우드, 모델 실행환경까지 하나의 생산라인으로 묶는 셈이다.
브로드컴에는 불리한 변화다. 지금까지 빅테크가 자체 AI칩을 만들 때 설계와 네트워크 기술을 제공하는 커스텀 ASIC 파트너의 입지가 컸지만, MS처럼 고객사가 칩 설계부터 생산량 확보, 데이터센터 배치와 외부 판매까지 직접 끌어안기 시작하면 중간 설계업체가 가져갈 영역은 줄어든다.
이런 관점에서 마이아300의 대량 양산 선언은 단순한 ‘엔비디아 대항마’라기보다 쇠퇴하는 특수칩 시장을 다시 실물 생산체계로 복원하려는 시도로 읽힌다. 구글 TPU·AWS 트레이니엄처럼 커스텀 칩은 그동안 특정 고객의 내부 최적화 수단에 머물렀고, 외부에서 성능과 경제성을 검증하기 어려워 기대만큼 독립적인 시장을 만들지 못했다.
MS의 장기 목표가 성공한다면 애저는 엔비디아 GPU를 임대하는 데이터센터에서 벗어나 자체 실리콘과 외부 GPU를 워크로드에 따라 배치하는 거대한 연산공장으로 변한다. 이 지점에서 구글과의 차이도 드러난다. MS가 100만개를 향해 뛰기 시작했다면 구글은 이미 훨씬 앞서 있다. 모건스탠리 추정치에 따르면 구글의 TPU 생산량은 올해 300만개 이상, 내년에는 500만개에 이를 전망이다. 숫자만 놓고 보면 마이아는 아직 TPU와 비교하기 어려울 정도로 작다.
하지만 구글의 핵심 인력 변화까지 겹치면서 경쟁의 관전 포인트가 달라졌다. TPU를 비롯한 구글의 AI 시스템 구축을 이끌어온 제프 딘이라는 상징적 인물이 조직에서 빠져나간 상황이기 때문이다. 막대한 TPU 생산능력을 갖췄더라도 이를 자사 제미나이를 넘어 외부 모델과 기업이 선택하는 독립적인 연산 생태계로 확장하지 못한다면 물량의 우위는 오래가기 어렵다. 구글이 제미나이 의존을 넘어 다양한 모델을 포괄하는 생태계를 확보하지 못하는 순간 게임은 단숨에 바뀔 수 있다.
☞아마존이 먼저 만든 ‘100만칩’ 체제 = 동종 사업자인 아마존과 비교하면 MS의 30만개 목표가 어느 위치인지 더 선명해진다. AWS는 이미 트레이니움3를 상용화했고, 최대 144개의 칩을 하나의 울트라서버로 묶어 수십만개 단위까지 확장하는 인프라를 구축했다. 앤스로픽 역시 아마존 트레이니움과 구글 TPU를 합쳐 100만개 규모로 사용하는 계약을 맺은 것으로 전해진다. 반면 MS는 마이아300 30만개를 2027년 공급받기 위해 TSMC와 협상하는 단계다. 숫자만 놓고 보면 아직 추격자다.
나델라가 30만개를 종착점이 아니라 출발점으로 못 박았다는 데 의미가 있다. MS가 장기적으로 원하는 마이아 생산능력은 100만개 이상이다. 결국 아마존이 트레이니움을 AWS의 대규모 연산 인프라로 먼저 안착시킨 상황에서 MS도 애저에 대응하는 자체 실리콘 생산축을 세우기 시작한 것이다. 아마존이 이미 증명한 것은 자체 AI칩이 실험용 특수칩에 머물지 않고 수십만~100만개급 클라우드 연산재로 확장될 수 있다는 사실이고, MS의 30만개 선언은 바로 그 생산력 격차를 따라잡겠다는 숫자다.
여성경제신문 이상헌 기자
liberty@seoulmedia.co.kr
*여성경제신문 기사는 기자 혹은 외부 필자가 작성 후 AI를 이용해 교정교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.
Copyright ⓒ 여성경제신문 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
