구글 클라우드, AI 추론 시대 이끌 7세대 TPU ‘아이언우드’ 및 액시온 VM 공개

구글 클라우드가 7세대 TPU ‘아이언우드(Ironwood)’를 정식 출시하고 Arm 기반 맞춤형 CPU ‘액시온(Axion)’의 새로운 VM 인스턴스를 공개했다. 아이언우드는 대규모 모델 학습과 AI 추론을 위한 고성능·고효율 프로세서로, 최대 10배의 성능 향상을 제공한다. 액시온은 범용 워크로드에 최적화된 CPU로, 비용 효율성과 확장성을 강화한 클라우드 인프라를 구현한다.

---

구글 클라우드는 AI 추론 시대를 겨냥한 7세대 TPU 아이언우드의 정식 출시와 새로운 Arm 기반 액시온 VM 인스턴스의 프리뷰 공개를 발표했다. 두 기술은 AI 학습과 추론, 범용 컴퓨팅 전반에서 높은 성능과 효율성을 제공하도록 설계됐다.

아이언우드는 대규모 모델 학습, 강화학습, 초저지연 AI 추론 등 고부하 워크로드를 처리하도록 설계된 차세대 TPU로, TPU v5p 대비 최대 10배, TPU v6e 대비 최대 4배 높은 성능을 제공한다. 구글의 통합 AI 슈퍼컴퓨팅 시스템 ‘AI 하이퍼컴퓨터’의 핵심 구성 요소로, 컴퓨팅·네트워크·스토리지·소프트웨어가 수직 통합돼 효율을 극대화한다.

최대 9,216개 칩을 연결한 슈퍼포드(superpod) 구성을 지원하며, 9.6Tb/s 속도의 인터칩 네트워킹과 1.77PB 고대역폭 메모리에 접근해 데이터 병목을 최소화한다. 광회로 스위칭(OCS) 기술을 통해 네트워크 장애 발생 시 실시간 경로 재구성이 가능하고, 수십만 개 TPU 클러스터로 확장해 초대규모 추론 성능을 구현한다.

IDC 분석에 따르면, AI 하이퍼컴퓨터를 활용한 기업 고객은 평균 353%의 ROI와 28%의 IT 비용 절감 효과를 기록했으며 IT 운영 효율은 55% 향상된 것으로 나타났다.

구글 클라우드는 ARM 네오버스 기반 맞춤형 CPU ‘액시온’ 포트폴리오를 확장하며 범용 워크로드에 최적화된 새로운 VM 제품군을 선보였다. 액시온은 데이터 수집, 애플리케이션 호스팅, 데이터 분석 등 운영 중심의 워크로드에 높은 성능과 전력 효율성을 제공한다.

프리뷰 버전으로 공개된 N4A는 구글 클라우드의 두 번째 범용 액시온 VM으로, 동급 x86 기반 VM 대비 최대 2배의 가격 대비 성능을 제공한다. 마이크로서비스, 컨테이너 환경, 오픈소스 데이터베이스, 웹 서비스 등에 적합하다.

또한 첫 Arm 기반 베어메탈 인스턴스인 C4A 메탈(C4A metal) 도 공개 예정이다. 해당 인스턴스는 안드로이드 개발, 차량 내 시스템, 복잡한 시뮬레이션 등 전문화된 워크로드를 위한 전용 물리 서버 환경을 제공한다.

구글 클라우드는 아이언우드의 성능을 극대화하기 위해 하드웨어 개발 단계부터 소프트웨어를 함께 설계하는 통합 최적화 전략을 적용했다. 클러스터 디렉터, 맥스텍스트(MaxText), vLLM, GKE 추론 게이트웨이 등의 최신 기능을 통해 학습 및 추론 효율을 향상시켰다.

특히 GKE 추론 게이트웨이는 TPU 서버 간 로드 밸런싱을 통해 최초 토큰 생성 시간을 최대 96% 단축하고, 서비스 비용을 최대 30% 절감한다. 이를 통해 기업 고객은 다양한 컴퓨팅 옵션을 조합해 AI 라이프사이클 전반에서 최적의 성능과 유연성을 확보할 수 있다.

By 기사제보 및 정정요청 = [e-mail]
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 Ai 학습 포함 금지〉