중국 AI 반도체 기업 둥팡쑤안신(DFSX)이 연산 성능(FLOPS)보다 메모리 대역폭이 AI 성능을 결정하는 핵심 요소라는 새로운 접근법을 제시했다. 14나노 공정으로 제작한 차세대 AI 칩 'DF2000'을 통해 엔비디아 GB200 NVL72보다 약 두 배 높은 메모리 대역폭을 구현하겠다는 것.
DFSX는 현재 14나노 공정 기반 AI 가속기 DF1000을 개발하고 있으며, 올해 4분기에는 후속 모델인 DF2000을 공개할 계획이다. DF1000은 일반적인 GPU와 다른 3D 니어 메모리 컴퓨트(3D Near-Memory Compute) 구조를 채택했다. 연산 다이 위에 메모리를 직접 적층하고, 웨이퍼 간 하이브리드 본딩(Wafer-to-Wafer Hybrid Bonding)을 적용해 두 층을 수직으로 연결하는 방식이다.
기존 HBM처럼 마이크로범프(Micro Bump)나 배선을 이용하는 대신 구리(Cu) 접합을 통해 수천만 개의 수직 인터커넥트를 형성한다. 메모리와 연산 유닛 사이의 데이터 이동 거리를 크게 줄여 대역폭과 전력 효율을 높이는 것이 핵심이다.
그리고 DF2000에서는 아키텍처가 한 단계 더 발전한다.
단일 메모리 적층 스트럭쳐를 넘어 여러 개의 연산-메모리 타워를 하나의 베이스 다이 위에 배열하는 '3.5D 인피니티 칩렛(3.5D Infinity Chiplet)' 방식이다. DFSX는 이를 통해 기존 메모리 스택 대신 자체 설계한 3D DRAM 구조를 도입해 칩 내부에서 처리할 수 있는 데이터 용량과 메모리 대역폭을 대폭 확대했다고 설명했다.
메모리 성능 수치도 공개됐다. DF2000 한 개 칩은 최대 15TB/s의 메모리 대역폭을 제공하며, 이를 64개 연결한 TY64 슈퍼노드(SuperNode)에서는 총 960TB/s의 메모리 대역폭을 구현할 수 있다는 것이다. 이는 엔비디아 GB200 NVL72 시스템의 약 576TB/s보다 약 67% 높은 수준이다.
다만 연산 성능에서는 차이가 있다. DF2000 기반 TY64 슈퍼노드는 BF16 기준 약 64PFLOPS를 제공하는 반면, 엔비디아 GB200 NVL72는 약 360PFLOPS 수준으로 알려져 있다. 즉 메모리 대역폭은 앞서지만, 순수 연산 성능은 엔비디아가 크게 우위다.
DFSX는 이러한 차이를 메모리 병목(Memory Wall) 해소로 극복할 수 있다고 주장한다.
최근 초거대 언어모델(LLM)은 GPU 연산 성능보다 메모리 용량과 대역폭, 인터커넥트 성능이 시스템 처리량을 결정하는 경우가 늘고 있다. GPU가 연산을 수행하는 시간보다 메모리에서 데이터를 기다리는 시간이 더 길어지는 현상이 빈번해지면서, FLOPS보다 메모리 처리 능력이 실제 AI 성능을 좌우한다는 것이다.
회사는 차세대 DF3000도 준비하고 있다. DF3000은 칩당 메모리 대역폭을 20TB/s까지 확대하며, TY64 슈퍼노드에서는 총 1,280TB/s를 목표로 하고 있다. 이는 엔비디아 차세대 베라 루빈(Vera Rubin) NVL72 시스템의 약 1,580TB/s와 비교해도 약 20% 수준의 차이에 불과하다.
업계에서는 DFSX가 미세공정 경쟁 대신 시스템 아키텍처와 메모리 중심 설계로 차별화를 시도하고 있다고 평가한다. 특히 중국이 첨단 EUV 공정 접근에 제약을 받는 상황에서, 성숙 공정과 3D 적층, 하이브리드 본딩을 결합해 AI 반도체 경쟁력을 확보하려는 대표적인 사례로 보고 있다.
다만 DF2000과 DF3000의 성능 수치는 DFSX가 제시한 목표치와 공개 자료에 불과하다. 실제 연산 효율과 전력 소비, 소프트웨어 생태계, 대규모 AI 학습 및 추론 성능은 양산 이후 검증이 필요하다.
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.