| 서울=한스경제 고예인 기자 | 인공지능(AI) 반도체 시장의 주도권을 쥔 엔비디아마저 고대역폭메모리(HBM) 공급 문제를 피해가지 못하는 모습이다. 차세대 그래픽처리장치(GPU) '루빈 울트라'에 당초 계획했던 것보다 HBM 탑재량을 크게 줄인 제품을 검토하면서다.
단순한 GPU 사양 조정을 넘어 AI 반도체 경쟁의 병목이 GPU 자체의 연산 성능에서 차세대 HBM의 안정적인 확보로 이동하고 있다는 분석이 나온다. 엔비디아가 최근 SK하이닉스와 장기 메모리 공급 및 공동개발 관계를 잇달아 강화한 배경도 이와 무관하지 않다는 해석이다.
8일 업계와 외신 등에 따르면 엔비디아는 최근 차세대 AI GPU인 루빈 울트라의 복수 샘플을 시험하면서 HBM 용량과 세부 구성을 달리하는 방안을 검토하고 있다.
당초 엔비디아가 공개한 루빈 울트라의 메모리 용량은 GPU당 1테라바이트(TB)였다. 차세대 HBM인 HBM4E를 16개 스택으로 구성해 AI 모델의 학습과 추론 과정에서 처리할 수 있는 데이터 규모를 대폭 높인다는 구상이었다.
그러나 최근 테스트 과정에서는 이보다 메모리 용량이 크게 줄어든 제품들이 등장한 것으로 전해졌다. 일부 제품은 총 HBM 용량이 192기가바이트(GB), 다른 제품은 256GB 수준이며 HBM4E 대신 HBM4를 적용한 샘플도 시험 중인 것으로 알려졌다.
당초 목표였던 1TB와 비교하면 메모리 탑재량이 최대 80% 안팎 줄어드는 셈이다.
더 눈에 띄는 대목은 현재 양산되고 있는 엔비디아 '베라 루빈'의 최대 HBM 용량이 288GB라는 점이다. 실제 192GB 또는 256GB 구성이 채택될 경우 차세대인 루빈 울트라 일부 제품의 메모리 용량이 현행 베라 루빈보다도 작아지는 상황이 발생할 수 있다.
▲GPU보다 HBM이 문제…설계까지 바꾸나
업계에서는 엔비디아가 다양한 사양을 시험하는 배경 중 하나로 HBM4E의 공급 가능성을 주목하고 있다.
HBM4E는 기존 HBM4보다 높은 데이터 전송 성능과 전력 효율을 목표로 하는 차세대 제품이다. 하지만 적층되는 D램과 첨단 패키징의 복잡도가 높아질수록 안정적인 수율을 확보하고 대량 생산하는 난도도 함께 올라간다.
엔비디아 입장에서는 수요에 맞춰 GPU 물량을 늘리더라도 HBM4E 공급이 이를 따라오지 못하면 완제품 출하량을 확대하기 어렵다.
실제로 글로벌 메모리 업계에서는 AI 투자 확대로 메모리 수요가 공급을 장기간 웃돌 수 있다는 전망이 잇따르고 있다. 곽노정 SK하이닉스 최고경영자(CEO)는 최근 메모리 수급과 관련해 2027년 공급 부족이 가장 심각한 수준에 이를 수 있으며, 수요가 2030년 이후까지 공급을 웃돌 가능성이 있다고 내다봤다.
엔비디아가 루빈 울트라의 HBM 용량을 낮춘 제품을 함께 검토하는 것도 이 같은 공급 부담을 분산하려는 전략으로 풀이된다.
메모리 용량을 줄이면 최고 성능에는 영향을 줄 수 있지만 GPU 가격을 낮출 수 있다는 장점도 있다. 모든 AI 작업이 1TB에 달하는 HBM 용량을 요구하는 것은 아닌 만큼 고객사의 용도와 비용에 따라 GPU를 세분화할 여지도 생긴다.
결국 엔비디아가 '최고 성능의 단일 제품'보다 공급 가능성과 가격까지 고려한 복수의 루빈 울트라 구성을 마련할 가능성이 제기되는 이유다.
▲SK하이닉스와 손잡은 엔비디아…'HBM 확보'가 승부처
이번 움직임은 엔비디아가 최근 SK하이닉스와 메모리 협력을 빠르게 확대하고 있다는 점에서도 주목된다.
엔비디아와 SK하이닉스는 지난 6월부터 엔비디아 AI 인프라 로드맵에 맞춰 차세대 메모리를 공동 개발하고 공급을 확대하는 다년간의 기술 협력에 들어갔다. 엔비디아는 당시 AI 팩토리 확대에 필요한 첨단 메모리의 개발 기간과 대규모 설비투자 등을 고려해 안정적인 공급 기반을 구축한다는 점을 협력의 주요 목적으로 제시했다.
지난달에는 협력 규모를 한층 키웠다. SK와 엔비디아는 5000억달러 이상 규모의 AI 협력 구상을 발표하면서 SK하이닉스와 차세대 HBM의 장기 공급 및 공동개발 관계를 강화하기로 했다. 국내에 구축될 SK의 AI 팩토리에도 SK하이닉스의 HBM4가 탑재된 엔비디아 베라 루빈 플랫폼을 활용할 예정이다.
SK하이닉스는 이미 지난 6월 12단 HBM4E 샘플을 주요 고객사에 공급하며 차세대 제품 경쟁에 들어갔다. HBM4E는 내년 엔비디아 루빈 울트라 등에 적용될 차세대 메모리로 꼽힌다.
결국 루빈 울트라의 메모리 사양 조정 여부는 엔비디아 한 회사의 제품 전략을 넘어 차세대 AI 반도체 공급망의 현실을 보여주는 사례가 될 전망이다.
GPU 성능이 빠르게 높아질수록 함께 탑재해야 하는 HBM의 용량과 성능도 증가할 수밖에 없다. 반면 HBM은 일반 D램과 달리 첨단 적층·패키징 공정이 필수적이어서 단기간에 생산량을 크게 늘리기도 쉽지 않다.
엔비디아가 HBM 공급 상황에 따라 플래그십 GPU의 설계까지 유연하게 가져갈 가능성이 제기되면서 SK하이닉스를 비롯한 메모리 업체들의 생산능력과 수율이 향후 AI 가속기 출하량을 결정하는 핵심 변수로 부상하고 있다.
AI 반도체 경쟁의 무게중심이 '누가 더 빠른 GPU를 만드느냐'에서 '누가 필요한 HBM을 제때 확보하느냐'로 이동하고 있는 셈이다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
