| 서울=한스경제 고예인 기자 | 삼성전자와 SK하이닉스가 인공지능(AI) 반도체의 성능을 좌우할 차세대 메모리 구조 경쟁에 돌입했다.
기존 고대역폭메모리(HBM)의 속도와 적층 단수를 높이는 제품 경쟁에서 한발 더 나아가, AI 가속기와 메모리가 연결되는 방식과 데이터가 저장되는 계층 자체를 다시 설계하고 나선 것이다.
삼성전자는 AI 가속기 위에 HBM을 수직으로 쌓는 ‘zHBM’을, SK하이닉스는 HBM과 솔리드스테이트드라이브(SSD) 사이에 새로운 저장 계층을 만드는 고대역폭플래시(HBF)를 각각 해법으로 내놨다.
AI 학습에 이어 추론과 AI 에이전트 시장이 빠르게 확대되면서 처리해야 할 데이터가 급증하자, HBM만으로는 속도와 용량, 전력효율을 동시에 충족하기 어렵다는 판단이 깔렸다.
▲GPU 옆에서 위로…삼성, ‘zHBM’ 승부
5일 업계에 따르면 삼성전자와 SK하이닉스는 4~6일(현지시간) 미국 캘리포니아주 산타클라라에서 열리는 세계 최대 메모리·스토리지 콘퍼런스 ‘FMS 2026’에서 차세대 AI 메모리 기술과 로드맵을 공개했다.
삼성전자가 전면에 내세운 기술은 차세대 3차원(3D) 메모리 아키텍처인 zHBM이다. 기존 HBM이 그래픽처리장치(GPU) 등 AI 가속기 옆에 배치되는 것과 달리, zHBM은 가속기 상단에 메모리를 수직으로 적층하는 구조다.
가속기와 메모리 사이의 물리적 거리를 줄여 데이터가 이동하는 데 드는 시간과 전력을 동시에 낮추겠다는 구상이다. 삼성전자는 zHBM 기반 차세대 인터페이스가 HBM5 대비 최대 8배 높은 성능과 3배 향상된 전력 대비 성능을 제공하고, 열 저항은 절반 이하로 낮출 수 있다고 설명했다.
AI 반도체에서 데이터 이동은 전체 전력 소비와 처리 지연을 유발하는 주요 원인으로 꼽힌다. 메모리를 가속기 바로 위에 올릴 경우 데이터 이동 거리를 단축해 대역폭을 확대할 수 있지만, 발열과 수율, 패키징 난도가 크게 높아진다.
삼성전자는 메모리뿐 아니라 시스템반도체 설계, 파운드리, 첨단 패키징을 모두 보유한 종합반도체기업(IDM) 역량을 활용해 이를 해결한다는 전략이다. 제품 설계 단계부터 메모리와 가속기, 패키징 구조를 함께 최적화해 고객별 맞춤형 zHBM을 공급하겠다는 것이다. 삼성은 이번 행사에서 zHBM과 온디바이스 AI용 3D 낸드인 ‘zNAND-O’ 목업을 업계 최초로 공개했다.
▲HBM과 SSD 빈틈…SK, ‘HBF’ 생태계 선점
SK하이닉스는 메모리를 위로 쌓기보다 HBM과 SSD 사이에 새로운 계층을 추가하는 전략을 택했다.
SK하이닉스와 샌디스크가 공개한 HBF는 낸드플래시를 기반으로 HBM에 근접한 데이터 처리 속도와 SSD 수준의 용량 확장성을 동시에 확보하는 것을 목표로 한다.
현재 AI 서버는 연산에 필요한 핵심 데이터를 HBM에 올려 처리하고, 상대적으로 접근 빈도가 낮은 데이터는 SSD에 보관한다. 그러나 AI 모델의 크기가 커지고 추론 과정에서 생성되는 KV캐시와 사용자 데이터가 늘어나면서 HBM은 용량이 부족하고 SSD는 속도가 느린 문제가 나타나고 있다.
HBF는 이 간극을 메우는 중간 메모리 계층이다. 가격이 비싸고 용량 확장에 한계가 있는 HBM의 부담을 줄이면서도, SSD보다 빠르게 데이터에 접근해 AI 가속기가 대기하는 시간을 줄일 수 있다.
SK하이닉스와 샌디스크는 지난 2월 HBF 표준화 컨소시엄을 출범한 뒤 약 6개월 만에 첫 규격을 제시했다. HBF와 GPU·CPU 등 프로세서를 연결하는 인터페이스로는 칩렛 연결 표준인 UCIe를 채택했다. 특정 프로세서나 업체에 종속되지 않는 개방형 생태계를 구축하기 위해서다.
양사는 세계 최대 개방형 데이터센터 기술 협력체인 OCP를 통해 표준화를 추진하고 있다. 구글과 AI 반도체 기업 텐스토렌트도 컨소시엄에 참여하며 HBF 생태계 확대에 힘을 보태고 있다. SK하이닉스는 HBF가 AI 추론 인프라에서 HBM과 SSD 사이의 확장성과 전력효율을 확보할 새로운 메모리 계층이 될 것으로 보고 있다.
▲400단 낸드도 격돌…AI 저장장치 주도권 경쟁
양사의 경쟁은 차세대 낸드플래시에서도 이어졌다.
삼성전자는 셀과 주변회로를 각각 만든 뒤 수직으로 접합하는 웨이퍼 본딩 기술을 적용한 10세대 ‘V10 BV-NAND’를 처음 공개했다. 적층 단수는 400단 이상으로, 기존 9세대 제품보다 집적도를 약 58% 높였다.
삼성전자가 2013년 세계 최초로 V낸드를 공개하며 셀을 수직으로 쌓는 시대를 열었다면, 이번에는 웨이퍼를 별도로 제작해 접합하는 방식으로 초고적층 경쟁의 한계를 넘겠다는 전략이다. 읽기·쓰기 성능과 입출력 속도도 전 세대보다 향상시켜 AI 데이터센터용 고성능·고용량 SSD 시장을 겨냥했다.
SK하이닉스는 개발 중인 375단 10세대 4D 낸드 웨이퍼와 제품을 처음 선보였다. 전 세대보다 전력 대비 성능을 2.5배 높였으며, 내년 초 이를 탑재한 기업용 SSD 양산을 추진할 계획이다.
두 회사가 FMS에서 제시한 기술은 접근 방식은 다르지만 목표는 같다. AI 가속기의 연산 성능이 빠르게 높아지는 동안 상대적으로 더디게 개선된 메모리 대역폭과 저장용량을 확대해 ‘메모리 월’을 넘겠다는 것이다.
삼성전자는 zHBM을 통해 메모리와 연산장치를 물리적으로 결합하고, SK하이닉스는 HBF와 CXL 메모리 풀링 등을 이용해 데이터의 중요도와 사용 빈도에 따라 메모리 계층을 세분화한다.
업계에서는 차세대 AI 메모리의 경쟁력이 개별 반도체의 성능보다 고객사와의 공동 설계, 인터페이스 표준, 패키징과 열관리 기술에서 갈릴 것으로 보고 있다. HBM 시장에서 시작된 삼성전자와 SK하이닉스의 경쟁이 앞으로는 AI 시스템 전체의 구조와 생태계를 둘러싼 경쟁으로 확대될 전망이다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
