| 서울=한스경제 고예인 기자 | AI 반도체 시장이 급팽창하면서 고대역폭메모리 HBM의 위상이 달라지고 있다. 특히 HBM4는 단순 세대 교체를 넘어 시스템 구조 변화를 촉발하는 기술로 평가된다. 본지는 HBM4를 둘러싼 기술적 의미와 산업 구조 변화 그리고 삼성전자와 SK하이닉스의 전략적 선택을 3회에 걸쳐 분석한다. 이번 2편에서는 HBM4 이후 차세대 메모리 구조로 거론되는 PIM CXL HBF 등 기술 흐름을 통해 AI 반도체 경쟁의 다음 전장을 짚어본다. <편집자주>
HBM4는 현재 메모리 기술의 정점으로 평가된다. 인공지능(AI) 연산 수요가 폭증하면서 데이터 처리 속도와 대역폭을 동시에 높일 수 있는 메모리 구조의 중요성이 커졌기 때문이다. 여러 개의 D램을 수직으로 적층해 데이터 전송 속도를 높이고 GPU와의 연결 효율을 극대화한 HBM은 AI 서버 성능을 좌우하는 핵심 부품으로 자리 잡았다.
하지만 기술 경쟁이 고도화될수록 구조적 한계도 동시에 드러나고 있다. 적층 구조가 늘어날수록 전력 소비와 발열이 급격히 증가하기 때문이다. AI 데이터센터의 전력 부담도 빠르게 커지고 있다. 업계에서는 HBM 경쟁이 머지않아 구조적 한계에 부딪힐 수 있다는 분석이 나온다. 적층 수를 늘리는 방식만으로는 성능을 지속적으로 끌어올리기 어렵다는 것이다.
반도체 업계 관계자는 “HBM4까지는 적층 경쟁이 가능하지만 이후에는 전력과 발열 문제가 더 큰 변수로 떠오를 것”이라며 “지금 방식으로는 무한 확장이 쉽지 않다”고 말했다.
◆ 적층 기술의 물리적 한계
HBM은 TSV(관통전극)를 통해 여러 개의 D램을 수직으로 연결하는 구조다. 층이 많아질수록 데이터 이동 거리는 짧아지고 대역폭은 커진다. 문제는 적층이 늘어날수록 구조가 복잡해진다는 점이다. 층간 신호 연결과 전력 공급이 어려워지고 발열 관리도 까다로워진다.
실제로 AI 서버에 탑재되는 HBM 용량이 증가하면서 데이터센터의 전력 소비도 빠르게 늘고 있다. 일부 빅테크 기업들은 메모리 전력 효율이 서버 운영 비용의 핵심 변수로 떠올랐다고 분석한다. 이 때문에 업계에서는 HBM 기술이 일정 단계 이후에는 다른 방식으로 진화할 가능성이 크다고 보고 있다.
SK하이닉스 역시 적층 구조의 중요성을 인정하면서도 기술 확장의 필요성을 강조한다. SK하이닉스 관계자는 “용량 확대를 위해 적층 구조는 여전히 필수적”이라면서도 “적층 한계를 극복하기 위해 신소재 도입이나 셀 구조를 개선하는 4F 스퀘어 등 다양한 기술이 업계에서 검토되고 있다”고 설명했다.
◆ 메모리 안에서 연산하는 구조로 변화
이 같은 배경에서 주목받는 것이 메모리 구조의 변화다. 업계에서는 메모리 내부에서 연산 기능을 수행하는 PIM(Processing In Memory)이나 메모리와 프로세서를 고속으로 연결하는 차세대 인터페이스 기술이 차세대 구조로 거론된다.
삼성전자 역시 메모리 구조 변화 가능성을 언급한다. 삼성전자 관계자는 “메모리 내부 연산과 관련된 차세대 구조로는 PIM이나 CXL 같은 기술이 논의되고 있다”며 “PIM은 메모리 내부에 연산 기능을 더해 데이터 이동을 줄일 수 있는 구조이고 CXL은 CPU와 메모리를 효율적으로 연결하는 차세대 인터페이스 기술”이라고 설명했다.
AI 연산에서 가장 큰 비용이 데이터 이동이라는 점을 고려하면 이러한 기술은 전력 효율을 크게 개선할 수 있다는 평가가 나온다.
◆ 새로운 메모리 계층 기술 'HBF'
HBM 이후 메모리 경쟁의 전장은 더 넓어질 가능성이 크다. SK하이닉스는 HBM과 SSD 사이에 위치하는 새로운 메모리 계층 기술도 차세대 경쟁 영역으로 보고 있다.
SK하이닉스 관계자는 “HBM과 대용량 저장장치인 SSD 사이에 위치하는 새로운 메모리 계층인 HBF도 최근 업계에서 주목받고 있다”고 말했다.
삼성전자 역시 AI 반도체 구조에서 메모리와 파운드리 협력의 중요성을 강조한다. 삼성전자 관계자는 “HBM의 베이스 다이는 파운드리 공정을 통해 생산되기 때문에 메모리와 파운드리 협력은 필수적인 요소이며 중요한 경쟁력 가운데 하나”라고 말했다.
이처럼 차세대 메모리는 단순히 용량을 늘리는 경쟁에서 벗어나 데이터 이동 구조 자체를 바꾸는 방향으로 발전하고 있다.
결국 HBM 경쟁의 다음 단계는 ‘누가 더 많은 메모리를 쌓느냐’가 아니다. 데이터를 어떻게 이동시키고 어디에서 연산하느냐의 문제다. HBM4가 현재의 승부라면 그 이후의 싸움은 이미 시작된 셈이다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
