| 서울=한스경제 고예인 기자 | AI 반도체 시장이 급팽창하면서 고대역폭메모리 HBM의 위상이 달라지고 있다. 특히 HBM4는 단순 세대 교체를 넘어 시스템 구조 변화를 촉발하는 기술로 평가된다. 본지는 HBM4를 둘러싼 기술적 의미와 산업 구조 변화 그리고 삼성전자와 SK하이닉스의 전략적 선택을 3회에 걸쳐 분석한다. 이번 1편에서는 HBM4가 왜 메모리의 범주를 넘어 AI 반도체 설계의 출발점이 되고 있는지를 짚어본다. <편집자주>
AI 반도체 경쟁의 축이 이동하고 있다. 승부는 더 이상 연산 성능에만 달려 있지 않다. 데이터를 얼마나 빠르고 효율적으로 처리하느냐가 전체 시스템 성능을 좌우한다. 고대역폭메모리 HBM4가 주목받는 배경이다. 업계에서는 HBM4를 단순 세대 전환으로 보지 않는다. AI 반도체 구조를 다시 설계하게 만드는 분기점으로 평가한다.
AI 서버에서 연산을 담당하는 핵심은 GPU다. 그러나 대규모 언어모델과 생성형 AI가 확산되면서 병목은 연산이 아니라 데이터 이동에서 발생했다. 칩이 빨라도 메모리가 따라가지 못하면 성능은 제한된다. HBM은 이 한계를 보완하기 위해 등장했고 HBM4는 그 진화 단계인 셈이다. HBM4의 본질은 속도 수치가 아니라 메모리가 보조 장치에서 설계의 중심으로 이동했다는 점이다. 이제 메모리는 GPU 옆에 붙는 부품이 아니라 시스템 설계의 출발점이다.
◆ 적층 경쟁 넘어 시스템 경쟁
HBM4는 여러 개의 D램을 수직으로 쌓는 적층 구조를 한층 정교하게 다듬은 제품이다. 층간을 연결하는 신호 통로를 더욱 촘촘히 설계해 데이터 처리 속도를 높였고 대역폭도 크게 확대했다. 그러나 적층 수를 늘리는 것만으로는 한계가 있다. 층이 많아질수록 전력 소모와 발열이 함께 증가하기 때문이다.
이 때문에 HBM4에서는 단순한 메모리 기술을 넘어 패키징과 공정 기술의 중요성이 커지고 있다. 메모리 칩을 어떻게 배치하고 인터포저 위에서 GPU와 어떻게 연결하느냐에 따라 성능과 효율이 달라지기 때문이다.
결국 경쟁의 성격도 바뀌고 있다. 개별 메모리 칩의 성능을 높이는 데 그치는 것이 아니라 시스템 전체를 어떻게 설계하느냐가 승부를 가르는 구조로 이동하고 있다. AI 반도체 경쟁이 칩 단위에서 패키지 단위 경쟁으로 확장되고 있다는 분석이 나오는 이유다.
전략도 극명하게 갈린다. 삼성전자는 메모리와 파운드리를 동시에 보유한 구조를 앞세운다. 시스템 반도체와 HBM4를 통합 설계해 종합 AI 반도체 기업으로 확장하겠다는 구상이다. 부품 공급을 넘어 플랫폼 사업자로 도약하겠다는 전략이다.
SK하이닉스는 메모리 전문 기업의 강점을 극대화한다. HBM3E에서 확보한 수율과 고객 신뢰를 바탕으로 HBM4 시장을 선점하겠다는 계획이다. 안정적 양산 능력이 핵심 무기인 것이다.
◆ AI 서버 비용 구조 흔든다
AI 서버 한 대에 탑재되는 HBM 용량은 빠르게 늘고 있다. 메모리는 이제 장비 가격과 전력 비용을 좌우하는 변수다. 데이터센터 운영자에게 중요한 것은 최고 속도가 아니라 효율이다. 전력과 발열을 통제하지 못하면 고성능은 의미가 없다.
업계에서는 HBM4를 마지막 적층 중심 세대로 보는 시각도 있다. 다음 단계에서는 메모리 내부에서 일부 연산을 처리하는 구조로 발전할 가능성이 거론된다. 이른바 메모리가 계산 영역까지 확장되는 구조인 HBMF 개념이다.
◆ 메모리 기업의 정의가 달라진다
그동안 한국 메모리 산업의 강점은 대량 생산과 원가 경쟁력이었다. 그러나 AI 시대에는 고객과 공동 설계하고 시스템 최적화를 제안하는 역량이 더 중요해지고 있다. 두 회사 모두 HBM4를 현재 승부처로 삼고 있다. 삼성은 파운드리 결합 모델로 구조 변화에 대응하고 있고 SK는 메모리 초격차 전략으로 지배력을 유지하고 있다.
다만 진짜 경쟁은 그 이후다. 메모리가 연산 영역까지 확장되는 순간 산업의 구분선 자체가 달라진다. 메모리 기업과 시스템 기업의 경계는 흐려지고 AI 반도체의 주도권도 재편될 가능성이 크다.
반도체 업계 관계자는 “HBM4는 성능을 높이는 기술이 아니라 시스템 구조를 바꾸는 기술”이라며 “메모리 기업이 플랫폼 기업으로 확장할 수 있는지가 향후 경쟁력을 가를 것”이라고 말했다. 이어 “지금은 수율 경쟁이지만 앞으로는 메모리와 연산의 결합 역량이 핵심이 될 것”이라고 덧붙였다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
