주목 받는 '넥스트 HBM'…CXL로 반도체 대통합 시대

[이데일리 조민정 기자] 챗GPT의 탄생으로 생성형 인공지능(AI) 시대가 본격적으로 열리면서 반도체 시장도 격변하고 있습니다. 엔비디아 그래픽처리장치(GPU)를 중심으로 형성된 AI 반도체 산업은 인텔 등 전통적인 강자들이 밀려날 정도로 막강하죠. 메모리 반도체는 엔비디아 공급 여부에 따라 주도권 탈환이 결정될 정도로 고대역폭메모리(HBM) 개발 경쟁이 매우 치열합니다. 그런데 잠깐. 이와 동시에 ‘넥스트 HBM’, 즉 차세대 메모리에 대한 관심이 함께 늘고 있습니다. HBM의 인기를 이을 새로운 메모리 기술은 무엇일지 알아보겠습니다. [편집자 주]

AI로 일상생활은 물론 업무환경까지 ‘살기 좋은 세상’이 구현되고 있습니다. 그러나 지금은 AI 초창기 시대란 점을 주목해야 합니다. 앞으로 머지 않은 미래에선 처리해야 할 데이터 양은 물론 전력량까지 폭발적으로 늘면서 지금의 컴퓨팅 장비로는 감당하기 어려운 때가 도래할 것입니다. 고성능 고용량 메모리에 대한 요구가 높아지면서 동시에 ‘저전력’이란 문제를 해결해주는 차세대 메모리의 기대감이 높아지는 이유입니다.

◇ 시스템 ‘한계’ 도래…CXL로 통합·확장 실현

CXL(컴퓨트 익스프레스 링크)은 말 그대로 ‘빠르게(익스프레스) 연결해서(링크) 연산한다(컴퓨트)’는 뜻입니다. 그동안 반도체들은 사용하는 언어가 다 달라서 효율적으로 연결하기 어려웠는데 이를 CXL로 통합해 연결하는 구조입니다.

(사진=삼성전자)

현재 AI로 데이터 처리량이 기하급수적으로 늘면서 기존의 컴퓨팅 구조는 점차 한계에 부딪히고 있습니다. 시스템 반도체를 중심으로 한 메모리 확장엔 제한이 있는 셈이죠. 가령 GPT-3 모델은 엔비디아의 A100 가속기를 1500여 개 활용해 학습 시간을 23일까지 단축했지만, GPT-4의 경우 A100 개수를 2배로 늘려도 학습 시간이 83일로 크게 늘어납니다. 아무리 가속기를 돌려도 처리량을 대폭 늘리는 게 힘들다는 거죠. 중앙처리장치(CPU)당 연결할 수 있는 D램의 평균 최대치는 16개 불과합니다.

이런 문제를 해결하기 위해 ‘메모리 중심 컴퓨팅’ 개념이 등장했고 CXL 개발로 이어졌습니다. 현재 서버 내 D램은 한 개의 호스트인 CPU와 연동된 구조입니다. 수많은 CPU가 데이터센터에 있는데도 정해진 CPU와 D램만 서로 연산하기 때문에 비효율적이죠. 게다가 메모리, 스토리지, 가속기, 네트워크 등이 CPU와 소통하는 언어가 모두 달라 통합하기가 어려웠습니다.

◇ SSD처럼 꽂아서 사용…‘메모리 풀링’이 열쇠

용량 확장은 CXL 2.0에 탑재된 ‘메모리 풀링(Pooling)’으로 실현 가능해졌습니다. 메모리 풀링은 서버 플랫폼에서 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들고, 여러 호스트가 풀(Pool)을 공유하며 필요에 따라 메모리를 효과적으로 할당하고 해제하는 기술입니다.

메모리 풀링 기능.(사진=삼성전자)

가령 5명이 각각 1리터짜리 페트병을 갖고 있다고 생각해봅시다. 1리터 넘는 물을 마시고 싶으면 다른 사람에게 요청해서 받아야 하는데 시간이 너무 오래 걸리죠. 그러나 메모리 풀링처럼 큰 물통에 5리터를 한 번에 담아두고 공유하면 필요할 때 언제든지 물을 마실 수 있고, 물이 부족하면 요청할 필요 없이 바로 가져다 쓰면 됩니다. 효율적인 메모리 관리가 가능해지고 할당되는 시간은 줄어드는 것이죠.

그렇다면 이런 궁금증이 생깁니다. 이렇게 큰 용량의 물통을 반도체에 넣을 자리가 있을까? CXL의 모양을 보면 마치 SSD(솔리드 스테이트 드라이브)와 비슷하게 생겼습니다. 같은 폼팩터를 쓰기 때문이죠. 실제로 기존 데이터센터나 서버에서 SSD를 꽂던 자리에 CXL 콘트롤러를 꽂기만 하면 손쉽게 테라바이트 수준의 거대 용량을 확보할 수 있단 장점이 있습니다. 그동안 용량 확장을 위해선 추가로 서버를 증설해야 해서 기회비용이 컸는데 고객사 입장에선 비용 절감 효과가 있는 것이죠.

◇ CXL 연말 상용화 목표…삼성·SK 주도권 경쟁

CXL 1.0은 2019년 3월, CXL 2.0은 2020년 11월, CXL 3.0은 2022년 8월 출시됐지만 시장이 열리진 않았습니다. 업계에선 CXL 2.0 기술을 탑재한 CPU가 올해 하반기 출시되면 시장이 본격적으로 열릴 것으로 내다보고 있습니다. 지금의 HBM처럼 돌풍이 일으킬 시점은 오는 2028년쯤으로 전망하고 있죠.

시장조사업체 욜 인텔리전스에 따르면 CXL 시장 규모는 2022년 1700만달러(약 234억원)에서 2028년 158억달러(약 21조7000억원)로 확대될 전망입니다. 그 중 삼성전자와 SK하이닉스가 주력하는 CXL D램 시장은 2026년 15억달러(약 1조9821억원), 2028년 125억달러(약 16조5175억원)로 각각 전체 CXL 시장의 71%, 79%에 달할 것으로 예상됩니다. 올해 CXL 2.0 도입, 2026년 CXL 3.0 도입이 본격화되면 CXL 시장이 급격히 성장할 것으로 추정됩니다.

CXL 버전 구현 그래픽.(사진=하이투자증권)

시장 개화가 코 앞이니, 삼성전자와 SK하이닉스의 주도권 선점 경쟁 역시 치열합니다. HBM에서 선두를 뺏겨 더는 물러날 곳이 없는 삼성전자는 CXL 컨소시엄의 이사회 멤버로 활동하며 공격적으로 CXL 개발에 몰두하고 있습니다. 삼성전자 개발 현황을 보면 2021년 업계 최초로 CXL 기반의 D램 제품을 개발한 데 이어 2023년 5월 CXL2.0 표준 기반의 D램을 개발했습니다.

SK하이닉스는 △확장 솔루션(용량 확장) △풀드 메모리 솔루션(메모리 풀링 기능 추가) △CMS 2.0(CXL 메모리에 연산 기능 통합) 등 CXL 기반 3가지 솔루션으로 시장을 공략하고 있습니다.

◇ 넥스트 HBM? 오해는 금물…생태계 구축 필수

CXL은 시장 개화를 앞두고 최근 ‘넥스트 HBM’이란 수식어를 얻으며 점차 많은 관심을 받고 있습니다. HBM이 전성기에 도달했으니 ‘그 다음’이 궁금한 거죠. CXL이 HBM의 인기를 이을 차세대 메모리로 점쳐지고 있는 건 맞습니다. 다른 차세대 메모리 솔루션과 달리 상용화가 가시화되고 고객사들의 메모리 확장에 대한 요구가 커지면서 가장 유력해진 것이죠.

(그래픽=이미나 기자)

그렇지만 단순히 HBM을 ‘대체’하는 개념은 아닙니다. 지금까지 CXL에 대한 구동 원리에서 봤듯 CXL은 HBM을 대체하는 수단이 아니기 때문이죠. HBM은 D램을 건물처럼 층수를 올려 단순히 용량을 늘린 제품이라면 CXL은 메모리 용량을 늘리면서도 반도체들끼리 언어를 통합해 데이터들이 지나가는 통합된 통로를 만들어주는 기술입니다. HBM과 CXL 모두 각각 AI 솔루션 중 하나일 뿐이죠.

CXL 시장에서 남은 과제가 있다면 생태계 구축과 엔비디아의 채택 여부입니다. 모든 산업이 그렇듯 나 하나만 잘해서 굴러가는 시장은 없습니다. 기술 난이도가 높아지면서 스위치, 컨트롤러 등 하드웨어를 비롯해 소프트웨어의 뒷받침도 중요해졌습니다.

CXL 메모리 관련(스위치, 컨트롤러, 파운드리 포함) 업체.(사진=욜인텔리전스)