AMD가 메모리 계층화 기술을 개발한 미국 스타트업 MEXT를 인수하면서 데이터센터 메모리 비용 절감 경쟁에 뛰어들었다. DRAM 대신 NAND 플래시 활용도를 높여 AI 서버의 메모리 병목 현상을 완화하는 것이 목표다.
AMD는 지난 15일 미국 캘리포니아 소재 MEXT를 인수했다. MEXT는 AI 기반 메모리 계층화 기술인 PME(Predictive Memory Engine)를 개발한 업체다.
현재 AI 데이터센터 시장은 메모리 부족과 가격 상승이라는 이중 부담에 직면해 있다. 업계는 올해 하이퍼스케일 데이터센터 투자 비용 가운데 메모리 비중이 약 30% 수준까지 확대될 것으로 보고 있다. 이는 2023년 대비 약 4배 증가한 수치다.
공급 측면에서도 상황은 녹록지 않다. 글로벌 DRAM 시장은 삼성전자와 SK하이닉스, 마이크론이 대부분을 차지하고 있다. 생산 확대에는 막대한 투자 비용과 긴 시간이 필요하기 때문에 AI 시장의 급격한 수요 증가를 즉시 따라가기 어렵다.
때마침 AMD가 주목한 것은 NAND 플래시다.
NAND는 DRAM보다 훨씬 저렴하고 공급량도 많지만 속도가 느리다는 단점이 있다. 때문에 지금까지는 SSD와 같은 저장장치 용도로 활용됐다. MEXT의 PME 기술은 이러한 한계를 보완하는 방식이다. 시스템이 메모리 접근 패턴을 분석한 뒤 앞으로 필요할 데이터를 예측한다. 이후 NAND에 저장된 데이터를 실제 요청이 발생하기 전에 DRAM으로 미리 이동시킨다. 결과적으로 애플리케이션이나 운영체제가 데이터를 요청하는 시점에는 이미 DRAM에 적재된 상태가 되기 때문에 NAND 특유의 높은 지연시간을 상당 부분 줄일 수 있다는 설명이다.
AMD는 해당 기술을 일반 PC보다 데이터센터에 우선 적용할 가능성이 높다.
AI 추론과 가상화, 데이터 분석 환경은 반복적이고 예측 가능한 메모리 접근 패턴을 갖는 경우가 많다. PME는 이러한 특성을 활용해 NAND를 사실상 추가 메모리처럼 활용할 수 있도록 설계됐다.
반면 일반 소비자 PC는 게임과 웹브라우징, 영상 편집, 멀티태스킹 등 다양한 작업이 동시에 이뤄진다. 데이터 접근 패턴 역시 예측이 어렵기 때문에 데이터센터 환경만큼 효과를 내기 어렵다는 분석이 나온다.
업계에서는 MEXT 인수가 최근 반도체 업계 전반에서 나타나는 흐름과도 맞닿아 있다고 보고 있다.
엔비디아 DLSS와 AMD FSR, 프레임 생성 기술, 엔비디아의 신경망 텍스처 압축(Neural Texture Compression) 등은 모두 하드웨어 성능 부족을 소프트웨어와 알고리즘으로 보완하는 기술이다. MEXT 역시 NAND를 DRAM처럼 활용하도록 만드는 알고리즘 기반 기술이라는 점에서 같은 흐름이다.
다만 업계에서는 다른 가능성에도 주목하고 있다. 만약 메모리 계층화 기술이 데이터센터에서 본격적으로 도입될 경우 DRAM 수요 일부가 NAND로 이동할 수 있다. 이 경우 현재 DRAM 시장에서 나타나는 공급 부족 현상이 향후 NAND 시장으로 확산될 가능성도 배제할 수 없다는 분석이 나온다.
시장에서는 AI 인프라 확대가 이어지는 가운데 메모리 병목을 해결하기 위한 경쟁이 더욱 치열해질 것으로 보고 있다. AMD의 MEXT 인수 역시 메모리 용량 확대보다 메모리 활용 효율을 높이는 방향으로 산업이 움직이고 있음을 보여주는 사례로 평가된다.
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.