부족한 AI 메모리…나눠 쓰고, 다시 쓰고

[이데일리 조용석 기자] 인공지능(AI) 메모리 공급 부족이 장기화하는 가운데 기존 자원을 효율적으로 활용하려는 기술 개발 경쟁도 이어지고 있다. 지금 증설에 나서도 실제 공급 확대까지 시간이 필요한 만큼 메모리 용량을 확장·공유하는 컴퓨트익스프레스링크(CXL)와 구형 D램 재활용 등이 중장기 대안으로 거론된다.

14일 서울 코엑스에서 열린 ‘SEDEX 2026’에서 관람객들이 삼성전자 부스를 찾아 HBM4E와 SOCAMM2, CXL 메모리 등을 활용한 'AI 연산과정'을 체험하고 있다. (사진=삼성전자)

최근 가장 각광받는 메모리 공유 기술은 CXL이다. 중앙처리장치(CPU)와 메모리 등을 연결해 서버가 사용할 수 있는 메모리 용량을 늘리는 기술이다. 별도 메모리 장치를 추가할 수 있고 ‘CXL 스위치’라는 연결 장치를 활용하면 여러 서버가 메모리를 나눠 쓰도록 구성할 수도 있다.

삼성전자는 CXL 메모리로 AI 서비스의 그래픽처리장치(GPU) 메모리 용량 부족을 완화할 수 있다는 연구 결과를 공개하기도 했다. AI가 앞서 계산한 정보를 담는 키·밸류(KV) 캐시는 대화가 길어지고 동시 이용자가 늘어날수록 크기가 커진다. 캐시 일부를 CXL 메모리에 보관했다가 필요할 때 다시 불러와 활용하면 GPU 메모리의 용량 부담을 덜고 불필요한 재계산도 줄일 수 있다.

실제 삼성전자와 SK하이닉스는 최근 미국에서 열린 메모리·스토리지 전시회 ‘FMS 2026’ 등에서 CXL 관련 기술을 연이어 공개했다. 삼성전자는 FMS에서 CXL 메모리 모듈 ‘CMM-D MD310’을 전시했다. 서버에 연결해 메모리 용량을 늘리고 여러 서버가 메모리를 필요한 만큼 나눠 쓰는 데 활용하는 제품이다. SK하이닉스는 FMS에서 여러 서버와 GPU가 KV캐시를 전달·재사용하는 기술을 시연했다. 특히 D램과 솔리드스테이트드라이브(SSD)를 결합한 ‘CMM-하이브리드’ 방식을 선보여 눈길을 끌었다.

구형 DDR4를 새 서버에서 다시 쓰는 시도 역시 진행 중이다. 메타는 퇴역 서버에서 회수한 DDR4를 최신 서버의 확장 메모리로 활용하는 전용 칩 ‘비스타라’를 개발했다. 서버를 교체하더라도 아직 쓸 수 있는 메모리를 별도 연결 장치를 통해 활용하는 방식이다. 자주 쓰는 데이터는 기존 DDR5에 두고 사용 빈도가 낮은 데이터는 CXL로 연결한 DDR4에 배치한다. 메타가 논문에서 제시한 서버의 사용 수명(3~5년)보다 메모리 수명(7~10년)이 길다는 점에 착안한 시도다.