"HBM 다음은 낸드"…AI 추론 시대, 메모리 패러다임이 바뀐다

◆ AI 무게중심, '학습'에서 '추론'으로…병목은 '용량' 시장의 수요가 질적으로 변화하고 있다는 점에 주목해야 한다.

실제로 최근 글로벌 선두 AI 반도체 기업은 추론 과정에서 누적되는 방대한 컨텍스트 데이터를 솔리드스테이트드라이브(SSD) 기반 낸드 등 외부 스토리지에 저장하고 재사용하는 새로운 플랫폼 개념을 제시하기도 했다.

한용희 그로쓰리서치 연구원은 "결과적으로 AI 인프라의 확장은 메모리의 병목을 '속도'에서 '용량'의 문제로 뒤바꿔 놓았다"며 "서버용 낸드 고도화라는 명확한 방향성에 맞춰 앞선 기술력을 확보한 기업들이 차세대 메모리 주도권을 쥐게 될 것"이라고 내다봤다.