SK하이닉스와 샌디스크(SanDisk)가 AI 추론(Inference) 성능 향상을 위한 새로운 메모리 규격 'HBF(High Bandwidth Flash)'를 공동 공개했다.
양사가 공개한 규격에 따르면 HBF는 최대 512GB 용량을 지원한다.
AI 가속기 내부에서 연산에 즉시 사용되는 데이터는 기존처럼 HBM이 담당하고, 대용량 모델 파라미터와 KV 캐시, 중간 데이터를 HBF에 저장하는 계층형 메모리(Hierarchical Memory) 다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “위클리 포스트” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.