SC 2024는 1988년부터 매년 열리는 HPC 분야의 대표적 글로벌 콘퍼런스로, HPC와 AI 기술의 최신 동향을 공유하고 업계 전문가들이 교류하는 행사다.
올해 SK하이닉스는 'MEMORY, THE POWER OF AI'를 주제로 전시를 열어, HPC·AI 제품 시연과 함께 첨단 메모리와 스토리지 기술에 대한 발표를 진행했다.
또 글로벌 AI 메모리 시장에서의 기술 리더십을 보여주는 다양한 제품을 전시했다. 데이터센터 솔루션 섹션에서는 △5세대 고대역폭메모리(HBM3E) △DDR5 서버 DIMM △eSSD 등 회사의 핵심 제품을 선보였다.
이 외에도 SK하이닉스는 기존 출시한 초고성능 PCIe 5세대 제품 PS1010과 더불어 데이터센터용 PCIe 5세대 eSSD 신제품 PEB110을 공개했다. PCIe 5세대 기술은 이전 세대보다 대역폭이 두 배로 넓어져 더 빠른 데이터 전송 속도를 제공하며, PEB110은 이를 통해 전력 효율과 성능이 크게 개선됐다.
HPC·AI 솔루션 섹션에서는 차세대 메모리 기술을 통한 데이터 처리와 응용 성능 향상을 실감할 수 있도록 다양한 고성능 솔루션을 시연했다.
SK하이닉스는 이번 행사에서 차세대 메모리 기술인 CXL을 적용한 CMM-DDR5를 선보였다. CXL 메모리는 여러 컴퓨팅 장치가 메모리를 공유해 데이터 전송 속도와 자원 활용도를 높이는 기술로, HPC와 AI 응용에 필요한 메모리 용량 확장을 지원한다. CXL 메모리 기술이 적용된 CMM-DDR5 데모에서는 'Intel® Xeon® 6 프로세서'가 장착된 서버 플랫폼을 사용해 AI 데이터 처리 작업을 더 빠르게 수행하는 사례를 소개해 큰 호응을 얻었다.
PIM 기술을 활용한 AiMX를 통해 최신 언어 모델인 LLaMA-3 70B의 실시간 처리 성능도 시연했다. 이번에 공개된 SK하이닉스의 AiMX는 연산을 가속해 데이터 처리 속도를 높이고 전력 소모를 줄임으로써, 대량 데이터를 효율적으로 처리할 수 있는 고성능·저전력 솔루션으로서의 강점을 보여줬다.
나이아가라 2.0 데모에서는 CXL Pooled Memory 솔루션을 활용해 거대언어모델(LLM) 추론 서비스에서 발생하는 LLM 모델 스위칭 오버헤드를 개선하는 방안을 선보였다. 이 솔루션은 그래픽처리장치(GPU) 메모리 부족으로 인해 불가피하게 발생하는 LLM 모델 스위칭 오버헤드를 줄여 추론 시간을 단축할 수 있음을 보였다.
SK하이닉스는 미국 로스앨러모스 국립연구소(LANL)와 협업해 개발한 객체 기반 연산 스토리지(OCS) 기술을 활용해 필요한 데이터만 분석 서버로 전송함으로써 HPC 환경의 데이터 병목 현상을 개선하는 데모도 선보였다. 또 대규모 데이터 처리에서 성능을 크게 향상시킬 수 있는 HBM 기반 NMP 기술도 함께 소개했다.
SK하이닉스는 이번 행사에서 자사의 기술 비전과 차세대 솔루션도 공유했다. 박정안 SK하이닉스 TL은 "SK하이닉스의 OCS는 추가적인 컴퓨팅 자원 없이도 데이터 저장 장치가 스스로 분석을 수행해 기존보다 빠르고 효율적인 데이터 처리를 가능하게 한다"고 밝혔다.
Copyright ⓒ 아주경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요
