KAIST, 고성능·저전력 NPU 핵심기술 개발···생성형 AI 추론 성능 60%↑
KAIST는 박종세 전산학부 교수 연구팀과 김주영 교수 창업 기업 하이퍼엑셀이 공동으로 고성능·저전력 신경망처리장치(NPU) 핵심기술을 개발했다고 6일 밝혔다.
이 기술은 생성형 AI 클라우드 환경에 최적화, 최신 GPU 대비 약 44% 낮은 전력 소모로 평균 60% 이상 추론 성능을 향상했다.
연구팀은 생성형 AI 모델의 추론 정확도를 유지하면서도 메모리 병목 현상을 줄이는 경량화 알고리즘과 이를 최적화한 하드웨어 설계를 결합해 성능을 끌어올렸다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “이뉴스투데이” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
