[AI위클리] AI 무게중심 '추론'으로…국산 NPU 시대 열린다
인공지능(AI) 시장의 무게중심이 모델 학습에서 실제 서비스를 위한 추론으로 이동하면서 국산 신경망처리장치(NPU)에 대한 관심과 중요성이 커지고 있다.
◇ 국산 NPU로 구동한 국산 LLM…AI 자립 가능성 높여.
이들 업체는 국산 NPU로도 엔비디아 GPU와 유사한 성능을 구현하고 LLM 토큰 처리 비용을 대폭 낮출 수 있다는 점을 강조했다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “연합뉴스” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
