노타, 中 AI모델 '키미 K3' 경량화 성공…"GPU 사용량 절반으로 줄였다"

(사진=노타) 노타는 5일 자체 개발한 ‘비균일 전문가 프루닝(Non-uniform Expert Pruning)’ 기술을 적용해 키미 K3의 경량화 모델 2종을 공개했다고 밝혔다.

이 기술을 통해 노타는 키미 K3의 전문가 모듈을 각각 25%, 50% 줄인 모델을 개발했다.

김태호 노타 최고기술책임자(CTO)는 “자체 개발한 비균일 전문가 프루닝 기술을 바탕으로 솔라 오픈2에 이어 프론티어급 모델인 키미 K3까지 성공적으로 경량화해 주요 성능을 유지하면서 필요한 GPU를 최대 절반으로 줄이는 등 초거대 AI 모델의 연산 효율성을 높였다”며, “다양한 프론티어급 AI 모델을 한정된 연산 자원에서도 효율적으로 활용할 수 있도록 기술 적용 범위를 확대하겠다”고 말했다.