노타, AI PC용 이기종 컴퓨팅 LLM 최적화 구현

노타는 인텔 루나 레이크 기반 AI PC에서 입력 처리와 답변 생성 단계를 분리해 각 연산을 GPU와 NPU에 각각 배치하는 분리형 추론 방식을 적용했다.

노타는 모델 경량화와 AI 실행 과정, 하드웨어 활용 방식까지 최적화해 시스템 전체의 효율을 높이는 기술 역량을 입증했다.

채명수 노타 대표는 "AI PC 시대에는 다양한 연산 장치를 모델 특성에 맞게 조합하는 최적화 역량이 실제 AI 경험을 좌우한다"며 "노타는 모델 경량화, 런타임 최적화, 하드웨어 최적화 기술을 결합해 AI PC의 온디바이스 AI 실행 효율을 높여 나가겠다"고 말했다.