| 한스경제=김종효 기자 | AI 경량화 및 최적화 기술 기업 노타는 오는 11월 5일부터 7일까지 일산 킨텍스(KINTEX)에서 진행되는 ‘디지털퓨처쇼 2025’에 참가해 AI 보편화를 이끌 AI 모델 최적화 기술을 선보인다고 31일 밝혔다.
노타는 ‘디지털퓨처쇼 2025’에서 AI 모델 최적화 플랫폼 ‘넷츠프레소’를 기반으로 다양한 엣지 디바이스에 대규모 AI 모델을 실행할 수 있는 체험형 부스를 마련했다.
이번에 선보이는 LLM 최적화 서비스는 저전력 디바이스에서 대규모 언어모델(LLM)과 비전언어모델(VLM)을 최적화해 모델 성능은 유지하면서 빠른 추론 속도를 가능하게 한다.
이를 통해 GPU 없이도 대규모 AI 모델을 엣지 환경에서 실행할 수 있어 기존의 자사 제품에 LLM과 같이 고성능 AI 기능을 넣고 싶지만 GPU 서버 비용이나 전력 제약 때문에 고민하던 기업에게 최적화됐다.
고객은 LLM 최적화 서비스를 통해 인터넷이 어려운 산업 현장부터 공공시설, 개인 모바일까지 AI 활용 범위를 대폭 확대할 수 있다.
노타는 LLM, VLM 같은 대규모 AI 모델이 최적화돼 엣지 환경에서 구현되는 기능을 체험할 수 있게 했다. 관람객은 다양한 엣지 디바이스에 문서를 업로드 후 질문하면 넷츠프레소를 통해 최적화된 LLM 모델이 내용을 이해하고 질문에 답을 하는 기능의 체험이 가능하다. 또한 VLM이 최적화 서비스를 통해 엣지 디바이스에서 구현되는 경험 제공과 부스를 찾은 관람객을 대상으로 무료 컨설팅을 신청 받는 프로모션도 진행한다.
노타 관계자는 "이번 전시는 AI 최적화 기술이 기존 기기에서 얼마나 효율적으로 구현되는지를 관람객이 직접 경험할 수 있도록 프로그램을 구성했다”며 “체험을 통해 AI 보편화를 이끌 AI 경량화 및 최적화 기술을 고객이 쉽게 이해하고 자사 제품에 적용해 보길 바란다"고 밝혔다.
노타의 최적화 기술은 다양한 산업현장에 솔루션으로 제공되고 있으며 정부 주도의 'AI 국가대표(독자 AI 파운데이션 모델 개발 프로젝트)' 정예팀으로 선정돼 경쟁력을 인정받았다. 노타는 수요예측과 일반청약 흥행과 함께 연내 코스닥 상장을 목표로 하고 있다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
