엘리스그룹, 국산 NPU 기반 교육 특화 AI 에이전트 대규모 실증 성공

[이데일리 김아름 기자] 인공지능(AI) 인프라와 클라우드, 산업별 솔루션을 제공하는 AI 풀스택 기업 ㈜엘리스그룹이 ‘2025년도 AI반도체 응용실증 지원사업’을 성공적으로 마무리했다고 31일 밝혔다.

이번 실증은 엘리스그룹이 직접 최적화 과정을 거쳐 실사용 가능한 수준으로 성능을 끌어올린 국산 AI 반도체에 교육 특화 생성형 AI 서비스를 적용해 대규모로 검증한 사례다. 교육 분야에서 국산 NPU 기반 AI 응용 실효성을 입증하는 동시에, 국산 NPU 최적화 및 운영 노하우를 축적했다는 점에서 의미가 크다. 이번 사업은 과학기술정보통신부와 정보통신산업진흥원(NIPA)이 지원하는 ‘AI반도체 응용실증 지원사업’의 일환으로 추진됐다.

엘리스그룹은 국산 NPU 시제품을 기반으로 NPU팜과 클라우드 인프라를 구축하고, 이를 활용해 교과서 정보 검증 및 교육용 질의응답 AI 에이전트를 구현했다. 해당 AI 응용 서비스는 공인 시험기관의 성능 검증 결과, AI 응용 모델 평가 전 항목에서 목표를 초과 달성했다.

실증에 적용된 AI 에이전트는 교육 환경의 특성을 고려해 정확성과 신뢰성, 안전성을 강화한 것이 특징이다. 엘리스그룹은 대규모 데이터셋을 기반으로 고품질 한국어 특화 데이터셋을 구축하고, 이를 바탕으로 △교과서 기반 사실 여부를 검증하는 Fact Checker △교과서 컨텍스트와 무관하거나 악의적인 질문을 사전에 차단하는 Relevance Checker △문법적 정확성을 유지하면서 학습자 친화적인 어조로 답변을 변환하는 Tone Changer 기능을 구현했다.

이번 과제는 AI 반도체 인프라 구축부터 AI 모델 학습, 교육 특화 응용 서비스 구현까지 전 과정을 단일 기업이 직접 수행했다는 점에서 주목된다. 엘리스그룹은 자체 AI 데이터센터인 ‘엘리스 AI PMDC’를 기반으로 국산 AI 반도체 서버와 클라우드 환경을 직접 구성하고, 그 위에서 AI 모델과 서비스 운영까지 통합적으로 구현했다. 이 과정에서 국산 NPU 기반 시스템의 성능 최적화, 자원 할당, 서비스 안정화 등 실질적인 설정·운영을 자체적으로 진행해 노하우를 축적했다.

엘리스그룹 김재원 대표는 “이번 실증을 통해 국산 NPU 기반 환경에서도 교육용 생성형 AI 에이전트가 충분한 성능과 신뢰성을 확보할 수 있음을 확인했다”며, “칩 도입을 넘어, 직접 최적화와 대규모 실증을 수행하며 쌓은 경험을 바탕으로 AI 반도체 인프라부터 AI 응용 서비스까지 전 주기를 자체 기술로 구현할 수 있는 역량을 강화하고, 국산 AI 반도체 생태계 확산과 산업 적용에 기여하겠다”고 말했다.