국산 NPU 상용화 확대…클라우드 서비스 새 국면

삼성SDS는 최근 삼성 클라우드 플랫폼(SCP)에 퓨리오사AI의 2세대 NPU '레니게이드(RGND)'를 적용한 구독형 서비스를 시작했다. [사진=삼성SDS]

생성형 서비스를 도입하는 기업이 늘면서 연산 자원을 효율적으로 운영하기 위한 인프라 수요도 커지고 있다. 서비스 운영 과정에서 필요한 추론 연산의 비중이 높아지면서 GPU와 함께 신경망처리장치(NPU)를 도입하는 기업도 증가하고 있다.

추론 연산 수요 증가…국산 NPU 도입 이어져

20일 업계에 따르면 삼성SDS는 최근 삼성 클라우드 플랫폼(SCP)에 퓨리오사AI의 2세대 NPU '레니게이드(RGND)'를 적용한 구독형 서비스를 시작했다. 기업은 별도의 서버를 구축하지 않고도 필요한 규모의 연산 자원을 선택해 사용할 수 있으며, 저장공간과 컴퓨팅 자원, 네트워크 등 클라우드 서비스를 함께 이용할 수 있다.

이번 서비스는 국내 클라우드 환경에서 국산 NPU를 구독 방식으로 제공하는 사례다. 공공기관 등 보안 요구 수준이 높은 환경에서도 사용할 수 있도록 지원해 활용 범위를 넓혔다.

퓨리오사AI가 개발한 레니게이드는 생성형 서비스 운영 과정에서 필요한 추론 연산에 특화된 제품이다. 최근 열린 '레니게이드 2026 서밋'에서는 일부 GPU와 비교한 성능과 전력 효율, 운영 비용 절감 결과를 공개했다. 회사는 경량 모델과 차세대 제품 개발도 진행하고 있다.

업계에서는 생성형 서비스 이용이 늘면서 대규모 모델 학습보다 실제 서비스 운영 단계에서 수행되는 추론 연산의 비중이 커지고 있다고 분석한다. 전력 소비와 운영 비용을 고려한 추론용 반도체 도입도 이어지고 있기 때문이다. 

공공 분야 활용 넓어져…클라우드 서비스 증가 

국산 NPU의 활용 범위도 넓어지고 있다. LG CNS는 퓨리오사AI와 AI 인프라 분야 협력을 위한 업무협약을 체결하고 기업용 에이전틱 플랫폼에 레니게이드를 적용하기 위한 기술 검증을 진행하고 있다.

양사는 독자 파운데이션 모델 개발 프로젝트에도 참여하며 공공 분야에서 활용할 수 있는 서비스 환경 구축에도 협력하고 있다.

업계 관계자는 "생성형 서비스를 운영하는 기업이 늘면서 학습보다 추론 연산의 중요성이 커지고 있다"며 "서비스 목적에 따라 GPU와 NPU를 함께 활용하는 방식이 점차 일반화될 것으로 보이며, 국산 NPU를 적용한 클라우드 서비스도 늘어날 것"이라고 말했다.

[폴리뉴스 박수남 기자]