SK텔레콤, Arm·리벨리온과 AI 데이터센터 협력

[인포그래픽] SKT, CPU+NPU AI 서버 설루션 개발...AI 데이터센터 경쟁력 강화 나선다

[엠투데이 이세민기자]   SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 손잡고 차세대 AI 데이터센터 인프라 경쟁력 강화에 나선다. SK텔레콤은 9일 이들 기업과 전략적 파트너십(MOU)을 체결했다고 밝혔다.

이번 협력은 AI 산업의 중심축이 ‘학습(Training)’에서 ‘추론(Inference)’으로 빠르게 이동하는 흐름을 반영한다. 기존에는 대규모 GPU 기반 연산 능력이 핵심이었다면, 이제는 얼마나 적은 전력으로 빠르고 안정적으로 AI 서비스를 제공할 수 있는지가 경쟁력을 좌우하는 요소로 떠오르고 있다. 특히 AI 추론은 24시간 지속적으로 작동해야 하는 특성상 전력 효율과 비용 구조가 직접적인 사업 성과로 이어진다.

이러한 변화 속에서 SK텔레콤과 Arm, 리벨리온은 CPU와 NPU를 결합한 이종 컴퓨팅 구조를 기반으로 새로운 서버 아키텍처를 구축한다. Arm이 새롭게 선보인 ‘Arm AGI CPU’와 리벨리온의 AI 추론 전용 칩 ‘리벨카드(RebelCard™)’를 하나의 서버에 함께 탑재해, CPU는 데이터 처리와 시스템 운영을 담당하고 NPU는 AI 추론 연산을 전담하는 구조다.

이 방식은 단순한 성능 향상을 넘어 전력 효율과 운영 비용 절감이라는 실질적인 효과를 동시에 노린 전략이다. GPU 중심 구조가 범용성은 높지만 과도한 전력 소비라는 한계를 지닌 반면, NPU 기반 추론 구조는 특정 작업에 최적화돼 효율성을 극대화할 수 있기 때문이다.

Arm의 ‘AGI CPU’는 데이터센터용으로 처음 직접 생산되는 프로세서로, AI 추론 환경에 맞춰 설계된 것이 특징이다. 리벨리온의 ‘리벨카드’ 역시 대규모 AI 추론을 위한 전용 NPU로, 양사의 기술 결합은 고성능·저전력 인프라 구현의 핵심 축으로 작용할 전망이다.

이미 양사는 지난 ‘Arm 에브리웨어(Arm Everywhere)’ 행사에서 해당 구조를 활용해 GPT 기반 대규모 언어모델 서비스를 실시간으로 시연하며 상용화 가능성을 입증한 바 있다.

SK텔레콤은 이번 협력을 통해 개발된 서버를 자사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다. 동시에 자체 AI 파운데이션 모델 ‘에이닷엑스 케이원(A.X K1)’ 운영에도 해당 인프라를 활용하는 방안을 검토 중이다.

이번 파트너십은 단순한 기술 협력을 넘어 AI 데이터센터 구조 자체를 재정의하려는 시도로 해석된다. 특히 전력 효율과 비용 경쟁력이 핵심인 AI 추론 시장에서 CPU+NPU 기반 구조가 새로운 표준으로 자리잡을 가능성을 보여주는 사례로 평가된다.