SKT·Arm·리벨리온, AI 데이터센터 협력…“추론 인프라 공략”

SK텔레콤은 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다. 사진=SK텔레콤 [뉴스락]

[뉴스락] SK텔레콤은 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다고 10일 밝혔다.

이번 협약에 따라 3개사는 Arm이 새롭게 선보인 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 '리벨카드(RebelCard™)’를 서버에 함께 탑재한 AI 추론 최적화 솔루션을 공동 개발하고, 이를 SK텔레콤 AI 데이터센터에서 실증할 계획이다.

이번 협력은 AI 산업의 중심이 모델 학습에서 실제 서비스 제공을 위한 추론으로 빠르게 이동하는 흐름에 대응하기 위한 것이다. 추론은 24시간 지속적으로 작동하는 특성상 전력 효율과 비용 경쟁력이 핵심 요소로 꼽힌다.

AI 추론은 비교적 가벼운 연산을 반복적으로 처리하는 구조로, 기존 GPU 기반 방식은 높은 전력 소모와 비용 부담이 한계로 지적돼 왔다. 이에 따라 업계에서는 추론에 특화된 NPU(신경망처리장치)가 대안으로 부상하고 있다.

여기에 CPU를 결합한 이종 컴퓨팅 구조는 시스템 효율을 높이는 방식으로 주목받고 있다.

CPU가 데이터 입출력, 네트워크, 메모리 관리 등 범용 연산을 담당하고, NPU가 AI 추론 연산을 전담함으로써 성능과 전력 효율을 동시에 확보할 수 있다는 설명이다.

Arm의 'Arm AGI CPU'는 데이터센터 환경에서 AI 추론 서비스에 최적화된 프로세서이며, 리벨리온의 '리벨카드' 역시 대규모 AI 추론에 특화된 NPU다.

두 칩을 단일 서버에 통합할 경우 전력 효율을 높이면서도 운영 비용 절감 효과를 기대할 수 있다.

Arm과 리벨리온은 앞서 'Arm Everywhere' 행사에서 양사의 칩을 결합해 대규모 언어모델 기반 에이전틱 AI 서비스를 실시간으로 시연하며 데이터센터 적용 가능성을 확인한 바 있다.

SK텔레콤은 해당 솔루션을 자사 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다. 아울러 자체 개발한 AI 파운데이션 모델 'A.X K1' 적용 가능성도 검토 중이다.

SK텔레콤은 이번 협력을 통해 저전력·고효율 기반의 AI 추론 인프라를 확보하고, AI 데이터센터 사업 경쟁력을 강화한다는 방침이다.

이재신 SK텔레콤 AI사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델을 결합한 형태로 AI 데이터센터 경쟁력을 높여 나갈 것"이라고 말했다.

에디 라미레즈 Arm 클라우드 AI 사업부 GTM 부사장은 "AI 추론 수요 확대에 따라 대규모 배포에 최적화된 데이터센터 인프라가 중요해지고 있다"며 "이번 협력은 AI 추론 인프라 현대화에 있어 의미 있는 사례가 될 것"이라고 밝혔다.

오진욱 리벨리온 CTO는 "리벨카드와 풀스택 소프트웨어 역량을 기반으로 차세대 AI 데이터센터의 핵심 역할을 수행할 것"이라며 "이번 협력은 AI 특화 인프라 구축의 중요한 선례가 될 것으로 기대한다"고 말했다.