SKT, 암·리벨리온과 '원팀' 구성..."엔비디아 GPU 의존도 낮춘다"

(AI 생성 이미지)

[이데일리 한광범 기자] SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 손잡고 차세대 AI 데이터센터(DC) 인프라 혁신에 나선다. AI 산업의 무게중심이 ‘학습’에서 ‘추론’으로 이동함에 따라, 저전력·고효율 솔루션을 통해 시장 주도권을 확보하겠다는 구상이다.

SK텔레콤·Arm·리벨리온은 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 9일 체결했다. 이번 협력의 핵심은 Arm이 새롭게 출시한 데이터센터용 프로세서 ‘Arm AGI CPU’와 리벨리온이 올해 3분기 출시 예정인 AI 반도체 ‘리벨카드(RebelCard™)’를 결합한 AI 추론 서버 솔루션의 공동 개발이다.

◇“학습에서 추론으로” 패러다임 변화... 이종 컴퓨팅으로 비용 절감

현재 AI 산업은 거대언어모델(LLM)을 만드는 학습 단계에서 실제 서비스를 제공하는 추론 단계로 빠르게 변모하고 있다. 추론은 1년 365일 중단 없이 작동해야 하기에 전력 효율이 곧 비용 경쟁력으로 직결된다. 그동안 추론 작업에도 범용 GPU가 주로 쓰였으나, 이는 마치 대형 트럭으로 소형 택배를 배달하는 것과 같아 과도한 전력 소모와 높은 비용이 한계로 지적돼 왔다.

이에 3사는 추론에 특화된 NPU(신경망처리장치)와 범용 연산을 담당하는 CPU를 결합한 ‘이종 컴퓨팅(Heterogeneous Computing)’ 구조를 대안으로 제시했다. 시스템의 ‘관제탑’ 역할을 하는 CPU가 데이터 입출력과 네트워크 통신, 메모리 관리 등을 총괄하고, NPU가 AI 추론 연산을 전담함으로써 성능과 효율을 동시에 잡겠다는 전략이다.

특히 ‘Arm AGI CPU’는 Arm이 35년 역사상 처음으로 직접 생산한 데이터센터용 칩으로 AI 추론에 최적화돼 있으며, 리벨리온의 ‘리벨카드’ 역시 대규모 AI 추론에서 압도적인 효율을 자랑한다. 양사는 이미 지난 3월 ‘Arm 에브리웨어(Arm Everywhere)’ 행사에서 두 칩을 결합해 오픈AI의 언어모델인 GPT OSS 120B 기반의 에이전틱 AI 서비스를 실시간으로 시연하며 상용화 가능성을 입증한 바 있다.

SK텔레콤은 공동 개발된 솔루션을 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다. 나아가 독자 개발한 AI 파운데이션 모델인 ‘에이닷엑스 케이원(A.X K1)’을 해당 서버에서 운영하는 방안도 검토 중이다. 저전력·고효율 인프라와 독자 모델을 결합한 풀 패키지 서비스를 통해 AI DC 사업의 경쟁력을 한층 높인다는 방침이다.

이재신 SK텔레콤 AI 사업개발 담당은 “추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다”고 밝혔다.

에디 라미레즈(Eddie Ramirez) Arm 클라우드 AI 사업부 GTM 부사장은 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”며 “SK텔레콤, 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 전했다.

오진욱 리벨리온 CTO는 “리벨리온은 압도적인 성능과 전력 효율을 갖춘 ‘리벨카드’와 풀스택 소프트웨어 경쟁력을 바탕으로 차세대 AI 데이터센터를 지탱하는 핵심 축을 담당하게 됐다”며 “AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 매우 유의미한 선례가 될 것으로 기대한다”고 전했다.