[뉴스락] SK텔레콤이 인천 소재 AI 서비스 전용 데이터센터에서 국산 NPU(신경망처리장치) 기반 상용 서비스 현황을 과학기술정보통신부에 공개했다.
과기정통부는 29일 이 데이터센터를 방문해 'K-엔비디아 육성 프로젝트'의 산업 현장을 직접 살폈다.
현장에는 이도규 과기정통부 정보통신정책실장이 참석했으며, 박병관 SKT Core플랫폼담당과 박성현 리벨리온 대표가 동행했다.
SKT의 AI 서비스 전용 데이터센터에는 국내 AI 반도체 기업 리벨리온의 NPU '아톰(ATOM)'과 '아톰 맥스(ATOM MAX)'를 탑재한 서버가 운영되고 있다.
SKT는 이를 에이닷 전화 통화요약과 반려동물 영상진단 보조 서비스 '엑스칼리버'에 적용하고 있으며, 향후 아톰 맥스 기반 상용 서비스를 지속 확대할 계획이다.
에이닷 전화 통화요약 서비스는 SKT의 자체 거대언어모델(LLM) '에이닷엑스(A.X)'를 기반으로 하루 최대 5천만 건의 API 호출을 처리하고 있다. 국산 LLM이 국산 NPU를 통해 서비스되는 '소버린 AI'의 대표적 구현 사례로 꼽힌다.
최근 AI 산업의 중심축이 대규모 학습에서 실시간 추론으로 이동하면서, 정부는 추론에 특화되고 전력 효율이 높은 NPU를 중심으로 국산 AI 반도체 생태계 구축을 추진하고 있다.
지난 3월 열린 민관 합동 간담회에서 정부는 국민성장펀드를 통해 AI·반도체 분야에 5년간 50조 원, 올해 10조 원 규모의 장기 인내자본을 공급하고 2030년까지 AI 반도체 글로벌 유니콘 5곳을 배출한다는 목표를 발표했다.
SKT는 리벨리온과의 기술 협력도 강화하고 있다. 지난달 양사는 글로벌 반도체 설계 기업 Arm과 3자 MOU를 체결하고 CPU와 NPU를 결합한 AI 추론 서버 공동 개발에 착수했으며, SKT의 파운데이션 모델 '에이닷엑스 케이원(A.X K1)'을 해당 서버에서 운영하는 방안도 검토 중이다.
SKT는 자회사 사피온코리아와 리벨리온의 합병을 거치며 리벨리온의 주요 주주로 자리매김했고, 양사는 정부의 '독자 AI 파운데이션 모델' 프로젝트에도 SKT 컨소시엄으로 함께 참여하고 있다.
SKT 관계자는 "국가 간 AI 기술 경쟁이 심화되는 가운데 국내 AI 생태계의 자립성 강화는 국가 경쟁력을 좌우하는 핵심 요소"라며 "국산 LLM이 국산 NPU를 통해 서비스되는 '소버린 AI'를 확대해 나갈 계획"이라고 밝혔다.
Copyright ⓒ 뉴스락 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.