LG유플러스는 아마존웹서비스(AWS)가 주최한 '2026 Modern Agentic Applications Day' 행사에서 AI 모델을 실제 서비스로 안정적으로 운영하기 위한 플랫폼 구축 사례를 공개했다고 10일 밝혔다.
이번 행사는 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화를 주제로 진행됐다. LG유플러스는 기존 온프레미스 중심의 AI 개발 환경을 클라우드와 연계한 구조로 전환하고, AI 개발부터 서비스 운영까지 전 과정을 연결한 플랫폼 구축 경험을 소개했다. 이를 통해 AI 서비스 품질과 운영 안정성을 동시에 높일 수 있는 기반을 강화하고 있다고 설명했다.
공개된 플랫폼은 AI 모델 개발과 서비스 운영 단계 간 단절을 줄이는 데 초점을 맞췄다. 기존에는 모델의 학습, 평가, 배포, 운영이 분리돼 진행되면서 서비스 전환 과정에서 반복 작업이 발생했지만, 이를 하나의 흐름으로 통합한 것이 특징이다.
LG유플러스는 AI를 단발성 개발이 아닌 지속적으로 활용 가능한 구조로 운영하기 위해 '모델 준비 상태'(Model Ready) 유지에 중점을 두고 플랫폼을 설계했다. 데이터 수집부터 학습, 평가, 배포, 운영까지 전 과정을 단일 파이프라인으로 연결해 개발자와 운영자가 일관된 환경에서 AI를 활용할 수 있도록 했다.
이를 위해 AWS의 관리형 쿠버네티스 서비스인 Amazon EKS를 기반으로 한 하이브리드 인프라 아키텍처를 도입했다. 자체 온프레미스 GPU 인프라를 Amazon EKS 클러스터의 하이브리드 노드로 통합하고, 쿠버네티스 컨트롤 플레인은 AWS 완전관리형 서비스로 운영해 인프라 관리 부담을 줄였다. 이를 통해 플랫폼 안정성과 서비스 품질 개선에 집중할 수 있는 환경을 구축했다는 설명이다.
GPU 자원 활용 방식도 개선했다. 기존의 장비 단위 고정 할당 방식에서 벗어나 필요한 만큼 자원을 유연하게 배분하는 구조를 적용해 GPU 유휴 시간을 줄였다. 이에 따라 AI 모델 학습과 서비스 운영 시점에 맞춰 자원을 효율적으로 활용할 수 있게 됐다.
LG유플러스는 이번 플랫폼 구축 과정에서 AI를 기술 중심이 아닌 서비스 운영 관점에서 접근했다고 설명했다. 인프라와 자원 관리 부담을 줄이면서 AI 서비스를 신속하게 제공하고, 품질과 운영 안정성을 지속적으로 높일 수 있는 기반을 마련했다는 것이다.
권기덕 LG유플러스 AX엔지니어링Lab장은 "LG유플러스는 AX 서비스 가속화를 위해 데이터 수집부터 모델 개발·배포·운영, GPU 운영까지 아우르는 AI-DLC(AI 주도 개발 라이프사이클) 기반의 엔지니어링 플랫폼 역량을 강화하고 있다"며 "앞으로도 AWS와의 기술 협력을 통해 AI 서비스 품질과 운영 안정성을 지속적으로 높여 나갈 계획"이라고 말했다.
박성대 기자 / 경제를 읽는 맑은 창 - 비즈니스플러스
Copyright ⓒ 비즈니스플러스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
