SKT 고객센터, AI 시대 연다...자체 개발 LLM 상담시스템 도입

SK텔레콤이 자체 개발한 Telco LLM(Large Language Model)/LMM(Large Multimodal Model)을 활용한 고객센터 AI 상담업무 지원 시스템을 국내 메이저 고객센터 중 최초로 10월부터 단계적으로 오픈, 베타 서비스를 한 달여간 성공적으로 운영했다. SK텔레콤 제공 [뉴스락]

[뉴스락] SK텔레콤이 자체 개발한 통신 특화 AI 모델을 활용한 고객센터 AI 상담 업무 지원 시스템을 국내 주요 고객센터 중 처음으로 도입했다고 18일 밝혔다.

지난 10월 중순부터 단계적으로 시작된 베타 서비스는 한 달여 간의 운영을 통해 성공적인 성과를 거둔 것으로 나타났다.

SKT는 Anthropic사 등 글로벌 LLM 기업들과의 협력을 통해 통신 분야 전문 지식을 학습한 'Telco LLM'을 개발해왔다.

1년여에 걸친 개발 과정에서 지식정보시스템을 AI 활용에 최적화된 구조로 재편했으며, 수십 명의 고객센터 상담 전문가가 참여해 모델의 성능 향상을 위한 학습 데이터를 구축했다.

SKT는 답변의 정확도를 높이기 위해 RAG(Retrieval Augmented Generation) 기술을 도입했다. 이와 함께 이미지 처리가 가능한 LMM을 통신 분야에 특화시켜 다양한 서류와 이미지를 처리할 수 있는 기능도 구현했다.

상담사들은 자연어 질문 입력만으로 필요한 정보를 신속하게 검색할 수 있게 되었다. 이를 통해 정보 탐색 시간이 단축되고, 상담사의 경력과 무관하게 균일한 품질의 상담 서비스 제공이 가능해졌다.

10월 23일부터 도입된 서류 자동 분류 시스템은 문자, 이메일, 팩스 등 다양한 채널로 접수되는 구비 서류들을 AI가 자동으로 분류하고 처리한다.

SKT는 12월부터 상담 결과를 자동으로 분류하고 요약하는 시스템을 도입할 예정이다. 이를 통해 상담 후 정리 시간을 줄이고, 대기 고객들에 대한 서비스 품질을 개선할 계획이다.

홍승태 SKT 고객가치혁신 담당은 "단순한 업무 효율화를 넘어 개인화된 최적의 상담 서비스 제공을 목표로 하고 있다"며 "앞으로도 다양한 AI 기술을 활용해 고객센터 서비스의 새로운 도약을 이루겠다"고 밝혔다.