SK텔레콤, 상담원 편의가 고객 만족···‘LLM’ 효율성 강조

에릭 데이비스 SKT AI테크 컬래버레이션 본부장이 지난 19일 서울에서 열린 ‘앤트로픽 코리아 빌더 서밋’에서 클로드 활용 사례로 SKT의 텔코 LLM 도입 건을 설명하고 있다. [사진=SKT]

[이뉴스투데이 김진영 기자] "텔코(Telco) 거대언어모델(LLM) 도입으로 고객 상담 시 상담원이 더욱 효율적으로 상담에 필요한 정보를 찾을 수 있게 됐습니다.“

SK텔레콤은 21일 앤트로픽의 클로드(Claude)가 파인튜닝한 텔코 LLM을 고객센터에 도입해 상담 품질 개선과 상담원 지원 효과를 거두고 있다고 밝혔다.

‘앤트로픽 코리아 빌더 서밋’은 앤트로픽이 AI 제품 분석 플랫폼 운영사 콕스웨이브와 함께 진행한 개발자 행사로, 앤트로픽이 한국에서 처음으로 개최한 공식 행사다.

이번 행사에는 마이크 크리거 앤트로픽 최고제품책임자(CPO)와 케이트 얼 젠슨 매출 총괄 책임자 등이 참석해 한국 인공지능(AI) 개발자, 기술 리더, 미디어를 대상으로 클로드의 최신 기능과 연구 성과를 공개했다.

에릭 데이비스 본부장은 국내 AI 기업의 테크 리더들과 함께 클로드의 실제 서비스 적용 사례 및 활용 방안, AI 모델 발전 방향 등에 대해 토의했다.

SKT는 지난해 자체 개발 AI 모델 에이닷엑스(A.X)와 클로드 등을 포함해 멀티 LLM을 기반으로 텔코 LLM을 개발해 다양한 사내 운영 업무 및 비즈니스에 활용 중이다. 고객센터에는 클로드를 적용한 텔코 LLM이 활용되고 있다.

데이비스 본부장은 “고객센터에 적용한 텔코 LLM은 내부 상담원들이 사용하지만 결국 고객들에게 영향을 미치는 서비스”라며 “SKT는 고객 만족도를 높이기 위해 엔지니어링을 계속하고 있다”고 말했다.

그러면서 “사용자의 업무 능력 보강과 고객센터 상담원들의 스트레스를 줄이는 것이 목표”라며 “최종적으로 상담원과 고객 모두에게 도움을 줄 것”이라고 설명했다.

서밋에 앞서 SKT는 앤트로픽 블로그를 통해 클로드를 베이스 모델로 파인튜닝 된 텔코 LLM의 성과를 알렸다.

SKT는 고객센터에 텔코 LLM을 적용한 후 고객센터에 적용된 LLM의 저품질 응답 비율이 68% 감소했다. 통화 후처리에서 AI의 응답 품질이 인간 상담원의 약 89% 수준으로 올랐고, 고객센터 상담원이 상담에 활용한 후 평가한 점수도 기존 서비스에 비해 34% 높아졌다.