SKT '텔코 LLM' 6월 출격···연내 '고객상담'에 첫 적용(종합)

SK텔레콤이 30일 텔코LLM 기자설명회를 진행했다. 사진=김세현 기자

SK텔레콤의 통신 특화 거대언어모델(LLM·이하 텔코 LLM)이 상반기 중 출격한다. 연내 고객상담 업무에 우선 적용해 가능성을 본 뒤 추후 글로벌 시장 진출도 고려한다는 방침이다.

정민영 SK텔레콤 AI플랫폼 담당은 30일 서울 중구 SKT타워에서 열린 '텔코LLM 기자설명회'에서 이런 내용의 텔코 LLM 상용화 계획을 공유했다. 정 담당은 "개발의 페이스를 보면 이르면 6월 초 정도 마무리가 될 것으로 보인다"며 "내부에 여러 시스템들에 적용되기 위해서는 필요한 일들이 있어 고객센터 등 실제 상용화는 연내 적용할 수 있을 것 같다"고 말했다. 이날 설명회에는 정 담당과 에릭 데이비스 SK텔레콤 AI Tech Collaboration 담당이 참석했다.

SK텔레콤의 텔코 LLM은 GPT, 클로드와 같은 범용 LLM이 아닌 통신업에 특화된 LLM이다. 통신사 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집, 정형·비정형 데이터를 선별해 이를 ▲에이닷엑스 ▲GPT ▲클로드에 학습시킴으로써 통신업을 잘아는 LLM을 오픈AI, 앤트로픽 등과 개발 중이다.

SK텔레콤은 텔코 LLM 공개 후에도 주기적으로 발전시킨다는 구상이다. 데이비스 담당은 "데이터를 구축하고 현재 수준의 개발까지 8개월 정도 소요됐고, 구축 사이클을 계속 돌릴 때마다 조금씩 개선되고 있다"며 "출시 후 업데이트 역시 달마다 진행하며 계속 고도화할 것"이라고 강조했다.

SK텔레콤은 우선 고객상담 업무에 텔코 LLM을 도입한다는 구상이다. 이 경우 상담사가 고객과 전화하는 동안 LLM이 상담사에게 해결책을 제공하고, 상담 내용을 요약해 주는 등 상담 후 처리까지 과정을 줄일 수 있다.

정 담당은 "상담사분들이 하루에 소화해야 하는 전화 수가 있기에 상담업무가 사실 굉장히 중요함에도 불구하고 많은 어려움이 존재한다"며 "어떻게 하면 잘 기여할 수 있을지 고민을 많이 했다"고 설명했다. 그러면서 "상담 요약 시 텔코 LLM은 구어체를 비즈니스 용어 위주로 요약해 고객이 무엇을 원하고, 어떻게 해결책을 제공하는지 실질적인 도움이 되도록 만들었다"고 덧붙였다.

SK텔레콤은 텔코 LLM의 글로벌 진출도 염두에 두고 있다. 앞서 이 회사는 지난해 7월 ▲도이치텔레콤(독일) ▲이앤그룹(e&, 아랍에미리트) ▲싱텔그룹(싱가포르) ▲소프트뱅크(일본) 등과 손잡고 AI 사업에서 협업하기로 약속한 바 있다. 올해 2월에는 모바일월드콩그레스(MWC) 2024 현장에서 '글로벌 텔코 AI 얼라이언스'(Global Telco AI Alliance·이하 GTAA)도 구축했다.