카카오, 사내AI비서 'AI버디'공개…'메일 요약하고 회의실 잡아주고'

[이데일리 최정희 기자] 카카오는 일반인들이 사용할 수 있는 인공지능(AI)짝꿍 앱 ‘카나나’를 22일 공개한 데 이어 카카오 사내의 일하는 방식에도 ‘AI’를 전면적으로 적용하기 위한 AI서비스를 공개했다. ‘AI버디’란 이름의 AI챗봇이 메일을 요약해주고 회의실을 잡아주고, 회의실 참석자들에게 자동으로 회의 일정이 담긴 메일을 발송해준다.

정규돈 카카오 최고기술책임자(CTO)가 23일 경기도 용인 카카오AI캠퍼스에서 열린 ‘이프카카오2024’ 컨퍼런스에서 발언을 하고 있다.(출처: 카카오)

◇ 카카오 직원 돕는 AI에이전트, “AI버디, 구내식당 점심메뉴 뭐야?”

정규돈 카카오 최고기술책임자(CTO)는 23일 경기도 용인 카카오 AI캠퍼스에서 열린 이프카카오(ifkakao) 2024에서 이 같은 내용을 발표했다.

정 CTO는 “AI버디는 다양한 문서와 데이터를 효율적으로 분석, 처리하는 AI기반의 업무를 지원한다”며 “요약하기, 댓글달기 등 지식 통합 및 검색 기능이 있고 휴가 신청, 회의실 예약 등에 쉽게 접근해 지능형 오피스 라이프를 지원한다”고 밝혔다.

예컨대 카카오의 사내 게시판 ‘아지트(Agit)’에서 온 알림, 메일이 왔을 경우 오른쪽 버튼을 누르면 ‘AI버디’ 툴이 나오는데 AI버디툴에서 메일을 요약해주고, 메일 내에서 검색해 ‘AI’ 등 주요 키워드가 담긴 문서만 추출해주기도 한다. AI버디 전용툴을 활용해 문서에 대해 좀 더 깊게 탐색하는 것도 가능하다.

AI버디에 ‘기술 리뷰 회의’를 잡아달라고 요청하면 빈 회의실을 보여주고 회의실을 클릭하면 자동적으로 회의에 참석할 담당자들에게 회의 일정 등이 포함된 메일이 전해진다. 최종적으론 담당자 각자의 캘린더에 회의 일정이 입력된다. 이러한 과정이 원스톱으로 처리돼 업무 시간을 대폭 줄일 수 있다. 단순하게는 구내식당의 점심 메뉴를 묻는 데도 AI버디를 활용할 수 있다.

정 CTO는 AI버디가 작동하는 기술적 원리에 대해서도 설명했다. 정 CTO는 “사용자가 프롬프터(Prompter)에 질문(query)을 입력할 경우 검색 기반 생성 모델(RAG, Retrieve-and-Generate)을 통해 데이터나 문서 관련 정보를 검색한 후 답변을 하는 것이 가능할 줄 알았는데 잘 안 됐다”며 “AI버디는 멀티 RAG로 구성해 사용자의 질문, 요청에 따라 에 에이전트 기반 RAG(Agentic RAG), 그래픽RAG, 펑션콜(Funtion Call, 컴퓨터 프로그래밍에서 함수를 호출하는 과정) 등을 활용해 답변을 한다”고 밝혔다. 에이전트 기반의 RAG는 사용자 질문을 좀 더 구체화해서 원하는 답을 얻을 때까지 반복하고, 그래픽RAG는 그래픽 형태의 데이터를 제공하고 펑션콜 등은 회의실 예약, 휴가신청 등을 하는데 활용된다.

◇ “AI는 직장동료”…웹툰 숏폼 몇 시간 만에 뚝딱

카카오는 ‘카카오 AI플랫폼(KAP)’를 구축해 데이터를 획득하고 모델을 정제, 처리하고 법무 및 개인정보보호 등의 조치를 하고 그래픽처리장치(CPU), 분산학습 환경을 구축해 파운데이션 모델을 학습하고 파인튜닝해 서비스를 하는 일련의 과정을 단축하고 있다.

정 CTO는 “모델 개발자가 KAP플랫폼을 활용하면 데이터 스토어를 통해 개인정보보호 등이 걸러진 데이터를 받고 트레이닝 레이어로 이동해 GPU를 할당받고 분산환경을 구성, 트레이닝을 한 후에 모델 스토어에 본인의 모델을 등록하게 된다”며 “모델 카탈로그에 모델을 공유하면 서비스 개발자가 원하는 모델을 선택해 본인의 서비스 등에 활용하게 된다”고 설명했다.

카카오는 이를 바탕으로 카카오페이의 보험진단 AI서비스, 카카오헬스케어를 통한 혈당관리 서비스 ‘파스타’ 등에 적용하고 있다. 파스타(앱)는 비전AI를 이용해 음식 사진을 촬영하고 자동으로 칼로리를 계산해준다. 식사 후에는 파스타가 혈당 정보를 알려주는 식이다. 카카오 엔터테인먼트는 AI를 활용해 웹툰 숏폼 제작에 걸리는 시간을 몇 주에서 몇 시간으로 단축했고, 카카오 모빌리티는 한국 지형 데이터를 AI로 학습해 자율주행 서비스 등으로 활용하고 있다.

카카오는 AI를 통해 시스템 모니터링을 하고 있다. 정 CTO는 “카카오는 데이터센터, 클라우드 인프라, 카카오톡 등 서비스로 세 가지 레이어로 시스템이 나뉘어있는데 자체 개발한 모니터링 ‘매트릭스(Matrix) AI’는 이상현상이 발생하면 사건 요약, 분석, 조치 방안이 담긴 리포트를 발간한다”며 “이를 통해 서비스에 장애가 생기기 전에 선제적인 조치를 할 수 있다”고 밝혔다.

정 CTO는 “AI 서비스를 시작으로 내년엔 카카오가 AI 서비스 적용을 가속화하는 시기가 될 것”이라며 “AI버디 등은 카카오 직원과 협업하는 동료가 될 수 있다. 이렇게 쌓인 AI지식, 경험은 카카오 서비스로 탈바꿀될 것”이라고 밝혔다.