카카오가 온디바이스(On-device) AI 시대를 겨냥해 자체 개발한 경량 언어모델(SLM)을 오픈소스로 전격 공개하며 글로벌 AI 기술 경쟁력 강화와 국내 AI 생태계 기여에 나섰다.
카카오(대표이사 정신아)는 28일 세계 최대 AI 모델 공유 플랫폼인 허깅페이스(Hugging Face)에 스마트폰 등 개인 디바이스 환경에서 구동 가능한 경량 언어모델 ‘카나나-2(Kanana-2)’ 시리즈 4종을 공개했다고 밝혔다. 이번에 배포된 모델은 ▲Kanana-2-1.3B-base ▲Kanana-2-1.3B-instruct ▲Kanana-2-3B-base ▲Kanana-2-3B-instruct다.
Qwen·Gemma 뛰어넘는 성능…한국어 특화 토크나이저로 효율 30%↑
최근 AI 업계는 대형 언어모델(LLM)의 성능 경합을 넘어, 스마트폰이나 PC 등 제한된 자원 환경에서 직접 구동되는 온디바이스 경량 모델 확보에 사활을 걸고 있다. 글로벌 빅테크 기업들이 온디바이스 AI 생태계 선점에 박차를 가하는 상황에서 카카오 역시 현장에 즉시 적용 가능한 초경량·고성능 모델 연구에 집중해왔다.
이번에 공개된 모델들은 초경량 크기임에도 불구하고 한국어와 영어 모두에서 글로벌 최상위(SOTA) 수준의 성능을 입증했다. 지식, 수학, 코드, 지시이행 등 주요 벤치마크 평가에서 동급 크기의 최신 글로벌 모델인 첸(Qwen), 젬마(Gemma) 등과 어깨를 견주거나 이를 상회하는 우수한 성능을 기록했다.
특히 카카오가 지난해 독자 개발한 ‘한국어 특화 토크나이저(Tokenizer)’를 전면 적용해 텍스트 처리 효율을 기존 대비 30% 이상 끌어올렸다. 한국어 문장을 훨씬 적은 단위로 쪼개 연산할 수 있게 되면서, 처리 속도는 향상되고 추론 비용은 획기적으로 절감됐다.
대화 길어져도 메모리 73% 절감…‘카나나 인 카카오톡’ 등에 이미 적용
스마트폰과 같은 온디바이스 환경의 고질적 한계인 메모리 과부하 문제도 기술적으로 완벽히 극복했다. 긴 대화를 이어나갈 때 메모리 사용량이 폭증하는 현상을 막기 위해 '슬라이딩 윈도우 어텐션(Sliding Window Attention)' 구조를 적용한 것이 핵심이다.
이를 통해 최대 32K(약 2만 4,000단어) 분량의 장문 대화에서도 메모리 사용량을 최대 72.7%까지 감축하면서도 안정적인 구동 성능을 유지할 수 있게 됐다. 카카오는 이러한 기술력을 바탕으로 이미 ‘카나나 인 카카오톡’, ‘카카오톡 대화 및 통화 요약’, ‘AI 국민비서’ 등 주요 핵심 서비스에 해당 경량 모델들을 실전 투입해 활용 중이다.
상업적 활용도 무료 허용…“국내 AI 생태계 마중물 될 것”
카카오는 이번 카나나-2 시리즈를 상업적 활용까지 완전히 허용하는 ‘카나나 오픈 라이센스(Kanana Open License)’로 공개했다. 스타트업, 개인 개발자, 연구기관 등 누구나 제약 없이 카카오의 기술을 활용해 새로운 AI 서비스를 개발할 수 있는 길을 열어준 셈이다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 맞아 클라우드 기반의 대규모 AI와 온디바이스 경량 AI 모두의 기술 경쟁력을 대폭 강화하고 있다"며 "이번 오픈소스 공개가 더 많은 개발자와 기업들의 혁신적인 AI 서비스 개발로 이어져 국내 AI 생태계 저변을 넓히는 계기가 되기를 기대한다"고 밝혔다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
