카카오는 자체 기술로 개발한 차세대 언어모델 '카나나-2'를 업데이트하고, 4종의 모델을 오픈소스로 추가 공개했다고 20일 밝혔다.
이번에 공개한 4종의 모델은 고효율·저비용의 강점과 에이전틱 AI의 구현을 위한 도구 호출 능력을 강화한 것이 특징이다. 최신 초고가 인프라가 아닌 엔비디아 A100 수준의 범용 GPU(그래픽처리장치)에서도 원활하게 구동되도록 최적화했다. 중소기업과 학계 연구자들도 비용 부담 없이 고성능 AI를 쓸 수 있도록 했다.
카카오는 '카나나-2' 효율성의 핵심으로 '전문가 혼합(MoE)' 아키텍처를 내세웠다. 전체 파라미터는 32B(320억개) 규모로 거대 모델의 높은 지능을 유지하면서도, 실제 추론 시에는 상황에 맞는 3B(30억개)의 파라미터만 활성화해 연산 효율을 높였다. 또 MoE 모델의 학습에 필수인 여러 커널을 직접 개발해 성능 손실 없이 학습 속도는 높이고, 메모리 사용량은 낮추는 성과를 거뒀다.
데이터 학습 단계도 고도화했다. 사전 학습과 사후 학습 사이에 '미드 트레이닝' 단계를 신설하고, AI 모델이 새로운 정보를 배울 때 기존 지식을 잊는 '치명적 망각' 현상을 방지하기 위해 '리플레이' 기법을 도입했다.
카카오는 '카나나-2' 모델의 또 다른 차별점으로 실질적인 업무 수행이 가능한 에이전틱 AI 구현에 특화한 점을 들었다.
고품질 멀티턴 도구 호출 데이터를 집중 학습시켜 지시 이행과 도구 호출 능력을 강화해 복잡한 사용자 지시를 정확히 이해하고 적절한 도구를 스스로 선택 및 호출한다. 성능 평가에서는 동급 경쟁 모델인 알리바바의 '큐웬-30B-A3B-인스트럭트-2507' 대비 ▲지시 이행 정확도 ▲멀티턴 도구 호출 성능 ▲한국어 능력 등에서 우위를 보였다.
김병학 카카오 카나나 성과리더는 "보편적인 인프라 환경에서도 고효율을 내는 모델을 오픈소스로 공개해 국내 AI 연구 개발 생태계 발전과 기업들의 AI 도입의 새로운 대안이 될 수 있기를 기대한다"고 말했다.
Copyright ⓒ 일간스포츠 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요
