솔라 프로 2는 지난 12월 출시된 ‘솔라 프로’의 후속으로 모델 매개변수(파라미터)는 기존 220억에서 310억으로 확대되고 성능도 대폭 향상됐다. 업스테이지는 7월 정식 출시에 앞서, 초기 테스트용으로 프리뷰 API(응용프로그램인터페이스)를 무료로 사용할 수 있도록 공개했다.
|
솔라 프로 2는 소형언어모델(sLLM) 영역에서 주요 빅테크 모델 성능을 뛰어 넘은 것으로 나타났다. ‘MMLU(종합 지식)’, ‘IFEval(지시 이행)’ 등 주요 LLM 벤치마크 성능 평균에서 메타의 ‘라마 4 스카우트’는 물론, ‘라마 3.3 70B’, 알리바바의 ‘큐원 2.5 72B’ 등 두 배 이상 큰 빅테크 모델을 앞질렀다.
또한 ‘KMMLU’, ‘해례(HAE-RAE)’ 등 한국어 성능을 평가하는 대표 벤치마크에서 높은 점수를 기록, 현재 공개된 소형언어모델 중 가장 뛰어난 수준임을 입증했다. 조선일보 등 주요 파트너사와의 협업을 통해 확보한 고품질 한국어 데이터를 학습에 적극 활용한 것이 주효했다.
아울러, 솔라 프로 2에는 업스테이지 LLM 최초로 ‘하이브리드 모드’가 적용된다. 모델 사용 시 빠른 응답에 최적화된 ‘챗 모드’와, 단계적 사고를 거쳐 구조화된 답변을 생성하는 ‘추론 모드’ 중 선택할 수 있다. 추론 모드에는 ‘생각 사슬(Chain of Thought, CoT)’ 기법이 적용되어, 수학이나 코딩처럼 복잡한 문제에서 더욱 정교한 답변을 제공한다.
사용성도 강화됐다. 기존보다 2배 확장된 6만4000 토큰까지 지원해 더 긴 문서나 대화를 한 번에 처리할 수 있다. 또한, 자체 토크나이저 개선을 통해 한국어 및 문서 기반 작업에서 최대 30%까지 토큰 절감이 가능해졌으며, 이에 따라 응답 속도와 비용 효율도 대폭 향상됐다
김성훈 업스테이지 대표는 “솔라 프로 2는 31B라는 효율적인 규모로도 70B 모델 수준의 성능을 구현하며 작지만 강력한 소형언어모델의 새 기준을 제시한다”라며 “특히 최고 추론 성능에 뛰어난 한국어 성능을 갖춘 이번 모델을 통해 더 많은 업무 혁신을 기대한다”고 전했다.
|
Copyright ⓒ 이데일리 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요
