LG CNS, 코히어와 추론형 LLM 개발…GPU 2장으로 구동

LG CNS 본사 전경./사진=LG CNS

LG CNS는 글로벌 인공지능(AI) 유니콘 기업 코히어와 1110억개 파라미터를 갖춘 추론형 거대언어모델(LLM)을 공동 개발했다고 10일 밝혔다. 지난 5월 코히어와 70억개 파라미터로 구성된 한국어 특화 경량 모델을 출시한 지 단 두 달 만이다. 

추론형 LLM은 AI가 복잡한 문제에 대해 여러 변수를 고려한 논리적인 해답을 도출하는 모델로 AI가 스스로 판단하고 작업을 수행하는 '에이전틱 AI' 서비스 구현에 필수 기술로 꼽힌다.

이번 개발 성공으로 LG CNS는 코히어와 공동 개발한 초대형·경량형 2종의 LLM과 국내 대표 AI 모델인 LG AI연구원의 '엑사원' 등 LLM 라인업을 갖춰 고객 맞춤형 에이전틱 AI 서비스를 만들 수 있는 기반을 마련하게 됐다. 

LG CNS는 이번 LLM 개발을 위해 코히어의 기업용 LLM인 '커맨드' 모델에 LG CNS가 국내 전 산업 분야에서 축적한 정보기술(IT) 전문성과 AI 기술력을 결합했다고 설명했다.

아울러 통상 파라미터 1000억개 이상 LLM에는 최소 4장의 그래픽처리장치(GPU)가 필요한 것으로 알려져 있지만 LG CNS가 이번에 선보인 LLM은 모델 압축 기술을 통해 2장의 GPU만으로 구동이 가능하다. 이를 통해 고객사들은 회사 비즈니스 환경에 최적화된 LLM을 효율적 비용으로 확보하는 동시에 데이터와 인프라 주권을 확보하는 '소버린 AI'를 실현할 수 있다. 

양 사가 이번에 개발한 LLM은 한국어·영어·일본어·중국어는 물론 히브리어·페르시아어 등 소수 언어까지 총 23개 언어를 지원한다. 이 중 한국어 평가 테스트에서는 온프레미스 방식 LLM 중 현존 최고 수준의 성능(SOTA)을 확인했다. 한국어 평가 테스트인 △KMMLU △KO-IFEval에서 글로벌 LLM 대비 최고점을 달성했고 파라미터 규모가 2배 이상 많은 Qwen3보다도 우수한 성능을 보였다. 

LG CNS는 코히어와의 지속적인 협력으로 LLM의 성능을 계속 고도화해나갈 계획이다.

김태훈 LG CNS AI클라우드사업부장은 "차별화된 AI 역량·경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공할 것"이라며 "이를 통해 고객 인공지능 전환(AX)를 선도하는 최고의 파트너로 자리매김할 것"이라고 말했다. 

김근정 기자 / 경제를 읽는 맑은 창 - 비즈니스플러스