퀄컴, 스냅드래곤 기반 기기에 메타의 '라마3' 구동 지원 협력

퀄컴과 메타는 스냅드래곤 기기에서 메타 '라마3' 거대언어 모델을 최적화하기 위해 협력
업계 최고 수준의 NPU, CPU, GPU 기술을 혼합한 퀄컴 테크놀로지스의 온디바이스 AI 기능

[포인트경제] 퀄컴과 메타는 스마트폰, PC, VR/AR 헤드셋, 차량 등에서 직접 메타 '라마3(Llama3)' 거대언어모델 실행을 최적화하기 위한 협력을 발표했다.

'라마3'는 '라마2'에 비해 데이터는 7배 이상 코드는 4배 이상의 많은 양을 처리하고 구글 '제미나이' 등과 비교 시험에서도 우수한 응답성 및 안정성 등을 기록했다.

퀄컴이 메타 라마3를 스냅드래곤 기반 기기에서 지원한다고 밝혔다. ⓒ퀄컴 (포인트경제)

두르가 말라디(Durga Malladi) 퀄컴 테크놀로지스 수석 부사장 겸 기술·기획·엣지 솔루션 총괄은 "라마 3으로 개발자들에게 힘을 실어주고 AI 혁신에 박차를 가하겠다"고 말했다. "퀄컴은 엣지에 위치하는 다양한 기기 접근성과 함께 온디바이스 AI 분야 리더십을 통해 라마 생태계를 확대하고, 고객·협력사·개발자가 획기적인 AI 경험을 느낄수 있도록 할 것"이라고 덧붙였다.

관계자는 "이 협력은 파트너사·개발자들이 다가오는 플래그십 스냅드래곤 플랫폼으로 구동되는 기기에서 라마3에 접근할 수 있도록 함으로써 생성형 AI 기능에 사용을 자유롭게 하는 것을 목표로 하며, 퀄컴의 강력한 이종 컴퓨팅 아키텍처를 활용하여 업계 최고의 CPU, GPU 및 NPU를 최첨단 메모리 아키텍처와 원활하게 활용하여 고객, 파트너 및 개발자가 애플리케이션 성능, 열 효율성 및 배터리 수명을 극대화할 수 있도록 지원한다"고 전했다.

퀄컴은 현재 100여개 이상의 최적화 AI 모델을 지원하는 퀄컴 AI 허브를 통해 스냅드래곤 플랫폼에서 '라마3'를 구동하는 데 필요한 개발툴과 자원 등을 제공할 예정이다.