[아이뉴스24 안세준 기자] "퀄컴은 (AI) 모델을 만들지 않는다. 메타, 마이크로소프트 등과의 협업을 통해 퀄컴 플랫폼에서 그들의 모델이 실행될 수 있도록 돕고 있다."
21일 오후(현지시각) 하와이 마우이 스냅드래곤 서밋 2024 현장에서 비네쉬 수쿠마 퀄컴 제품 관리 부문 시니어 디렉터는 국내 취재진과 만나 퀄컴은 자체 AI 모델을 만들지 않느냐고 묻는 질의에 대해 이같이 답했다.
오픈AI(OpenAI)는 챗GPT를, 메타는 라마를, 구글은 제미나이를 만들었다. 퀄컴은 모델 압축, 경량화 기술 개발 등에 나서는 등 각 기업들이 서비스를 안정적으로 제공하기 위한 인프라 제공에 앞장서고 있지만 모델을 직접 만들진 않았다.
퀄컴은 소비자가 아닌 기업을 대상으로 하는 B2B 기업이다. 자체 모델이 아닌 고객인 각 기업들이 그들의 모델을 원활히 실행할 수 있도록 인프라를 제공하겠다는 게 비네쉬 수쿠마 퀄컴 제품 관리 부문 시니어 디렉터의 설명이다.
퀄컴은 온디바이스 AI 등 기술에 주력하고 있다. 퀄컴의 AI를 향한 여정만 15년 이상이다. 관련해 비네쉬 수쿠마 시니어 디렉터는 "퀄컴은 생성 AI에도 많은 투자를 진행하고 있다. 스냅드래곤 팀은 이용자 경험을 개선하고 있고 하드웨어, 소프트웨어 전체 영역에 투자한다. 퀄컴은 인력에 투자하고 있다"고 말했다.
다음은 비네쉬 수쿠마 퀄컴 제품 관리 부문 시니어 디렉터와의 일문일답이다.
Q> 퀄컴은 삼성전자, 샤오미 등과 AI 협업하고 있다. 갤럭시S25나 엘리트 플랫폼 관련 등 향후 발전방향이 궁금하다.
A> 퀄컴은 소프트웨어에 국한하지 않고 하드웨어까지 전체 스택을 지원하고 있다. 우리는 업계 최초로 INT4 기반 LLM을 구현했다. 메모리 대역폭을 개선하면 토큰 속도에 영향을 주기 때문에 LPDDR5X도 지원한다. 특별히 삼성 S25에 대해 답할 포지션은 아니다. 샤오미 역시 답할 것이 없다. 그들이 추후 발표할 것이다.
Q> 삼성전자는 올해 말까지 온디바이스 AI 기기 2억대 보급한다고 발표했다. 퀄컴은 AP 기준으로 어느 정도 보급했다는 댓수가 있나.
A> 스냅드래곤 기기는 AR VR 히어러블 웨어러블 핸드셋 PC 오토모티브 ADAS 모뎀을 전체 규모를 보면 수십억 대라 숫자가 많다. 퀄컴은 여러 엣지 디바이스에서, 유즈케이스에서 풋프린트를 가지고 있다.
Q> 자동차에 생성 AI에 결합된다면 어떤 것을 얻을 수 있나
A> 생성 AI는 자동차 환경에서 많은 것을 할 수 있다. 장거리 운전하거나 모르는 곳으로 가야 할 때 설명해 달라고 할 수 있다. 영상 입력을 바탕으로 앞에 보이는 것을 설명해 줄 수 있다.
또 다른 예는 장거리 운전으로 숲 같은 곳을 갈 때 안의 디스플레이를 변환해 보다 나은 경험을 줄 수 있다. 생성 AI로 만들어진 이미지를 표시할 수도 있다. 경고등이 뜨면 설명서를 찾아 봐야 하던 것에서 벗어나 인텔리전트 오디오 등을 이용해 차에 직접 물어 보는 등 여러 유즈케이스를 얻을 수 있다.
Q> 퀄컴 AI 허브의 성과는?
A> 퀄컴의 AI 허브 의도는 AI 모델을 최대한 쉽게 하는 것이다. 퀄컴 AI 허브를 올해 3월에 출시하고 개방했다. 윈도우 먼저 시작했고 임베디드는 6월에 시작했다. 짧은 시간 안에 AI 허브는 좋은 성과를 이뤘다고 생각한다.
Q> 자체 AI 모델을 개발하지 않는 이유는. 협업만 하는 것이 올바른 전략이라 보는가
A> AI에 있어 중요한 것은 인프라다. 퀄컴은 하드웨어와 소프트웨어, 라이브러리 등 전체 스택에 투자한다. 모든 개발자, 커뮤니티에 혁신을 오픈하는 것이다. 퀄컴은 (AI) 모델을 만들지 않는다. 메타, 마이크로소프트 등과의 협업을 통해 퀄컴 플랫폼에서 그들의 모델이 기기에서 실행될 수 있도록 돕고 있다.
Q> 모바일 환경에서는 현재 INT4, INT8 등이 주류다. 이미지 생성에서 FP16 지원하면 더 나은 결과물을 얻을 수 있을 것으로 보이는데.
A> 퀄컴은 INT4, INT8, FP16 모두 처리한다. 유즈케이스에 따라 다르다. 예를 들어 많은 이미지 처리는 FP16이 낫다. 디테일과 다이나믹 레인지를 LLM은 생산성 유즈케이스이며, 700억 param 모델은 30GB를 차지한다. 이를 INT4로 낮추면 관리 가능한 영역으로 간다.
Q> 퀄컴은 오라이온 CPU를 내기 전, 누비아를 인수했다. AI 분야에서 눈여겨 보는 스타트업이 있나
A> 우리는 인수합병에 대해 답변하지 않는다. 하지만 추천 기업이 있다면 알려달라.
Q> LG전자가 칩렛 기술 적용해서 가정용 온디바이스 AI 칩 개발한다고 했다. 퀄컴은 스마트폰, PC, 자동차로 생태계를 확장하고 있다. 가전이나 TV 시장에서 온디바이스 AI 성장 가능성은?
A> LG전자에 대해서 답변할 수는 없다. 다만 온디바이스 AI는 모든 소비자 가전에 투입되고 있다. 스마트폰, PC, 스마트빌딩, IoT 등으로 확장 중이다. TV 역시 음성 명령이나 동작 인식 등 온디바이스는 거의 많은 시장에 도입되고 있다.
Q> 퀄컴은 AI에 투자를 하고 있다. 내부 관련 조직 규모가 10년 대비 얼마나 성장했나?
A> 퀄컴의 AI를 향한 여정은 15년 이상이다. 생성 AI에도 많은 투자한다. 퀄컴에게 스냅드래곤 팀은 이용자 경험을 개선하고 있고 하드웨어 소프트웨어 전체 영역에 투자한다. 퀄컴은 인력에 투자하고 있다.
AI 보안과 관련 기술 서비스 정책 면에서 어떤 것을 준비하고 있나
A> 퀄컴은 책임있는 AI가 중요하다. 데이터 관리와 큐레이션 등 편향 제거 역시 중요하다. 마지막으로 프라이버시와 보안이다. 매우 중요한 요소이며 우리가 수집한 모든 정보는 기기에 남아야 한다. 이에 대해 많은 투자가 진행 중이다.
Copyright ⓒ 아이뉴스24 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
지금 쿠팡 방문하고
2시간동안 광고 제거하기!
