애플, AI 모델 압축 스타트업과 협상…"온디바이스 AI"
애플이 인공지능(AI) 시리(Siri)를 대폭 압축해 메모리 사용량을 최대 15배 절감하면서도 아이폰에서 직접 실행할 수 있도록 한다고 주장하는 스타트업과 논의 중인 것으로 알려졌다.
프리즘ML은 이 방식을 활용하면 통상 그래픽처리장치(GPU) 8개가 필요한 클라우드용 모델을 GPU 1개로 구동할 수 있고, 한때 서버가 있어야 구동되는 모델을 스마트폰과 노트북으로 옮길 수도 있다고 설명했다.
스마트폰 등 기기에 필요한 메모리 용량이 줄어들 경우 고대역폭메모리(HBM) 중심의 수요 확대 전망이 흔들릴 수 있다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “연합뉴스” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
