|
아라빈드 스리니바스 퍼플렉시티 최고경영자(CEO)는 3일(현지시간) CNBC와의 인터뷰에서 “정확도, 지연 시간, 비용, 보안, 지능을 모두 균형 있게 맞추면서 ‘사용자당, 와트(W)당 토큰 가치’를 극대화하는 기업이 장기적으로 승리할 것이다”고 강조했다. 토큰은 AI가 처리하는 데이터의 기본 단위로, 토큰마다 처리에 전력이 든다. 결국 같은 전력으로 더 많은 결과를 뽑아내는 효율이 기업의 경쟁력을 가른다는 의미다.
웨이저자 TSMC 회장도 같은 날 대만에서 열린 주주총회에서 “소비자·기업·국가 차원에서 AI 모델 채택이 늘고 있다”며 “이러한 흐름 아래 더 큰 컴퓨팅 파워 수요로 이어지고 있다”고 말했다. AI 연산 수요가 폭발할수록 이를 감당할 전력 부담도 커져 ‘전력을 얼마나 잘 쓰느냐’가 핵심 화두로 떠오르고 있다는 것이다. 이런 흐름은 메모리 업계에도 영향을 미칠 전망이다. 과거 단순 저장장치에 머물던 메모리가 AI 시스템의 전력 병목을 푸는 열쇠로 격상해서다. 삼성전자와 SK하이닉스가 올해 2월 세계 최초로 양산한 6세대 고대역폭메모리(HBM4)는 전력 효율을 이전 세대 대비 40% 이상 끌어올렸다.
Copyright ⓒ 이데일리 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
