AI, 똑똑한 건 거기서 거기…삼성·SK '연비 좋은' 메모리 시험대

[이데일리 방성훈 기자] 인공지능(AI) 경쟁의 승부처가 ‘성능’에서 ‘전력 효율’로 옮겨가고 있다. 더 똑똑한 모델을 만드는 경쟁에서 같은 전력으로 더 많은 가치를 뽑아내는 경쟁으로 무게중심이 이동하면서다. AI 핵심 부품인 메모리를 공급하는 삼성전자(005930)와 SK하이닉스(000660)에도 기회이자 시험대가 될 전망이다.

[이데일리 김일환 기자]

신호탄은 아라빈드 스리니바스 퍼플렉시티 최고경영자(CEO)가 쏘아 올렸다. 그는 3일(현지시간) CNBC와의 인터뷰에서 “정확도, 지연 시간, 비용, 보안, 지능을 모두 균형 있게 맞추면서 ‘사용자당, 와트(W)당 토큰 가치’를 극대화하는 기업이 장기적으로 승리할 것이다”고 강조했다. 토큰은 AI가 처리하는 데이터의 기본 단위로, 토큰을 하나 처리할 때마다 전력이 든다. 결국 같은 전력으로 더 많은 결과를 뽑아내는 효율이 경쟁력을 가른다는 의미다.

천문학적 투자가 무한정 이어질 수는 없는 만큼 머지않아 효율을 기준으로 한 ‘AI 옥석 가리기’가 본격화할 것이란 전망도 나온다. 이런 인식은 업계 전반으로 번지고 있다. 일론 머스크 xAI CEO는 올해 초 다보스포럼에서 “전력 제약 탓에 켤 수 있는 것보다 더 많은 칩이 생산될 것”이라고 경고했다. 오픈AI 역시 지난해 10월 백악관에 “전자(electrons)가 새로운 석유”라며 ‘AI 전력 격차’를 우려하는 서한을 보냈다.

말뿐이 아니다. 아마존·구글·메타·마이크로소프트(MS)·xAI·오라클·오픈AI 등 주요 AI 기업들은 안정적 전력 확보를 위해 원자력·가스·태양광 발전 설비를 직접 짓거나 사들이고 있다. 구글은 재생에너지 개발사를 통째로 인수했고 MS는 가동을 멈췄던 미국 스리마일섬 원자력발전소를 되살렸다. 중국도 지난달 사막 지대인 닝샤에 태양광·풍력 발전을 데이터센터에 직접 연결하는 첫 대형 프로젝트를 가동했다. AI 패권 경쟁이 사실상 전력 확보 경쟁으로 번지고 있는 셈이다.

이런 변화는 메모리의 위상도 바꿔놓고 있다. 과거 단순히 데이터를 담아두던 저장장치가 이제는 AI 시스템의 전력 소모와 병목을 푸는 핵심 열쇠로 격상하고 있어서다. 같은 연산을 더 적은 전력으로 처리해야 빅테크의 선택을 받을 수 있는 구조다. 선두는 고대역폭메모리(HBM)다. 삼성전자와 SK하이닉스가 올해 2월 세계 최초로 양산한 6세대 HBM4는 전력 효율을 이전 세대 대비 40% 이상 끌어올렸다. 메모리 내부에 연산 기능을 넣어 데이터 이동을 줄이는 지능형 메모리(PIM)도 부상하고 있다. SK하이닉스는 자사 PIM 제품이 기존 대비 에너지 소모를 80%가량, 삼성전자는 70%가량 줄일 수 있다고 밝혔다.

[이데일리 김일환 기자]

수익 구조도 달라지고 있다. 메모리는 호황과 불황이 번갈아 가격이 출렁이는 대표적 ‘사이클 산업’이었지만 최근 빅테크들이 안정적 물량 확보를 위해 3~5년짜리 장기공급계약(LTA)을 맺는 쪽으로 거래 구조가 바뀌고 있다. 삼성전자는 지난 4월 실적 발표에서 “이미 일부 고객사와 다년 공급계약을 완료했다”고 밝혔고 SK하이닉스도 MS·구글 등과 다년 계약을 협의 중인 것으로 알려졌다. 현재까지 양사 위치는 공고하지만 안심하기엔 이르다는 경고도 나온다. 효율 경쟁이 본격화할수록 관련 기술을 가진 기업과 그렇지 못한 기업의 명암은 더욱 뚜렷하게 갈릴 수밖에 없어서다. 마이크론의 추격에 중국 메모리 기업의 약진, 미국의 대중 수출 통제까지 겹치면서 변수도 늘고 있다.

효율화 무게는 갈수록 더해질 전망이다. 머지않아 엔비디아를 필두로 노트북·스마트폰에서 직접 AI를 돌리는 ‘AI PC’ 시대가 열리면 그동안 데이터센터가 떠안던 전력 부담이 개인에게까지 분산된다. 한정된 배터리로 AI를 구동해야 하는 만큼 같은 전력으로 더 많은 일을 처리하는 메모리 효율의 중요성도 그만큼 커질 수밖에 없다. 데이터센터 냉각기업 리퀴드스택의 케빈 루프 디렉터는 “이제 핵심은 에너지를 덜 쓰는 게 아니라 가능한 한 효율적으로 쓰는 것이다”고 강조했다.