| 서울=한스경제 고예인 기자 | 엔비디아가 서울대학교에서 차세대 AI 모델 ‘네모트론(Nemotron)’을 공개하며 AI 경쟁의 축이 근본적으로 이동하고 있음을 드러냈다. 단순 성능 경쟁을 넘어 비용·속도·시스템 구조를 아우르는 ‘설계 경쟁’으로 전환되고 있다는 분석이다.
엔비디아는 22일 서울대학교 해동첨단공학관에서 ‘NVIDIA Nemotron Developer Days Seoul 2026’ 리서치 인바이티드 토크를 열고 차세대 AI 기술 방향을 제시했다. 발표는 브라이언 카탄자로 엔비디아 응용 딥러닝 연구 부문 부사장이 맡았다.
이날 발표에서는 AI가 단일 모델 성능 중심의 경쟁 단계를 넘어 실제 산업 환경에서 운영되는 복합 시스템으로 진화하고 있다는 점이 강조됐다. 처리 속도와 비용, 시스템 안정성을 동시에 고려해야 하는 구조로 변화하고 있다는 설명이다.
▲ “속도와 비용은 반비례”…AI 구조적 한계 드러나
카탄자로 부사장은 AI 시스템이 비용과 속도 사이에서 균형을 맞춰야 하는 구조적 한계를 갖고 있다고 설명했다. 전체 처리량을 높이고 토큰당 비용을 낮출수록 더 많은 사용자를 동시에 처리할 수 있지만 개별 사용자 기준 응답 속도는 느려질 수밖에 없다는 것이다.
이는 클라우드 기반 AI 서비스 확대와 함께 불가피하게 나타나는 구조로 AI 경쟁이 모델 성능을 넘어 시스템 설계 역량으로 이동하고 있음을 보여준다. 업계에서는 이를 두고 AI 경쟁의 본질이 알고리즘에서 운영 효율로 이동하고 있다는 평가가 나온다.
▲ 에이전트 AI 등장…'예측 불가능성' 새로운 과제
이날 발표에서는 ‘에이전트 AI’ 구조가 주요 변화로 제시됐다. 기존 언어모델이 한번의 입력으로 답을 생성하는 방식이었다면 에이전트 AI는 여러 단계를 거쳐 반복적으로 작업을 수행하는 구조다. 외부 도구를 호출하고 결과를 다시 모델에 입력하는 과정이 반복된다.
문제는 이 과정에서 입력과 출력의 길이 연산 패턴이 일정하지 않다는 점이다. 카탄자로 부사장은 이러한 구조가 계산적으로 불규칙하고 예측이 어렵다는 점을 지적하며 실제 서비스 환경에서 시스템 설계를 복잡하게 만드는 요인이라고 설명했다. 이는 향후 AI 상용화 과정에서 핵심 기술 과제로 작용할 전망이다.
▲ 멀티토큰·MoE…“효율이 곧 지능”
엔비디아는 이러한 문제를 해결하기 위한 기술로 네모트론의 핵심 아키텍처를 공개했다. 멀티 토큰 예측(MTP)은 여러 토큰을 동시에 생성해 추론 속도를 높이는 방식으로 응답 지연을 줄이면서도 성능을 유지하도록 설계됐다.
또 Latent MoE 구조를 통해 동일한 연산 비용에서도 더 많은 전문가 모델을 활용할 수 있도록 했다. 효율성을 높이면서도 모델 성능을 강화하는 접근이다.
여기에 상태공간모델 기반 Mamba-2 구조를 결합해 일부 구간에서만 어텐션을 활용하는 하이브리드 구조도 제시됐다. 이는 연산 비용과 메모리 사용량을 줄이면서 성능을 유지하는 데 초점이 맞춰져 있다.
▲ “AI는 5층 산업”…생태계 주도권 경쟁 본격화
엔비디아는 AI 산업을 전력·반도체·인프라·모델·애플리케이션으로 이어지는 ‘5개 층 구조’로 설명했다. 이는 AI 경쟁이 데이터센터 전력과 시스템 효율, 인프라까지 확장되고 있음을 의미한다. 대규모 AI 모델 운영이 확대되면서 전력과 인프라 확보가 핵심 변수로 부상하고 있다는 점이 강조됐다.
엔비디아는 ‘네모트론 연합(Nemotron Coalition)’을 통해 글로벌 협력 체계를 구축하고 있다는 점도 공개했다. 오픈 프론티어 AI 모델 발전을 위해 다양한 기업과 협력하는 구조로, 생태계 기반 경쟁을 가속화하겠다는 전략이다.
업계에서는 이를 두고 엔비디아가 단순 반도체 기업을 넘어 AI 생태계 전반을 주도하려는 움직임으로 보고 있다.
▲ '속도 vs 종속'…한국 AI의 선택
현장에서는 국내 AI 기업들이 글로벌 플랫폼을 활용해 개발 속도를 확보하는 흐름이 확산되고 있다는 점도 확인됐다. 다만 장기적으로는 특정 플랫폼 의존도가 높아질 수 있다는 점에서 구조적 리스크도 제기된다.
업계 관계자는 “AI 경쟁이 데이터와 인프라, 생태계를 포함한 종합 경쟁으로 전개되고 있다”고 분석했다.
이번 서울대 발표는 AI 산업의 주도권이 ‘칩’에서 ‘구조’로 이동하고 있음을 보여준 사례로 평가된다. 앞서 엔비디아는 전날 서울 마포구 디캠프에서 ‘네모트론 디벨로퍼 데이즈 서울 2026’ 행사를 열고 국내 AI 기업 및 개발자들과 협력 확대 방안을 공유했다.
이 행사에서는 네이버 클라우드·LG AI연구원·SK텔레콤 등 주요 기업들이 참여해 산업별 AI 모델 구축 사례를 소개하고 소버린 AI 전략과 글로벌 시장 진출 방향에 대한 논의가 이뤄졌다. 이를 통해 엔비디아는 연구 중심 기술 발표를 넘어 실제 산업 적용과 생태계 확장까지 이어지는 ‘현장형 AI 전략’을 강화하고 있다는 점을 강조했다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
