"집에서 만든 레시피를 공장 설비에 맞출 필요가 없다. 그릇만 옮기면 바로 대량 생산이 가능한 것과 같다. 시작부터 끝까지 똑같은 도구인 델(Dell)-엔비디아(NVIDIA)를 쓰기 때문에 시간이 획기적으로 줄어든다."
2일 현지시각 스페인 바르셀로나에서 열린 4YFN(4 Years From Now) 컨퍼런스 세션에 참여한 글로벌 AI 혁신 기업들의 반응은 명확했다. 델-엔비디아의 DGX H100이 범용 클라우드나 일반 서버를 사용할 때와는 차원이 다른 연산 성능이 비즈니스의 지표를 완전히 바꿔놓았다는 분석이다.
이번 행사는 델 테크놀로지스와 엔비디아가 공동으로 제시한 ‘엔비디아와 함께하는 델 AI 팩토리’(Dell AI Factory with NVIDIA)가 어떻게 스타트업의 야망을 현실로 만드는지 사례를 밝혔다.
가장 상징적인 성공 사례는 프랑스의 AI 신약 개발 기업 MAbSilico다. 해당 회사는 과거 CPU 기반 시뮬레이션이나 사양이 낮은 GPU 환경에서 항체 구조를 분석해왔다. 계산 한 번에 4주 이상이 소요되었고, 신약 후보 물질 발굴 전체 과정은 10년에 가까운 시간 싸움이었다.
하지만 델 인프라와 결합된 엔비디아 DGX H100 가속 스택을 도입하자 상황은 급변했다. 4주가 걸리던 동일 계산은 2주로 줄었고, 독자적인 AI 필터링을 병행하자 전체 설계 기간이 단 3주로 압축됐다. 뱅상 퓌아르 MAbSilico 대표(CEO)는 “단순히 속도가 빨라진 것이 아니라, 이제는 실제 수익성(Profitability)을 만들어낼 수 있는 비즈니스 속도에 도달한 것”이라고 단언했다.
음성 AI 혁신을 주도하는 스타트업인 Gradium은 ‘예측 가능성’을 핵심 이득으로 꼽았다. 기존 범용 클라우드 인스턴스에서는 사용자 증가에 따라 지연 시간이 들쭉날쭉했고, 발화 후 2초 가까운 정적이 흐르는 등 실시간 서비스에 치명적인 결함이 있었다.
그러나 Dell Precision 워크스테이션과 NVIDIA GPU 기반에서 CUDA Graph 기술을 활용해 백엔드를 재구성하자 지연 시간은 100ms 미만으로 고정됐다. 알렉상드르 데포세 Gradium 보안책임자(CSO)는 “사용자가 1명이든 60명이든 우리 시스템은 이제 ‘시계태엽(Clockwork)’처럼 동일한 속도로 반응한다”고 만족감을 표했다.
보안과 비용의 문제를 해결한 사례도 소개됐다. 유럽 프라이빗 AI 플랫폼 기업 ConfidentialMind의 마르쿠 래세넨 CEO는 “기업 데이터는 ‘비법 소스’와 같아서 외부로 보내는 순간 통제권을 잃는다”며 Dell PowerEdge 서버 위에서 LLM을 직접 구동해 데이터를 내부 경계 안에 가둠으로써 보안과 비용 문제를 동시에 잡았다고 설명했다. 실제 온프레미스 전환 이후 운영 비용은 90% 이상 절감됐다.
에지(Edge) AI 전문 기업 Galene.AI는 최신 하드웨어의 위력을 수치로 증명했다. NVIDIA Blackwell(GB200 등)과 FP4 양자화 기술을 Dell 하이브리드 인프라에 통합한 결과, 안드레아 카펠레티 CEO는 “과거 수 개의 랙(Rack)이 필요했던 거대한 연산량이 이제는 책상 크기의 장비 하나로 가능해졌다”며 이것이 유럽 방식의 강력한 주권 AI라고 강조했다.
존 버튼 Dell 테크놀로지스의 워크스테이션 리드는 “아이디어를 시험하기 위해 비싼 클라우드 예약을 기다리던 시대는 끝났다”며, “이제는 개발자의 책상 위(Deskside)에서 시작해 아무런 플랫폼 변경 없이 그대로 데이터센터로 확장할 수 있는 연속성이 핵심”이라고 밝혔다.
Copyright ⓒ 아주경제 무단 전재 및 재배포 금지
