“AI칩 연결해 엔비디아와 맞짱”…반도체 아버지 ‘짐켈러’와 뭉친 이 회사

[이데일리 김현아 기자]

[이데일리 이영훈 기자] AI데이터센터 솔루션 기업 모레 조강원 대표 인터뷰

인공지능(AI) 컴퓨팅 인프라를 장악한 엔비디아. 그러나 엔비디아 A100은 단종됐고, H100과 블랙웰은 가격이 너무 비쌀 뿐만 아니라 구하기도 어렵다. 오죽하면 유상임 과학기술정보통신부 장관이 최근 송년 기자간담회에서 추가경정예산을 요청하며, 5년이 아닌 2년 내에 그래픽처리장치(GPU) 3만 장 확보를 목표로 한다고 밝혔을까.

엔비디아의 GPU가 AI 칩 시장에서 독주하는 이유는 거대언어모델(LLM) 기반의 생성형 AI를 개발하는 데 필요한 방대한 AI 인프라를 엔비디아의 GPU와 플랫폼인 ‘쿠다’가 대부분 해결해주기 때문이다.

LLM을 개발하거나 AI 서비스를 제공하려는 기업, AI 데이터센터를 구축하려는 기업들이 엔비디아 외에 AMD, 인텔, 텐스토렌트와 같은 다른 칩을 사용하면서도 최적화해 쓸 수 있는 방법은 없을까.

이런 고민을 해결해주는 AI 인프라 소프트웨어(SW)를 개발하는 기업이 모레(MOREH)다. 2020년 창업한 모레는 국내 최초의 시스템 소프트웨어 전문 업체로, 엔비디아의 독주를 막을 방법을 제시했다. 조강원 모레 대표(34)를 지난 24일 만났다.

◇수천·수만 개 AI칩을 하나처럼 구동

조 대표는 모레의 기술력에 대해 “엔비디아가 할 수 있는 것도 하고, 못하는 것도 한다”고 했다.

그는 토종 슈퍼컴퓨터 ‘천둥’을 개발한 서울대 매니코어프로그래밍연구단 출신으로, 서울대 컴퓨터공학부 슈퍼컴퓨터 연구실의 15년 이상 연구를 바탕으로 AI시대 클러스터(여러 대의 컴퓨터들이 연결돼 하나의 시스템처럼 동작하는 컴퓨터들의 집합) 솔루션에 있어 글로벌 최고 수준의 기술력을 보유하고 있다.

조강원 대표는 “모레의 소프트웨어는 엔비디아의 ‘쿠다’가 엔비디아 GPU를 통해 계산 자원을 활용할 수 있게 해주는 것처럼, 다른 AI 칩을 사용해도 엔비디아 GPU와 호환되며 성능을 발휘할 수 있도록 지원한다”고 설명하며 “또한, 쿠다가 잘 처리하지 못하는 수천, 수만 개의 AI 칩을 클러스터로 묶어 효율적으로 활용할 수 있는 최적화 기능도 제공한다”고 덧붙였다.

이런 일이 가능한 이유는 모레가 GPU와 신경망처리장치(NPU) 라이브러리부터 분산 런타임 시스템, 자동 병렬화·최적화 컴파일러, 파이토치·텐서플로우 호환 프레임워크, 클라우드 플랫폼까지 모두 새로운 방식으로 개발했기 때문이다. 덕분에 호환성과 확장성을 확보할 수 있었다.

조 대표는 “쿠다가 했던 것처럼, 저희도 파이토치(PyTorch) 응용프로그램인터페이스(API)를 그대로 유지하며 그 아래에 저희가 개발한 소프트웨어 에코시스템을 구축하고 있다”고 설명했다.

파이토치는 딥러닝을 구현하기 위한 파이썬 기반의 오픈소스 머신러닝 라이브러리로, 토종 NPU의 강자 리벨리온이 엔비디아에 대항하기 위해 국내 최초로 ‘파이토치 파운데이션’에 가입할 정도로 AI 칩 확장성 측면에서 주목받고 있다.

[이데일리 이영훈 기자] AI데이터센터 솔루션 기업 모레 조강원 대표 인터뷰

◇짐켈러와 공감한 철학…AMD칩이어 텐스토렌트까지 제휴

모레의 소프트웨어를 활용하면 LLM 개발사나 AI 데이터센터 구축 기업들이 AI 칩을 보다 효율적으로 사용할 수 있다.

조 대표는 “GPU 1,000개를 사용하더라도 50%의 효율로 운영하면 비용이 두 배로 늘어나지만, 100% 효율로 운영하면 비용을 절감할 수 있다”고 설명하며, “오픈AI나 메타 같은 빅테크 기업들은 내부적으로 이런 소프트웨어를 갖추고 있지만, 극소수의 빅테크를 제외하면 대부분은 그렇지 않다. 저희가 그런 부분에서 도움을 드릴 수 있다”고 말했다.

그는 “AI 데이터센터가 엔비디아에 종속돼 인프라를 구축하는 것을 고통스러워 하는 상황이라면, 저희 소프트웨어를 통해 여러 종류의 GPU를 마치 하나의 칩처럼 사용할 수 있다. 가상화 디바이스 형태로 제공된다”고 덧붙였다.

이처럼 더 적은 비용과 더 적은 엔지니어로 수천, 수만 장의 AI 서버를 운영하는 걸 돕는 기술력 덕분에 모레가 KT와 협력해 제공하는 AMD GPU서비스(하이퍼스케일 AI컴퓨팅·HAC)는 현재까지 100곳이 넘는 곳이 고객이다. AMD는 KT, 스마일게이트인베스트먼트, 포레스트파트너스 등과 함께 모레 투자자로 참가하기도 했다.

11월 4일 저녁 서울시 서초구 소재 모레 사무실에서 진행된 모레와 텐스토렌트의 업무 협약식. (사진 왼쪽부터 모레 조강원 대표, 텐스토렌트 CEO 짐 켈러) 사진=모레

모레는 AMD의 전설적인 인물이자 반도체의 아버지로 알려진 짐 켈러(Jim Keller)가 CEO로 있는 캐나다 반도체 회사 텐스토렌트(Tenstorrent)와도 공동 개발을 진행하고 있다.

양사는 내년 1분기를 목표로 AI 데이터센터 솔루션을 개발 중이다. 텐스토렌트는 최근 6억 9300만 달러(약 9728억 원)를 추가로 유치하기도 했다. 짐 켈러는 AMD, 테슬라, 애플에서 CPU와 AI 반도체 개발을 이끌었던 인물이다.

조강원 대표는 짐 켈러를 처음 만났을 때 “생각보다 소프트웨어에 대한 고민이 많으시더라”고 전하며, “텐스토렌트 역시 칩 하나로 엔비디아 GPU와 경쟁하려는 것이 아니라, 칩 4개를 사용해 엔비디아 GPU와 동일한 성능을 내는 것을 목표로 하고 있더라. 이를 통해 엔비디아 GPU보다 더 싸고 효율적으로 만드는 방법을 모색하려는 칩의 철학과 방향성에 공감했다”고 전했다.

[이데일리 이영훈 기자] AI데이터센터 솔루션 기업 모레 조강원 대표 인터뷰

◇또 다른 도전 AI모델 개발…별도 회사 설립

모레는 AI 인프라 소프트웨어 외에도 최근 AI 파운데이션 모델(LLM)인 ‘Motif’를 개발해 허깅페이스에 오픈소스로 공개하며 새로운 도전에 나섰다.

이 모델은 1020억 개의 매개변수(파라미터)를 가지고 있다. 내년에는 데이터 보안이 중요한 공공 및 금융 등 특화 시장을 겨냥한 마케팅을 본격적으로 추진할 예정이다.

조 대표는 AI 모델 개발에 나선 이유에 대해 “처음에는 저희가 만든 AI인프라 소프트웨어를 썼을 때 엔비디아처럼 AI모델이 잘 구워지는가에 대한 관심에서 시작했다”고 미소 지으면서 “그런데 오픈AI나 구글이 LLM을 잘 하는 이유는 바로 인하우스 소프트웨어 덕분이다. 똑같은 트랜스포머 모델을 써도 실제로 AI를 돌리는데 있어 비용과 에러를 줄이는 인프라 소프트웨어가 중요하다”고 설명했다.

모레는 ‘내일보다 좀 더 먼 미래’를 의미하는 이름을 가진 회사다. 2020년 9월 설립 당시, 조강원 대표와 함께 SK 최태원 회장의 맏사위인 베인앤컴퍼니 출신의 윤도연 대표가 공동 대표를 맡았으나, 2023년부터 조강원 대표 단독 체제로 전환됐다.

모레의 본사는 미국에 있으며, 한국과 베트남에도 사무소를 운영하고 있다. 전체 직원 120명 중 53명이 석·박사급 인재로 구성돼 있다.

누적 투자금액은 약 3000만 달러(약 436억원)에 달하며, 최근에는 조형근 최고전략책임자(CSO·41)를 영입해 AI 데이터센터 솔루션과 초거대 AI 플랫폼 시장에서 본격적인 활동을 예고하고 있다.