래블업, 엔비디아 AI 서밋 재팬 참가해 '백엔드닷AI' 선봬

[사진=래블업]

인공지능(AI) 플랫폼 기업 래블업은 일본 도쿄에서 개최되는 '엔비디아 AI 서밋'에 참가한다고 11일 밝혔다.

엔비디아 AI 서밋은 AI와 가속 컴퓨팅 기술의 최신 동향을 비롯한 실제 활용 사례를 소개하며 과학, 헬스케어, 지속 가능성 등 다양한 분야의 전문가들과 업계 리더들이 모여 AI의 미래와 영향력에 대해 논의하는 자리다. 올해는 미국과 인도에 이어 일본에서 개최됐다.

이번 엔비디아 AI 서밋 재팬에는 엔비디아 창업자이자 CEO인 젠슨 황, 일본 소프트뱅크의 손정의 회장이 나란히 참석해 AI와 가속 컴퓨팅이 변화시킬 산업에 대한 대담을 진행한다. 3000여명이 넘는 인원이 참가 신청한 이번 행사는 오는 12일 워크숍을 필두로 생성 AI, 산업 디지털화, 로보틱스, 초거대언어모델(LLM)을 주제로 50여개 이상의 다양한 세션과 라이브 데모가 진행된다.

총 62개사가 참여하는 이번 행사에 래블업은 엔비디아 인셉션 파트너로 참가한다. 래블업은 자사의 하이퍼스케일 AI 플랫폼, 백엔드닷AI(Backend.AI)와 인퍼런스 솔루션인 빨리(PALI)를 엔비디아 GH200 그레이스 호퍼(Grace Hopper) 슈퍼칩 위에서 구동한다. 이를 토대로 NIM(엔비디아 인퍼런스 마이크로서비스)을 통해 AI 기술을 효과적으로 활용하는 방법에 대한 데모를 선보인다. 백엔드닷AI는 DGX 시스템 클러스터를 비롯해 가장 최신의 엔비디아 그레이스 CPU 슈퍼칩에서까지 대규모 AI와 가속 컴퓨팅 애플리케이션을 위한 컴퓨팅 자원을 최적화하고 관리하며 GPU의 사용성을 끌어올리는 AI 플랫폼이다.

신정규 래블업 대표는 "이번 엔비디아 AI 서밋을 통해 래블업이 엔비디아와 함께 백엔드닷AI 기반의 초거대 AI 모델 개발뿐 아니라 빨리, 빨랑(PALANG)으로 생성AI 서비스 운영의 효율을 극대화하는 사례를 소개하게 됐다"며 "PC 및 중소 규모 기관의 자체 AI 활용부터 GPU 하이퍼스케일러의 AI 서비스 운영까지 다양한 스케일에 모두 대응하는 AI 인프라 운영 시스템 백엔드닷AI의 강점을 널리 알리고자 한다"고 말했다.