삼성SDS, 국내 최초 엔비디아 B300 탑재 'GPUaaS' 본격 가동

삼성SDS가 자사 클라우드 플랫폼인 삼성 클라우드 플랫폼(SCP)을 통해 엔비디아(NVIDIA)의 최신 장비인 B300 기반의 구독형 서비스인 GPUaaS를 출시했다. 사진 삼성SDS [뉴스락]

[뉴스락] 삼성SDS가 인공지능(AI) 서비스의 핵심 인프라로 꼽히는 고성능 그래픽처리장치(GPU) 기반 클라우드 서비스를 국내에서 처음으로 선보이며 기업들의 AI 전환 지원에 나선다.

삼성SDS가 자사 클라우드 플랫폼인 삼성 클라우드 플랫폼(SCP)을 통해 엔비디아(NVIDIA)의 최신 장비인 B300 기반의 구독형 서비스인 GPUaaS를 출시했다고 23일 밝혔다.

이번에 도입된 B300은 12단 고대역폭메모리(HBM3E)를 장착해 단일 기기당 288GB의 넉넉한 용량과 초당 8TB 수준의 데이터 처리 통로를 확보했다. 기존 모델인 H100과 비교해 용량은 3.6배, 처리폭은 2.4배 가량 대폭 개선된 수치다. 이를 통해 대규모언어모델(LLM)을 구동할 때 발생하던 데이터 지연 현상을 크게 줄여 복잡한 연산 환경을 최적화했다.

그동안 삼성SDS는 고사양 장비를 선제적으로 도입하며 관련 생태계를 주도해왔다. 새롭게 선보이는 이번 서비스를 이용하면 방대한 메모리를 바탕으로 무거운 AI 모델을 가볍게 다룰 수 있게 된다. 특히 이미지나 영상 생성, 코드 분석 등 즉각적인 반응이 필수적인 영역에서 작업 시간을 대폭 단축할 수 있다.

기업 입장에서는 필요한 만큼만 빌려 쓰는 방식을 통해 초기 인프라 구축에 들어가는 막대한 비용 부담을 덜 수 있다. 전 세계적인 품귀 현상 속에서도 최신 장비를 곧바로 실무에 투입할 수 있다는 점이 큰 장점이다. 아울러 회사가 자랑하는 강력한 보안 시스템이 적용되어 핵심 기술이나 중요 정보 유출에 대한 우려도 덜었다.

향후 삼성SDS는 인프라 비용 없이 실제 사용량에 대해서만 과금하는 서버리스(Serverless) 방식의 추론 기능과 개발 효율을 높이는 자동 분산학습 기능을 올해 3분기 내에 추가로 선보일 방침이다.

이호준 삼성SDS 클라우드서비스사업부장(부사장)은 "SCP가 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견/중소, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초 B300 GPU 서비스를 제공해 AX 전환을 적극 지원하겠다"고 강조했다.