삼성SDS가 국내 최초로 엔비디아의 최신 GPU 'B300'(Blackwell Ultra) 기반 GPU 구독형 서비스(GPUaaS)를 선보이며 기업용 AI 인프라 시장 공략에 나섰다.
삼성SDS는 자사 클라우드 서비스인 SCP(삼성 클라우드 플랫폼)를 통해 'B300 GPUaaS'를 출시했다고 23일 밝혔다. 이번 서비스는 최근 기업들이 AI 모델 개발 단계를 넘어 실제 서비스 적용을 의미하는 'AI 추론' 단계로 빠르게 진입하면서 증가하는 고성능 컴퓨팅 수요에 대응하기 위해 마련됐다.
B300 GPU는 12단 HBM3E(고대역폭메모리)를 탑재해 GPU당 288GB 메모리와 초당 8TB 대역폭을 제공한다. 이는 기존 H100 대비 메모리 용량은 3.6배, 대역폭은 2.4배 향상된 수준으로, 대규모 언어 모델(LLM) 구동 시 발생하는 데이터 병목 현상을 크게 줄일 수 있다는 설명이다.
기존에는 GPU의 연산 처리 속도에 비해 메모리 데이터 전송 속도가 느려 전체 성능이 저하되는 문제가 있었지만, B300 도입으로 이러한 한계를 개선해 AI 추론 성능을 한층 끌어올릴 수 있게 됐다.
삼성SDS는 2021년 A100, 2023년 H100 기반 GPUaaS를 선제적으로 도입하며 GPU를 AI 전용 인프라로 활용하는 클라우드 생태계 구축을 주도해왔다. 이번 B300 GPUaaS 출시로 한층 고도화된 AI 인프라를 제공한다는 전략이다.
B300 GPUaaS를 도입한 기업은 고용량 메모리를 기반으로 대규모 AI 모델을 효율적으로 처리할 수 있어 AI 에이전트, 이미지·영상·코드 생성 및 분석 등 고성능이 요구되는 서비스의 지연 시간을 최소화할 수 있다.
또한 구독형 과금 모델을 통해 필요한 만큼만 사용하고 비용을 지불함으로써 초기 투자 부담을 낮추고 비용 효율성을 높일 수 있다. GPU 수급이 어려운 상황에서도 최신 아키텍처를 즉시 도입할 수 있으며, 삼성SDS의 보안 역량이 결합된 클라우드 환경에서 민감한 데이터를 안전하게 처리할 수 있다는 점도 강점으로 꼽힌다.
삼성SDS는 향후 AI 서비스 라인업도 확대할 계획이다. 올해 3분기에는 별도의 인프라 사용료 없이 사용한 토큰량만큼 비용을 지불하는 '서버리스(Serverless) 추론 서비스'와, 개발자가 코드와 데이터를 입력하면 자동으로 분산 학습을 수행하는 'AI 학습 서비스'를 출시할 예정이다.
이호준 삼성SDS 클라우드서비스사업부장(부사장)은 "SCP가 보유한 자원 최적화 및 에너지 절감 기반의 GPU 효율화 역량을 바탕으로 대기업, 중견·중소기업, 공공기관 등 다양한 고객에게 국내 최초 B300 GPU 서비스를 제공해 AX 전환을 적극 지원하겠다"고 말했다.
한편 삼성SDS는 민관협력형(PPP) 클라우드 서비스 사업자로서 대구센터에 H100 기반 GPUaaS를 도입했으며, 범정부 초거대 AI 공통기반 구축과 지능형 업무관리 플랫폼 개발 등 다양한 정부 AI 사업을 수행하고 있다. 또한 과학기술정보통신부 주관 고성능 컴퓨팅 지원사업의 클라우드 서비스 제공사(CSP)로 참여해 60여 개 AI 관련 중소기업, 스타트업, 연구기관, 대학 등에 GPU를 공급하는 등 GPUaaS 사업을 확대하고 있다.
박성대 기자 / 경제를 읽는 맑은 창 - 비즈니스플러스
Copyright ⓒ 비즈니스플러스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
