“엔비디아 안 부럽다”... 베일 벗은 토종 AI 칩, 초거대 모델 한 장으로 돌렸다 [only 이데일리]
퓨리오사AI가 멀티카드 기반 확장성을 입증했다면, 리벨리온은 단일 칩만으로 초거대 언어모델을 구동하며 높은 추론 성능을 보여줬다는 평가다.
리벨리온은 1200억 개 매개변수 규모의 초거대 모델을 BF16 환경에서 단일 칩으로 구동하면서도 높은 처리량을 확보했다.
업계 관계자는 “이번 시범 검증에서 가장 눈에 띄는 부분은 리벨리온이 훨씬 무거운 1200억 개 규모 모델을 단일 칩으로 구동하면서도 높은 처리량과 응답 속도를 보여줬다는 점”이라며 “동일 조건 비교는 아니지만 R100의 하드웨어 잠재력이 상당하다는 점은 분명히 확인된 결과”라고 말했다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “이데일리” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
