바이트댄스, 10조 파라미터 AI모델 훈련…미토스5급 노린다
바이트댄스(ByteDance)가 최대 10조 개에 달하는 파라미터를 지닌 초대형 인공지능(AI) 모델을 훈련하고 있는 것으로 전해졌다.
이번에 훈련 중인 모델은 아직 초기 사전훈련(pre-training) 단계로, 현재까지 공개된 중국산 모델 중 가장 큰 문샷AI의 키미 K3(Kimi K3)보다 3배 이상 큰 규모다.
바이트댄스의 신형 모델이 최종적으로 10조 개에 가까운 규모로 완성된다면 미토스 5보다도 큰 파라미터 수를 갖게 되는 셈이다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “위키트리” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
