오픈AI, 소프트웨어만으로 추론 비용 절반 줄였다
오픈AI, 소프트웨어만으로 추론 비용 절반 줄였다 / AI 생성 일러스트(삽화).
더 인포메이션 보도에 따르면, 오픈AI 엔지니어들은 새로 발견한 최적화 기법을 통해 추론 비용을 절반 이상 낮추는 방법을 찾아냈다.
소프트웨어 전략과 하드웨어 전략의 병행 오픈AI는 추론 비용 절감을 위해 소프트웨어 최적화와 함께 자체 칩 개발도 병행하고 있다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “위키트리” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
