스스로 생각·행동 'AI 에이전트', 기존 AI보다 전력 136배 사용

인공지능(AI)이 스스로 생각하고 행동하는 'AI 에이전트'는 기존 생성형 AI보다 질문 한 건당 최대 136.5배 많은 에너지를 사용하는 것으로 나타났다.

연구팀은 AI 에이전트를 단순한 프로그램이 아니라 데이터센터의 서버와 GPU(대규모 AI 계산을 수행하는 고성능 반도체)가 지속해 처리해야 하는 새로운 형태의 작업인 워크로드(컴퓨터가 수행해야 하는 전체 계산 작업)로 정의하고, 실제 실행 과정에서 발생하는 계산량과 에너지 소비를 분석했다.

분석 결과, AI 에이전트는 기존의 단계별 추론(CoT·AI가 사람처럼 생각 과정을 하나씩 전개하며 답을 찾는 방식)과 달리 반복적으로 여러 차례 대형 언어 모델 호출(AI가 언어 모델에 새로운 판단이나 답변 생성을 요청하는 계산 과정)을 수행하는 것으로 나타났다.