기업 인공지능(AI) 활용이 단순 대화형 챗봇을 넘어 실제 업무를 수행하는 ‘멀티 에이전트’ 체계로 빠르게 이동하고 있다는 분석이 나왔다.
데이터 및 AI 기업 데이터브릭스(Databricks)는 최근 ‘AI 에이전트 현황(State of AI Agents)’ 보고서를 발표하고, 전 세계 기업들이 협업형 AI 에이전트 시스템을 중심으로 운영 구조를 재편하고 있다고 진단했다.
이번 보고서는 포춘 500대 기업의 60% 이상을 포함해 전 세계 2만 개가 넘는 데이터브릭스 고객사의 실제 사용 데이터를 기반으로 작성됐다. AI 에이전트가 기업 조직 전반에서 어떤 방식으로 확산되고 있는지, 데이터 아키텍처와 생성형 AI가 어떤 경로로 상용 단계에 진입하고 있는지를 수치로 분석했다는 점이 특징이다.
보고서에 따르면 기업들은 단일 챗봇 형태의 AI에서 벗어나, 각 업무 영역에 특화된 여러 AI 에이전트가 협업하는 구조를 빠르게 도입하고 있다. 멀티 에이전트 AI 시스템 사용량은 불과 4개월 만에 327% 증가했다.
실시간 처리 비중도 크게 늘었다. 전체 AI 요청 가운데 96%가 실시간으로 처리되고 있으며, 아시아태평양(APAC) 지역만 놓고 보면 실시간 처리 비율이 82%에 달했다. 고객 응대, 업무 보조 코파일럿, 개인화 서비스 등 즉각적인 응답이 요구되는 영역에서 AI 에이전트 활용이 빠르게 자리 잡고 있다는 의미다.
AI 에이전트의 역할은 단순 자동화 수준을 넘어 핵심 엔지니어링 영역으로 확장되고 있다. 보고서는 전체 데이터베이스의 80%가 AI 에이전트를 통해 생성되고 있으며, 테스트·개발 환경에서는 그 비중이 97%에 이른다고 밝혔다.
데이터브릭스는 이를 두고 자율적 처리와 실시간 응답을 전제로 설계된 ‘AI 레디 데이터베이스’ 수요가 본격적으로 늘어나고 있다고 분석했다. AI가 단순히 데이터를 활용하는 도구를 넘어, 데이터 인프라 자체를 구성하는 주체로 올라섰다는 평가다.
기업들이 생성형 AI를 적용하는 분야는 여전히 반복적이고 필수적인 업무가 중심이다. 전체 활용 사례 중 약 40%가 고객 경험(CX) 관련 영역에 집중됐다. 상담 자동화, 개인화 추천, 고객 데이터 분석 등이 대표적이다.
아시아태평양 지역에서는 시장 동향 파악과 전략 분석이 가장 주요한 활용 사례로 나타났다. 단순 효율화보다 의사결정 지원과 분석 역량 강화에 AI를 투입하는 흐름이 뚜렷해지고 있다는 설명이다.
또 하나 눈에 띄는 변화는 모델 선택 방식이다. 기업들은 단일 AI 모델에 의존하기보다, 업무 성격과 비용, 성능 요건에 맞춰 여러 모델을 병행하는 전략을 택하고 있다. 조사 대상 조직의 78%가 두 개 이상의 AI 모델군을 사용하고 있으며, 약 60%는 세 개 이상을 운용 중인 것으로 집계됐다.
보고서는 AI 프로젝트의 성패를 가르는 핵심 요인으로 평가 체계와 거버넌스를 꼽았다. 전문 AI 평가 도구를 활용하는 기업은 그렇지 않은 기업보다 AI 프로젝트를 실제 운영 단계로 전환하는 비율이 약 6배 높았다.
AI 거버넌스를 갖춘 조직의 경우 상용화 규모가 12배 이상 큰 것으로 나타났다. 데이터 관리, 책임 구조, 운영 기준을 명확히 하지 않으면 파일럿 단계에서 멈출 가능성이 높다는 의미다. 실제로 AI 거버넌스 관련 투자는 최근 9개월 사이 7배 증가하며 기업의 주요 투자 항목으로 떠올랐다.
닉 에어스(Nick Eayrs) 데이터브릭스 아시아태평양 및 일본 지역 필드 엔지니어링 담당 부사장은 “아시아 지역 전반에서 AI 에이전트가 핵심 업무와 인프라, 데이터베이스 전반에 본격적으로 통합되고 있다”며 “평가와 거버넌스 체계를 갖춘 조직만이 시범 적용을 넘어 안정적인 운영 단계로 갈 수 있다”고 말했다.
그는 또 “성공하는 기업은 강력한 데이터·AI 기반과 명확한 책임 구조를 바탕으로 검증된 사례를 빠르게 확장하는 곳”이라고 덧붙였다.
다만 보고서는 AI 에이전트 확산 속도에 비해 조직 내 관리 역량이 충분히 따라가고 있는지는 별도의 점검이 필요하다고 지적했다. 멀티 에이전트 구조가 확산될수록 운영 복잡도와 책임 범위가 커질 수밖에 없기 때문이다.
기업 AI 활용이 ‘도입 여부’의 문제를 넘어 ‘운영 역량’의 문제로 이동하는 시점에서, 데이터 관리와 평가 체계가 뒷받침되지 않는 확장은 오히려 리스크로 작용할 수 있다는 경고도 함께 제시됐다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
