"답이 안 나오면 AI가 스스로 다시 찾는다"…구글, 차세대 '에이전틱 RAG' 공개

[이데일리 김현아 기자] 구글이 생성형 인공지능(AI)의 대표적 한계로 꼽혀온 환각 문제를 줄이고 복잡한 질의에 대한 답변 정확도를 높인 차세대 검색·추론 기술 ‘에이전틱 RAG(검색증강생성)’를 공개했다.

구글 리서치와 구글 클라우드는 지난 5일 ‘에이전틱 RAG 프레임워크’를 발표하고, 이를 자사 기업용 AI 플랫폼에 적용한다고 밝혔다.

검색증강생성(RAG)은 생성형 AI가 외부 데이터베이스나 문서를 검색한 뒤 이를 기반으로 답변을 생성하는 기술이다. 하지만 기존 RAG는 한 차례 검색 결과만 활용하는 경우가 많아 정보가 일부 누락되거나 문서 간 연결이 필요한 복합 질의에서는 한계를 드러냈다.

구글이 공개한 에이전틱 RAG는 AI가 단순히 검색 결과를 받아 답변하는 수준을 넘어, 필요한 정보가 부족하다고 판단하면 스스로 추가 검색을 수행하고 결과를 검증하는 방식으로 설계됐다.

예를 들어 특정 프로젝트의 서버 구성 정보를 묻는 질문에 관련 문서에서 서버 ID만 확인되더라도 답변을 중단하지 않고, 해당 ID를 바탕으로 추가 데이터베이스를 탐색해 필요한 정보를 확보하는 식이다.

구글은 이를 ‘반복적 검색’ 구조라고 설명했다. AI가 검색과 추론, 검증을 반복하면서 답변의 완성도를 높이는 것이 핵심이다.

출처=파이토치 한국사용자 모임 블로그

이 기술의 중심에는 ‘충분한 문맥 에이전트’가 있다. 이 에이전트는 답변 생성 전 ▲검색된 정보가 질문에 충분한지 ▲생성된 답변이 요구사항을 충족하는지 ▲누락된 정보는 없는지를 검토한다.

만약 부족한 정보가 발견되면 AI는 스스로 재검색 키워드를 생성해 추가 탐색을 수행한다. 일종의 내부 품질관리 시스템(QA)이 AI 안에 내장된 셈이다.

특히 에이전틱 RAG는 단일 모델이 아니라 여러 AI 에이전트가 역할을 분담하는 구조를 채택했다. 작업 계획을 수립하는 ‘플래너 에이전트’, 질문을 최적화하는 ‘쿼리 재작성 에이전트’, 다양한 데이터 소스를 병렬 탐색하는 ‘검색 팬아웃 에이전트’ 등이 협업해 최종 답변을 생성한다.

이는 단순 챗봇에서 ‘업무 수행형 AI’로 진화하는 과정으로 보인다.

성능 개선 효과도 확인됐다. 구글 리서치에 따르면 에이전틱 RAG는 팩트 기반 질의응답 평가에서 기존 RAG 대비 최대 34% 높은 정확도를 기록했다. 여러 조직과 데이터베이스에 분산된 정보를 찾아야 하는 기업 환경에서도 90.1% 수준의 높은 정확도를 나타냈다.

구글은 “에이전틱 RAG는 AI 답변의 근거를 명확히 제시하고 추적 가능성을 높여 기업 환경에서 요구되는 신뢰성을 강화한다”며 “생성형 AI의 실질적인 업무 활용 범위를 크게 넓힐 수 있을 것”이라고 설명했다.

이번 기술이 최근 급부상하는 ‘AI 에이전트’ 시장의 핵심 기반 기술이 될 것으로 보인다. 기존 생성형 AI가 질문에 답하는 수준에 머물렀다면, 에이전틱 RAG는 필요한 정보를 스스로 찾아가며 문제를 해결하는 방향으로 진화했다는 평가다.

AI 업계 관계자는 “에이전틱 RAG는 단순 검색 보강 기술을 넘어 AI가 사람처럼 조사·검증·재탐색 과정을 수행하도록 만든 구조”라며 “향후 기업용 AI 플랫폼 경쟁력은 얼마나 신뢰성 높은 에이전트를 구현하느냐에 달려 있을 것”이라고 말했다.

현재 이 기술은 구글의 기업용 AI 서비스 플랫폼인 제미나이 엔터프라이즈 에이전트 플랫폼(Gemini Enterprise Agent Platform)에서 퍼블릭 프리뷰 형태로 제공되고 있다.