기업들이 생성형 AI 도입 경쟁에 속도를 내고 있지만, 실제 업무 현장에서는 “AI가 틀린 근거를 가져온다”는 문제가 여전히 숙제로 남아 있다. 특히 기업 내부 문서를 기반으로 답변하는 RAG(Retrieval-Augmented Generation·검색증강생성) 환경에서는 검색 정확도와 데이터 구조가 AI 성능을 좌우하는 핵심 요소로 떠오르고 있다.
데이터·AI 솔루션 기업 로이드케이는 기업용 생성형 AI 환경에서 검색 신뢰도를 높이기 위한 ‘AI 검색을 위한 문단 재구성 방법 및 장치’ 특허 등록을 완료했다고 26일 밝혔다.
회사는 이번 특허 기술을 자사 대표 솔루션인 ‘DO Solution 2.0’에 적용해 기업 고객의 데이터 검색 및 분석 정확도를 높일 계획이다.
최근 기업 시장에서는 생성형 AI를 내부 업무에 접목하려는 움직임이 빠르게 확산하고 있다. 특히 기업 문서를 검색해 답변을 생성하는 RAG 방식이 주목받고 있다.
문제는 기업 데이터 특성상 장문 문서가 많고, 유사 내용이 반복되거나 여러 맥락이 혼재하는 경우가 많다는 점이다. 기존 RAG 환경에서는 일정 길이 단위로 문서를 나누는 ‘고정 크기 분할(chunking)’ 방식이 일반적이지만, 이 과정에서 문맥이 끊기거나 핵심 근거가 분산되는 문제가 발생한다.
업계에서는 생성형 AI가 ‘그럴듯하지만 틀린 답변(환각·Hallucination)’을 줄이기 위해선 단순 모델 성능보다 정확한 근거 검색 체계가 중요하다는 지적이 이어져 왔다.
로이드케이는 이번 특허를 통해 문서를 단순 분할하는 수준을 넘어 AI가 검색과 인용에 최적화된 형태로 문단 구조를 재구성하는 방식을 구현했다고 설명했다.
회사 측에 따르면 이번 특허 기술의 핵심은 문맥 연결성과 검색 적합성, 근거 활용성을 종합적으로 고려해 문서를 재구성하는 데 있다.
정형·비정형 문서를 AI가 탐색하기 쉬운 지식 단위로 전환함으로써, 질문 의도와 맞는 근거를 보다 정확하게 찾을 수 있도록 설계됐다는 설명이다.
기술이 적용된 ‘DO Solution 2.0’에서는 RAG 기반 질의응답 시스템의 검색 품질 개선이 기대된다. 출처가 누락되거나 잘못 연결되는 문제를 줄이고, 기업 내부 데이터를 근거로 한 신뢰도 높은 응답을 지원하는 방식이다.
기업 입장에선 단순 정보 검색을 넘어 AI가 내부 데이터를 인용하고 판단해 업무 실행까지 연결하는 구조를 구축할 수 있다는 점도 차별점으로 제시된다.
로이드케이는 이번 특허를 기반으로 단순 RAG를 넘어 ‘에이전틱(Agentic) RAG’ 구현을 위한 기술 고도화에 나설 계획이다.
Agentic RAG는 AI가 검색 결과를 단순 제시하는 데 그치지 않고, 확보한 근거를 바탕으로 분석·판단 후 실제 업무까지 수행하는 개념이다. 최근 글로벌 AI 업계에서 차세대 업무 자동화 기술로 주목받고 있다.
회사는 향후 문서 검토, 일정 관리, 보안 통제 등 신뢰성이 중요한 전문 업무 분야로 활용 범위를 확대한다는 방침이다.
다만 업계에서는 기업용 생성형 AI 시장에서 기술 우위만으로는 차별화가 쉽지 않다는 분석도 나온다. 실제 업무 환경에 안정적으로 적용하기 위해선 데이터 보안, 기존 시스템 연동성, 운영 비용 효율성까지 함께 검증돼야 한다는 이유다.
김대훈 로이드케이 대표는 “기업용 AI 환경의 성패는 내부 데이터를 AI가 얼마나 정확하게 인지하고 활용할 수 있는 구조를 갖추느냐에 달려 있다”며 “특허 기술을 중심으로 기업 문서를 AI 활용 중심 구조로 전환하고, Agentic RAG 기반 자율 실행형 업무 환경을 안정적으로 지원해 나가겠다”고 말했다.
생성형 AI 경쟁이 모델 성능 중심에서 ‘데이터 품질’ 경쟁으로 이동하는 가운데, 기업 내부 지식 체계를 얼마나 AI 친화적으로 바꾸느냐가 향후 업무 생산성을 좌우할 변수로 떠오르고 있다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
