공공 부문의 생성형 인공지능(AI) 도입이 본격화하는 가운데, 법령 검색 시스템에도 거대언어모델(LLM) 기반 AI 기술이 적용된다. 대규모 공공 AI 서비스의 안정적 운영이 핵심 과제로 떠오른 상황에서 인프라와 클라우드 운영 역량이 사업 성패를 가를 요소로 부상하고 있다.
글로벌 AX(Artificial Transformation) 전문 기업 테크에이스지엑스(TecAce gx)는 AI 소프트웨어 기업 코난테크놀로지가 주관하는 컨소시엄에 참여해 법제처 ‘생성형 AI 법령검색 시스템 구축’ 사업의 GPU 인프라 및 클라우드 MSP(Managed Service Provider) 운영 지원을 맡는다고 9일 밝혔다.
이번 사업은 약 65억 원 규모의 공공 생성형 AI 프로젝트로, 국가법령정보센터에 멀티 에이전트 기반 생성형 AI 검색 기능을 적용하는 것이 핵심이다. 기존 키워드 중심 검색 방식에서 한 단계 나아가, 사용자의 질의를 이해하고 맥락에 맞는 법령과 정보를 제공하는 지능형 검색 체계 구축이 목표다.
공공 분야에서 생성형 AI 서비스는 단순 모델 도입만으로 완성되지 않는다. 대규모 연산 자원을 처리하는 GPU 환경과 서비스 안정성 확보를 위한 운영 체계가 동시에 갖춰져야 한다. 특히 장애 대응, 성능 최적화, 실시간 관제 등 클라우드 운영 능력은 서비스 품질을 좌우하는 핵심 변수로 꼽힌다.
테크에이스지엑스는 이번 프로젝트에서 코난테크놀로지의 고성능 거대언어모델(LLM)과 LLMOps 플랫폼이 안정적으로 작동할 수 있도록 GPU 인프라 설계와 구성, 운영 기술 지원을 담당한다. 프로젝트 환경에 맞춘 클라우드 MSP 아키텍처 설계와 함께 실시간 모니터링 체계, 성능 및 비용 최적화, 운영 안정성 강화 작업도 수행할 계획이다.
코난테크놀로지는 컨소시엄 주관사로서 공공 환경에 적합한 LLM 및 LLMOps 플랫폼 구축을 이끈다. 테크에이스지엑스는 인프라와 운영 전문성을 기반으로 사업 리스크를 낮추고 안정적인 시스템 운영 환경을 지원하는 역할을 맡는다.
테크에이스지엑스는 AX PRO 기반 Cloud AI Ops와 AI 에이전트·오케스트레이션 개발 역량을 바탕으로 기업 환경에서 AI 구축 및 운영 경험을 축적해왔다. 최근에는 제조업을 포함한 산업 현장에서 AX 전환 컨설팅을 수행하며 현장 중심의 AI 전환 프로젝트를 확대하고 있다.
공공 AI 시장이 확대되는 흐름 속에서 법제처 사례는 생성형 AI의 행정 서비스 적용 가능성을 가늠할 시범 사업으로 평가된다. 다만 공공 영역은 일반 서비스보다 안정성·보안·정확성 요구 수준이 높은 만큼, 실제 사용자 경험 개선과 정보 신뢰성을 어느 수준까지 확보할 수 있을지가 중요한 과제로 남는다. 법률 정보는 해석과 정확성이 핵심인 분야여서 생성형 AI의 답변 신뢰도 검증도 함께 요구된다.
신석현 테크에이스지엑스 공동대표는 “코난테크놀로지가 주관하는 공공 생성형 AI 프로젝트에 인프라·운영 전문 파트너로 참여하게 돼 의미가 크다”며 “생성형 AI 서비스는 모델 성능뿐 아니라 인프라 안정성과 운영 체계에 따라 품질이 크게 달라지는 만큼 Cloud AI Ops 역량과 운영 노하우를 바탕으로 프로젝트가 안정적으로 추진될 수 있도록 지원하겠다”고 밝혔다.
양사는 역할 기반 기술 협력을 통해 공공 영역에서 요구되는 안정성, 보안, 운영 지속성 요건을 충족하는 방향으로 사업을 추진할 계획이다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
