행정 AI도 직접 만든 김해시… 전국 첫 검색모델 공개

김해시가 자체 개발한 행정·법률 특화 AI 검색모델을 세계 최대 AI 플랫폼 '허깅페이스(Hugging Face)'에 공개한 화면. [김해시]

[직썰 / 박정우 기자] 김해시가 공무원과 시민이 행정 문서와 법령을 더 빠르게 찾을 수 있는 '행정 특화 AI 검색모델'을 자체 개발했다. 지방자치단체가 행정 분야에 특화된 검색 AI를 직접 개발해 무료로 공개하는 것은 전국 처음이다.

◇ 행정과 법률에 특화된 AI

이번 모델은 일반 생성형 AI처럼 폭넓은 지식을 다루기보다 행정과 법률 분야에 집중해 학습한 것이 특징이다. 방대한 행정 문서와 복잡한 법령 속에서 필요한 정보를 빠르게 찾아내고, 가장 적합한 답을 제시하도록 설계됐다.

개발은 김해시 AI정책과 공무원들이 직접 맡았다. 자체 구축한 고성능 GPU 서버를 기반으로 성능이 검증된 다국어 AI 모델(BGE-M3)에 AI허브 공개 데이터를 활용해 약 60만건의 행정 문서와 행정법 데이터를 학습시켰다. 기존 AI에 특정 분야 지식을 추가 학습시키는 '파인튜닝' 기법을 적용해 실제 행정 업무와 법령 검색의 정확도를 높였다.

◇ 두 단계 검색으로 정확도 향상

검색은 두 단계를 거친다. 먼저 문서의 의미를 분석해 관련 자료를 추려낸 뒤, AI가 후보 문서를 다시 비교해 가장 적합한 결과를 상단에 배치한다. 방대한 법령과 지침 속에서도 원하는 정보를 보다 정확하게 찾아낼 수 있는 구조다.

모델은 외부 인터넷과 분리된 시청 내부망에서 운영돼 개인정보와 내부 문서 유출 우려를 줄였다. 자체 서버를 활용하는 만큼 외부 유료 AI 서비스를 이용할 때 발생하는 비용 부담도 낮출 수 있다.

◇ 전국 공공기관과 기술 공유

김해시는 개발한 모델을 세계 최대 AI 공유 플랫폼인 허깅페이스(Hugging Face)에 무료로 공개할 계획이다. 전국 240여 개 지방자치단체와 공공기관, 대학, 연구기관 등이 별도의 개발 과정 없이 내려받아 활용할 수 있어 행정 AI 기술 확산과 예산 절감 효과도 기대된다.

시는 앞으로 이 모델을 기반으로 민원 안내와 법령·지침 검색, 행정 상담 등 시민이 체감할 수 있는 AI 서비스를 단계적으로 확대할 예정이다. 신뢰할 수 있는 자료를 기반으로 답변을 생성하는 RAG(검색증강생성) 방식을 적용해 AI의 '환각' 현상도 줄인다는 구상이다.

김해시 관계자는 "이번 모델 개발과 공개는 AI 기술을 직접 만들고 함께 활용하는 새로운 출발점"이라며 "시민에게 도움이 되는 AI 행정 서비스를 지속적으로 확대하고 공공 AI 생태계 확산에도 힘쓰겠다"고 말했다.