자체 LLM·외부 AI '이원화'로 보안↑…연말 AI 에이전트 시범적용
(서울=연합뉴스) 김동규 기자 = 서울시는 생성형 인공지능(AI)을 행정 전반에 적용한 '챗봇 2.0'을 본격 운영한다고 11일 밝혔다.
챗봇 2.0은 서울시 행정망 내부에 구축한 대규모 언어모델(LLM) 기반 직원용 AI 행정 지원 서비스와 생성형 AI 기능을 강화한 시민용 챗봇 '서울톡'으로 구성된다.
시는 이를 통해 공무원 업무 지원부터 시민 상담까지 하나의 AI 체계로 통합한 '서울형 AI 행정 모델'을 구축한다는 구상이다.
직원용 서비스는 질의응답, 문서 생성, 요약, 분석 등 행정 업무 지원 기능을 제공한다. 270종의 행정 업무매뉴얼을 기반으로 검색증강생성(RAG) 체계를 구축해 공무원이 자연어로 질문하면 근거와 출처를 함께 제시하는 방식이다.
부서·개인별 업무자료를 연계해 맞춤형 검색을 지원하는 'My 챗봇' 기능과 보도자료, 민원 답변 등 문서 작성을 돕는 'AI 템플릿' 기능도 제공한다.
서울시는 보안성과 활용성을 동시에 확보하기 위해 자체 LLM과 외부 생성형 AI 서비스를 병행하는 이원화 운영체계도 구축했다.
보안이 필요한 업무는 행정망 내부의 자체 LLM이 담당하고, 정보 검색이나 아이디어 도출 등 일반 업무는 외부 상용 생성형 AI 서비스인 '서울AI챗'이 맡는 구조다.
시민용 챗봇 '서울톡'도 생성형 AI 적용으로 기능이 강화된다. 기존 120 상담 중심의 민원 안내에서 벗어나 서울시 누리집 정보와 외부 웹 검색을 연계해 최신 정보를 24시간 자동으로 제공한다.
예컨대 시민이 카카오톡 채널에서 '이번 주말 광화문 행사'를 물으면 공연, 축제, 행사 등 정보를 종합해 최신 일정 기준으로 안내하는 식이다.
서울시는 올해 말 챗봇 2.0을 기반으로 AI 에이전트도 시범 적용할 계획이다. AI 에이전트는 내부 시스템과 연계해 필요한 정보를 조회하고 문서 작성, 자료 정리 등 반복 업무를 자동으로 지원하는 방식으로 운영된다.
강옥현 서울시 디지털도시국장은 "챗봇 2.0은 공무원에게는 지능형 업무 파트너, 시민에게는 생활 밀착형 정보 안내 서비스가 될 것"이라며 "지속적인 고도화를 통해 서울시 행정의 AI 전환을 가속하겠다"고 말했다.
dkkim@yna.co.kr
Copyright ⓒ 연합뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
