AI가 쓴 민원서의 역설…금융권 덮친 'AI 민원 쓰나미'

금융감독원[사진 연합뉴스] 

생성형 인공지능(AI)이 금융 소비자의 새로운 조력자로 떠오르고 있지만, 동시에 금융권에는 예상치 못한 부작용도 확산되고 있다. AI가 민원 제기를 권유하고 민원서 작성까지 돕는 과정에서 허위 판례와 존재하지 않는 분쟁조정 사례를 사실처럼 제시하는 사례가 늘면서 금융당국과 금융회사들이 대응에 어려움을 겪고 있다.

보험사와 보험금 지급 문제로 분쟁을 겪던 A씨는 올해 초 생성형 AI의 도움을 받아 금융감독원에 민원을 제기했다.

보험사가 계약 일부 내용을 변경한 뒤 설명 의무를 다했다고 주장하며 보험금 지급을 거절하자, A씨는 충분한 설명을 듣지 못했고 해당 내용을 인지하거나 동의한 적도 없다고 반박했다.

AI는 A씨에게 금융감독원 민원을 권유했고, 유사 판례와 분쟁조정 사례를 근거로 민원 신청서 초안까지 작성해줬다.

그러나 금감원 검토 과정에서 문제가 드러났다.

민원서에 포함된 일부 판례와 분쟁조정 사례가 실제 존재하지 않았던 것이다. AI가 사실이 아닌 내용을 그럴듯하게 만들어내는 이른바 '환각 현상(Hallucination)'이 원인이었다.

결국 A씨의 민원은 받아들여지지 않았다.

최근 금융권에서는 이 같은 사례가 예외적인 일이 아니라고 보고 있다.

국민권익위원회 민원 빅데이터에 따르면 올해 1월부터 5월까지 권익위를 통해 금융감독원에 접수된 민원은 총 2만1054건으로 집계됐다.

이는 지난해 같은 기간의 1만6215건보다 29.8% 증가한 수치다. 특히 지난 3월 접수된 민원은 4916건으로 월별 기준 역대 최대를 기록했다. 4월과 5월에도 각각 4668건, 3853건이 접수되며 높은 수준을 유지했다.

금융권은 권익위를 거치지 않고 금융회사나 금감원에 직접 접수되는 민원까지 고려하면 실제 증가 폭은 훨씬 클 것으로 보고 있다.

금융권에서는 생성형 AI가 민원 급증의 주요 배경 가운데 하나라고 분석한다.

소비자들이 금융 문제 해결 방안을 AI에 묻는 경우가 많아졌고, 상당수 AI 서비스가 금융당국이나 관련 기관에 민원을 제기하는 방향을 우선적으로 안내하고 있다는 것이다.

한 금융권 관계자는 "AI는 이용자의 입장에서 문제를 해석하는 경향이 강하다"며 "상당수가 금융회사보다 소비자 입장을 중심으로 설명하다 보니 민원 제기를 권유하는 사례가 많다"고 설명했다.

이어 "구독형 AI 서비스일수록 이용자가 원하는 답변 방향으로 설명하는 경우가 있어 금융회사 입장에서는 대응이 쉽지 않다"고 덧붙였다.

금융권이 가장 우려하는 부분은 AI의 환각 현상이다. 실제 존재하지 않는 약관 조항이나 대법원 판례, 금융분쟁조정 사례를 AI가 사실처럼 생성해 민원서에 포함시키는 사례가 반복되고 있기 때문이다.

금융당국 관계자는 "사건번호까지 기재된 가짜 판례가 첨부된 민원도 적지 않다"며 "민원인에게 해당 자료가 허위라는 점을 설명해도 오히려 AI 답변을 더 신뢰하는 경우가 있다"고 말했다.

특히 AI가 작성한 민원서는 대체로 10쪽 안팎으로 길고 특정 문장 구조나 표현이 반복되는 특징을 보인다.

같은 AI를 활용한 경우 유사한 문체와 논리 구조가 반복되면서 여러 민원이 사실상 판박이처럼 접수되는 사례도 나타나고 있다.

금융감독원은 최근 급증하는 민원에 대응하기 위해 금융회사들에 민원 발생 현황과 감축 계획 제출을 요청한 것으로 알려졌다.

단순히 민원 건수가 증가하는 것뿐 아니라 허위 자료 검증에 투입되는 행정 비용 역시 크게 늘고 있기 때문이다.

금융권에서는 AI 활용 자체를 제한하기보다는 민원 작성 과정에서 AI 사용 여부를 표시하도록 하는 등의 제도적 보완이 필요하다는 목소리가 나온다.

전문가들은 AI 활용이 소비자의 권리 구제 접근성을 높이는 긍정적 측면도 있지만, 무분별한 활용은 또 다른 문제를 낳을 수 있다고 지적한다.

홍성걸 국민대 행정학과 교수는 "기술 발전 과정에서 불가피하게 나타나는 현상이지만 과도한 민원 증가로 인해 정작 도움이 필요한 민원인들의 처리가 지연될 가능성이 있다"고 말했다.

이어 "AI를 활용해 작성한 민원이라는 사실을 명시하도록 하는 방안 등 보다 정교한 제도 설계가 필요하다"고 제언했다.

생성형 AI는 금융 소비자에게 법률과 금융 정보 접근성을 높여주는 강력한 도구가 되고 있다.

그러나 AI가 제시하는 정보가 항상 정확한 것은 아니다. 특히 판례나 법령, 약관과 같이 사실 확인이 중요한 영역에서는 반드시 원문 자료와 공식 출처를 통해 검증하는 과정이 필요하다는 지적이 나온다.

AI가 금융 민원의 새로운 창구로 자리 잡고 있는 가운데, 기술 활용과 정보 검증 사이의 균형을 어떻게 맞출 것인지가 금융당국과 업계의 새로운 과제로 떠오르고 있다.

[폴리뉴스 김지혜 기자]