|
대법원 산하 법원행정처는 ‘AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)’가 약 5개월간의 활동을 마무리하고 이같은 내용을 담은 제도 개선안을 마련했다고 31일 밝혔다.
이번 조치는 생성형 AI의 ‘환각’ 현상으로 인해 실제 존재하지 않는 법령과 판례가 소송당사자와 법률 전문가에 의해 인용하는 사례가 다수 보고된 데 따른 것이다.
법원행정처는 사법자원의 낭비를 막고 사회적 비용을 줄이기 위해 지난해 11월 법관 8인과 변호사 2인으로 TF를 구성했다. 이후 각급 법원의 의견을 수렴하고 관계 법령과 해외의 판결 및 실무동향, 국제적 경향 등을 조사해 현행법 체계 내 적용 가능한 대응 방안을 제시했다.
이에 따르면 AI가 생성한 허위 법령 등을 인용해 불필요한 소송비용을 발생시키거나 재판을 지연시킨 경우 해당 비용의 전부 또는 일부를 당사자가 부담하도록 할 수 있다. 허위 내용이 포함된 서면에 대해서는 변론에서 진술을 제한하고 판결문에 해당 내용이 허위임을 적시하는 방안도 담겼다. 변호사가 AI 생성 자료를 제대로 검증하지 않고 제출한 경우에는 대한변호사협회에 징계를 의뢰할 수 있도록 했다. 다만 이런 조치의 시행 여부는 개별 재판부의 재량에 따른다.
제도 개선안으로는 AI 활용 사실을 법원과 상대방에게 고지하고 내용의 정확성을 당사자가 스스로 확인하도록 의무화하는 민사소송규칙 개정안을 제안했다. 악의적인 허위 판례 인용에 대해서는 과태료를 부과할 수 있는 근거 법령 마련도 제시됐다.
기술적으로는 법원 전산시스템을 개편해 제출 서류에 인용된 판례의 실존 여부와 실제 내용과의 유사도를 자동으로 판별하는 기능 도입이 필요하다고 봤다. 또 AI가 제시한 판결의 실재 여부를 일반 국민이 확인할 수 있도록 판결 공개 범위를 확대해야 한다고 지적했다. 앞서 법원은 지난 2월 20일 사법정보공개포털에 허위 사건번호 확인 기능을 추가해 사건번호 존재 여부를 조회할 수 있도록 했다.
법원행정처 관계자는 “생성형 AI의 활용 확대는 거스를 수 없는 흐름이고 법원은 이에 따른 변화와 위험에 체계적으로 대비할 필요가 있다”며 “향후 기술 발전 추이와 재판에 미치는 영향, 국민의 인식 변화 등을 면밀히 살펴 추가 방안을 마련하겠다”고 말했다.
Copyright ⓒ 이데일리 무단 전재 및 재배포 금지
