경찰 AI 보고서 “경찰이 개구리로 변했다”라는 기록을 남겼다

인공지능(AI)이 작성한 경찰 보고서에 “경찰관이 개구리로 변했다”라는 문장이 등장했다. 웃고 넘길 수 있는 해프닝처럼 보이지만, 이 사례는 AI를 활용한 교통 단속 기록이 얼마나 위험하게 왜곡될 수 있는지를 적나라하게 보여준다.

문제의 사건은 지난해 12월, 미국 유타주 히버 시티에서 발생했다. 히버 시티 경찰은 당시 바디캠 영상을 자동으로 분석해 보고서를 작성하는 AI 기반 소프트웨어를 시험 운용 중이었다. 해당 시스템이 작성한 공식 보고서에는, 단속 과정에서 경찰관이 문자 그대로 개구리로 변했다는 내용이 포함됐다.

범인은 인공지능 ‘할루시네이션’이었다. AI는 바디캠 오디오 속 배경음을 실제 상황으로 오해했다. 현장에서 재생되고 있던 영화는 디즈니 애니메이션 공주와 개구리(The Princess and the Frog). 알고리즘은 이 오디오를 맥락 없이 해석해 영화의 설정을 공식 경찰 기록에 그대로 옮겨 적은 것이다.

히버 시티 경찰서는 “AI 보고서 작성 시스템이 배경에서 재생되던 영화를 감지했다”면서 “이 일을 계기로 인공지능이 작성한 보고서는 반드시 사람의 검토가 필요하다는 점을 다시 한번 인식하게 됐다”라고 밝혔다.

문제는 이 사례가 단순히 웃고 넘길 수 있는 실수로 끝나지 않는다는 데 있다. 해당 AI 시스템은 경찰관의 행정 업무를 줄이고, 순찰과 현장 대응에 집중하겠다는 취지로 도입됐다. 하지만 실제로는 알고리즘이 교통 단속 현장의 말투, 대화, 배경 소음까지 ‘해석’한다는 의미이기도 하다.

교통 단속은 짧게 끝나지만, 그 기록은 오래 남는다. 미국의 경찰 보고서는 이후 단속 이력, 법정 절차, 보험 처리, 면허 정지 여부, 심지어 취업 과정의 신원 조회까지 영향을 미칠 수 있다. AI가 무언가를 잘못 기록했을 경우, 이는 단순한 오타가 아니라 공식 문서에 남는 허위 정보가 된다.

히버 시티 사례는 오류가 지나치게 명확했기 때문에 쉽게 발견됐다. 하지만 AI가 누가 어떤 말을 했는지, 운전자의 태도가 어땠는지, 단속이 왜 격화됐는지를 미묘하게 잘못 요약한다면 상황은 훨씬 심각해질 수 있다. 더 위험한 점은 이런 오류가 대부분 ‘그럴듯해 보인다’는 이유로 그냥 넘어갈 가능성이 크다는 점이다.

표현이 실제보다 공격적으로 바뀌거나, 경찰의 판단이 과장돼 기록되더라도 모든 경찰관이 이를 일일이 수정할지는 미지수다.

현재로서 일반 운전자들이 취할 수 있는 현실적인 대응책은 제한적이다. 대시캠 등 AI가 개입하지 않은 독립적인 기록을 남기는 것, 그리고 필요하다면 정보공개법을 통해 바디캠 영상과 경찰 보고서를 요청해 대조하는 것 정도다.

경찰 보고서에 개구리가 등장하는 일은 웃고 넘길 수 있다. 하지만 법 집행 기관에 남는 개인의 기록은 얘기가 다르다. AI가 만든 한 줄의 오류가 누군가에게는 오랜 시간 따라다니는 꼬리표가 될 수 있기 때문이다. 이번 사례를 결고 가볍게 볼 수 없는 이유다.

더드라이브 / 조윤주 기자 [e-mail]