AI가 6분 안에 성착취영상 찾아내 삭제 신고…서울시, AI 자동 삭제신고 시스템 개발

서울시가 온라인상에 유포된 디지털 성범죄 영상의 신속한 삭제 지원을 위해 지난 2023년 전국 최초로 AI(인공지능) 기술을 도입, 24시간 모니터링을 가동 중인 데 이어서 이제 검출된 영상을 AI가 자동으로 삭제 신고까지 지원하는 ‘AI 자동 삭제신고 시스템’을 최초로 개발해 실행에 들어간다.

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 ’23년도 3월 서울연구원과 협력, 전국 최초로 ‘디지털 성범죄 AI 삭제지원 기술’을 개발했으며 서울 디지털성범죄 안심지원센터(서울특별시여성가족재단 운영)에서 이를 활용해 24시간 불법 영상물 감시 및 삭제지원을 하고 있다.

‘AI 자동 삭제신고 시스템’은 AI가 24시간 피해 영상물을 상시 검출한 뒤, 찾아낸 영상물을 자동으로 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일을 자동으로 생성한다.