“AI가 철통감시…불법촬영물 1분내 신고"

[이데일리 방보경 기자] “ 인공지능(AI) 도입으로 ‘뛰는 놈’을 데려왔습니다. ‘나는 놈’인 불법촬영물을 따라잡으려면 기술과 인력 보완은 필수입니다.”

최근 이데일리와 만난 김미순 중앙디지털성범죄센터(이하 디성센터) 센터장은 이렇게 말했다. 이달 디성센터는 성평등가족부와 협업해 지능화한 불법 촬영물 삭제요청 시스템을 선보였다. 이 시스템이 제 기능을 하기 위해서는 앞으로 끊임없이 갈고닦아야 한다는 게 김 센터장의 입장이다.

김미순 중앙디지털성범죄피해자지원센터 센터장 (사진=김태형 기자)

이번 변화는 가내수공업 제조공정이 공장제 생산으로 바뀐 정도의 효과라는 평가다. 과거에는 성인 사이트에 불법촬영물 삭제 요청을 하기 위해서는 건마다 이메일을 보내야 해서 시간이 오래 걸렸다. 이제는 이 과정을 AI가 대신 수행하면서 1분 이내면 삭제 요청이 마무리된다.

AI가 아동·청소년 성착취물을 24시간 모니터링하고 자동 신고하는 시스템도 처음 개발했다. 김 센터장은 “국내 최초로 랜덤채팅 애플리케이션(앱)에도 적용할 수 있는 시스템을 만들었다”며 “이번에 아동·청소년에게 유독 취약한 환경을 정조준했다”고 자평했다.

김 센터장은 지금 성과에 안주하지 않고 기술을 더 고도화할 것이라는 포부를 밝혔다. 김 센터장은 “성인 플랫폼은 매일같이 사라지고 만들어지는 과정을 반복한다”며 “변화하는 데이터를 사람이 직접 확인하고 시스템이 이를 학습할 수 있도록 알려줘야 한다”고 했다.

가장 중요한 삭제요청 과정도 사이트마다 제각각이다. 김 센터장은 “불법촬영물 신고 창구를 사이트 내에 만들지 않고 외부 앱으로 유도하는 등 작업 난이도가 갈수록 높아진다”며 “삭제요청이 연동되는 사이트도 70% 정도여서 나머지 사이트에는 사람의 손길이 필요하다”고 설명했다. 이어 “아무리 많은 사이트를 모니터링 가능토록 만들어도 정보를 업데이트하지 않으면 현황을 따라갈 수 없게 될 것”이라며 “대상이 되는 사이트를 정교하게 찾도록 하는 게 디성센터의 새로운 목표”라고 말했다.

삭제지원은 대응의 한 축에 불과하다. 김 센터장은 성착취물을 뿌리뽑으려면 기술 전반에 대한 규제가 병행돼야 한다는 입장을 밝혔다. 그는 “우리가 뚫고자 하는 방패(기술)는 날로 두꺼워지고 창이 그 뒤를 따라가는 모양새”라며 “기술을 출시하기 전에 안전 장치가 있는지 점검하는 등 최소한의 규제를 만들어야 한다”고 제언했다. 이어 “삭제지원기술은 해외에서도 벤치마킹할 정도로 고도화됐다”며 “반면 플랫폼의 자정작용에 대한 논의가 부족했다 보니 앞으로 패러다임을 전환할 필요가 있다”며 플랫폼 대응에 대해서는 국제 공조까지도 고려해야 한다고 덧붙였다.

※ 성폭력·디지털성범죄·가정폭력·교제폭력·스토킹 등으로 전문가의 도움이 필요한 경우 여성긴급전화(국번없이 ☏1366)에 전화하면 365일 24시간 상담 및 긴급보호를 받을 수 있습니다.