온라인 커뮤니티와 사회관계망서비스(SNS), 포털 등에 적용되는 불법촬영물 유통 방지 조치가 동영상에서 이미지까지 확대됐다. 이용자가 사진을 올리면 게시 전 불법촬영물 데이터베이스와 비교·식별하는 절차가 추가되면서, 온라인 커뮤니티 이용자들 사이에서는 "AI 사전 검열 아니냐"는 반발도 나오고 있다.
방송미디어통신위원회는 1일부터 전기통신사업법에 따른 '불법촬영물 등 유통 방지를 위한 기술적·관리적 조치' 대상을 기존 동영상 파일에서 이미지 파일까지 확대 시행한다. 이에 따라 구글, 메타, 엑스(X), 네이버, 카카오 등 사전조치 의무사업자 약 80개사는 이용자가 게시하려는 동영상이나 이미지가 불법촬영물 등에 해당하는지 비교·식별해 게시를 제한하는 조치를 해야 한다.
이번 조치는 이른바 'N번방 방지법'으로 불리는 전기통신사업법 개정 흐름과 맞닿아 있다. 2020년 N번방 사건을 계기로 디지털 성범죄물 유통을 막기 위한 플랫폼 사업자의 기술적·관리적 조치 의무가 강화됐고, 그동안 주로 동영상 파일에 적용되던 사전 차단 조치가 이미지까지 넓어진 것이다.
적용 대상은 일정 규모 이상의 온라인 사업자다. 전년도 매출 10억원 이상 또는 일평균 이용자 10만명 이상인 SNS, 커뮤니티, 인터넷 개인방송, 검색포털 등이 대상에 포함된다. 이용자가 이미지를 업로드하면 게시 전 AI 기반 필터링 또는 비교·식별 절차를 거치게 된다.
방미통위는 이번 조치가 사생활 침해나 사전검열이 아니라고 설명한다. 사람이 이용자의 이미지를 직접 열람하거나 심사하는 방식이 아니라, 이미 불법촬영물로 등록된 자료의 디지털 특징값, 이른바 '디지털 DNA'와 업로드된 파일을 자동 비교하는 방식이라는 것이다.
다만 이용자들이 느끼는 불안은 작지 않다. 커뮤니티에서는 "내가 올리는 사진이 게시되기 전에 먼저 검사받는 것 아니냐", "불법촬영물 차단은 필요하지만 기준과 방식이 투명해야 한다", "오탐이 발생하면 정상적인 게시물도 막히는 것 아니냐" 등의 반응이 이어지고 있다. 제도의 명분은 디지털 성범죄 방지지만, 실제 이용 경험에서는 '업로드 전 필터링'이라는 형태로 체감되기 때문이다.
사업자 부담도 논란이다. 일정 규모 이상의 커뮤니티와 SNS 사업자는 이미지 업로드 과정에서 불법촬영물 등으로 등록된 자료와 일치하는지 대조하는 시스템을 갖춰야 한다.
중소 플랫폼 입장에서는 기술과 비용이 모두 부담이 될 수 있다. 이미 자체 탐지 시스템을 구축한 대형 플랫폼은 비교적 대응 여력이 있지만, 중소 규모 사업자는 외부 필터링 솔루션 도입이나 서버 증설 비용을 감당해야 한다.
방미통위는 제도 안착을 위해 올해 말까지 6개월의 계도기간을 운영한다는 방침이다. 새로운 의무를 갑자기 신설한 것이 아니라, 지난해 12월 이미지 비교·식별 국가기술 개발이 완료되면서 기존 동영상 중심 조치를 이미지까지 확대한 것이라는 설명도 전했다.
Copyright ⓒ 아주경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요
