전세계 청소년 SNS 규제 강화…네카오는 AI·부모동의 '안전망' 구축

[이데일리 이소현 기자] 전 세계적으로 청소년의 정신건강 보호를 위한 강도 높은 SNS 규제가 논의되고 있는 가운데 국내 대표 플랫폼 기업인 네이버(NAVER(035420))와 카카오(035720)는 고도화된 AI 기술에 부모의 자녀 관리 권한을 결합한 엄격한 운영정책을 통해 청소년을 위한 ‘안전한 SNS 환경’을 선제적으로 구축하고 있다.

네이버 클로바 그린아이 유해 콘텐츠 등급 분류 기준(사진=네이버 클라우드 플랫폼)

19일 IT업계에 따르면 네이버와 카카오는 유해 콘텐츠를 AI 기술을 통해 걸러내고 있다.

네이버는 자체 개발한 AI 필터링 기술인 ‘클로바 그린아이’로 이용자가 게시물을 올리는 즉시 음란성 지수를 산출한다. 약 99% 이상의 높은 적중률로 부적절한 이미지와 영상을 실시간 차단하며 청소년의 시각적 노출을 원천 봉쇄한다.

카카오는 ‘이미지 레벨 시스템’으로 딥러닝 기반의 다단계 필터링을 통해 불법·광고성 이미지와 유해 콘텐츠를 정교하게 걸러낸다. 검색 결과 노출 전 모니터링 단계를 두어 ‘클린 플랫폼’을 유지하는데 힘쓰고 있다.

카카오 유해 이미지 차단 기술 이미지 레벨 시스템(사진=카카오)

특히 불법촬영물등과 관련해선 24시간 상시 신고 기능을 마련해 운영 중이다. 카카오가 방송미디어통신위원회에 제출한 ‘불법촬영물등의 처리에 관한 2024년도 투명성 보고서’에 따르면 피해자 등으로부터 성적 불법촬영물 66건 신고를 접수 받아 66건 모두 삭제·접속차단 처리했다. 카카오 측은 “신고접수 중 관계법상 불법촬영물등에 해당하는지를 카카오가 명백하게 구분하기는 쉽지 않았지만, 이용자 등의 피해신고가 있었다는 측면에서 피해자에게 피해를 유발할 수 있을 것으로 보여져 삭제·차단 조치를 취했다”고 설명했다.

네이버는 성적 불법촬영물 73건, 성적 허위영상물 7건, 아동청소년 성착취물 19건 등 총 91건 신고를 접수 받아 4건을 삭제·접속차단 처리했다. 네이버 측은 “불법촬영물등 신고창구를 통해접수된 신고건 중 신고서식을 갖추지 못하거나, 신고내용의 확인이 어려운경우 보완요청 등의 추가 안내를 진행해 적시에 필요한 조치를 할수있도록 적극적으로 대응하고 있다”고 설명했다.

네이버의 경우 카페, 블로그, 지식iN, 밴드, 치지직 등 주요 서비스에 정부 제공 기술을 활용한 기술적 필터링을 적용해 불법촬영물의 게재를 제한하고 있다. 만약 ‘몰카’ 등 불법촬영물 접근 목적의 검색어를 입력하면 검색 결과 송출을 제한하며, 자동완성어나 연관검색어에도 노출되지 않도록 조치하고 있다.

카카오는 포털 다음(Daum)에서 불법촬영물 검색에 악용될 우려가 있는 키워드 956건을 지정해 성인인증 여부와 관계없이 검색 결과를 차단하는 등 선제적 조치를 강화했다.

또 네이버와 카카오는 단순 게시물 차단을 넘어 범죄 예방을 위한 강력한 정책적 장치도 마련했다. 부모 등 법정대리인이 자녀의 이용 시간을 관리하거나 특정 기능을 제한할 수 있는 도구를 제공한다.

카카오는 15년 만의 대개편을 통해 작년 카카오톡에 ‘지금탭’ 등 숏폼 서비스 영역을 신설하면서 청소년을 보호하기 위한 조치를 제공했다. 미성년자 계정의 경우 부모가 숏폼 노출을 차단할 수 있다. 보호자가 본인 인증과 가족관계증명서 제출 후 승인이 나면 자녀 단말의 카카오톡에서 숏폼 노출이 차단된다.

성착취와 그루밍 같은 성범죄 피해를 예방하고 콘텐츠 이용을 감독하기 위해 청소년 대상으로 카카오톡 오픈채팅방 이용도 제한하는 정책을 시행하고 있다. 과거 미성년자 본인의 동의가 필요했지만, 작년 4월부터는 법정대리인의 요청만으로도 청소년의 오픈채팅 이용을 제한할 수 있도록 운영 정책을 변경했다.

이와 함께 카카오는 청소년의 성범죄 노출 위험이 있다고 판단되는 불건전한 오픈채팅방에 대해선 검색 결과 노출을 제한하거나 접근 및 사용 제한도 하고 있다. 일례로 성인과 아동·청소년과의 만남, 대화 목적으로 하는 오픈채팅방, 아동·청소년이 구매할 수 없는 상품·서비스의 대리 구매·결제, 제공 등을 목적으로 하는 오픈채팅방 등이다.

네이버도 ‘연령제한 기능’을 도입해 성 관련 키워드, 미성년자 이용 불가 콘텐츠, 불법·반사회적 검색어 등을 ‘청소년 유해 검색어’로 분류해 자동 차단하고 있다.

네이버 오픈톡에서도 아동·청소년에 대한 성범죄 및 사이버폭력 피해 등을 예방하기 위해 본인의 동의가 있는 보호자의 요청이 있는 경우 이용을 한시적으로 제한하는 미성년자 보호제도를 운영하고 있다.

콘텐츠 측면에서도 성인용 주제가 포함된 치지직 라이브 방송이나 동영상은 반드시 연령 제한을 설정하도록 하고 있다. 네이버웹툰 서비스의 경우 청소년 유해 매체물로 지정된 작품은 본인 인증을 요구하며, AI 기반 필터링 기술인 ‘클린봇’을 사용해 청소년 유해 정보와 관련된 댓글과 대댓글을 차단한다.

IT업계 관계자는 “앞으로 AI 기술이 고도화되고 사회가 더욱 복잡해지면 콘텐츠 유해성에 대한 논란은 더욱 복잡하고 다양한 형태로 나타날 것”이라며 “인터넷 사업자들은 앞으로도 AI 모델을 계속 고도화하고 데이터를 최신화하며, 유해 콘텐츠 감지 영역을 확대해야 한다”고 강조했다.