인공지능(AI)으로 제작된 아동 성 착취물이 급증한 데다 훨씬 더 정교해지고 있다는 분석이 나왔다.
뉴시스 보도에 따르면, 지난달 29일(현지시각) 영국 BBC는 영국 인터넷 감시재단(IWF·Internet Watch Foundation) 보고서를 인용해 지난해 AI로 생성된 아동 성 착취물 신고 건수가 245건으로, 전년(51건) 대비 380% 급증했다고 밝혔다.
또 인터넷 감시재단은 지난해 아동 성착취 콘텐츠를 담은 웹페이지 29만1270곳을 찾아내 해당 내용을 삭제조치 했다고 밝혔다.
아동권익위원회 위원장 데임 레이첼 드 수자는 "AI를 이용해 실제 인물 사진을 나체처럼 조작하는 '누디피케이션(nudification)' 앱이 심각한 현실적 피해를 초래하고 있다"며 규제 강화를 요구했다.
영국 정부는 아동 성적 학대물을 제작·소지·배포하는 행위를 불법으로 규정하고 있으며, AI 기반 생성물도 처벌 대상으로 포함하는 추가 법안을 마련중이다.
그러나 드 수자 위원은 "단순히 아동 학대물 생성 도구만 금지할 것이 아니라, 관련 앱 자체를 근본적으로 금지해야 한다"고 지적했다.
드 수자 위원은 그러면서 정부에 대해 AI 개발자의 아동 보호 책임 강화, 성적 딥페이크 신속 삭제, 딥페이크 성범죄를 여성·소녀에 대한 폭력으로 공식 인정할 것을 요구했다. 그는 "기술 발전 속도가 법과 교육 체계를 앞지르고 있다"며 조속한 대응을 촉구했다.
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
