"아동 성착취물 1325% 증가! 아동 희생 방관하는 AI 혁신 안 된다"

포트노프 부회장은 생성형 AI가 아동 피해를 심화시키는 방식이 단순한 콘텐츠 생성에 그치지 않는다고 강조했다.범죄자들은 생성형 AI를 이용해 기존 피해 아동의 추가적인 이미지를 대규모로 제작하고, 이를 그루밍과 성적 착취 행위 확대에 활용하고 있다.

더 심각한 문제는 AI 기술이 피해 아동 식별 자체를 방해한다는 점이다.그는 "AI로 생성된 합성 이미지가 범람하면서 실제 피해 아동과 합성물을 구별하는 작업이 갈수록 어려워지고 있다"고 지적했다.

2023년에서 2024년 사이 다크웹 내 AI 생성 아동 성착취물은 17% 증가했으며, 이중 39%는 가학적 행위 등 극단적 내용을 담고 있다.