소아성애자들이 인공지능(AI)을 이용해 유명인들의 모습을 어린아이로 조작하는 등 아동 성 학대 사진을 만들어 내고 있다.
영국의 비영리재단 ‘인터넷감시재단(IWF)’은 소아성애자들이 유명 여가수를 아동의 모습으로 조작한 사진들을 공유하고 있다고 밝혔다.
아울러 한 다크웹 포럼에선 아역 배우들의 이미지가 성적인 이미지로 조작되고 있으며, 실제 아동 성학대 피해자들이 담긴 이미지 수백 장도 맞춤형 AI 툴을 통해 다시 생성되고 있다는 설명이다.
IWF는 지시 사항만 간단하게 입력하면 이미지를 만들어 낼 수 있는 AI 이미지 생성 툴을 소아성애자들이 사용하는 현실의 위험성을 알리고자 이러한 세부 사항을 담은 보고서를 발표했다.
강력한 이미지 생성 툴이 공공 영역에 진입한 이후 전문가들은 줄곧 불법적인 이미지 생성에 악용될 가능성이 있다고 경고하고 있다.
지난 5월 수엘라 브레이버먼 영국 내무부 장관 알레한드로 마요르카스 미국 국토안보부 장관은 공동 서명을 통해 “성 착취를 당하는 아동의 모습을 담은 AI 이미지 생성의 증가” 문제에 대해 같이 대응하겠다고 발표하기도 했다.
IWF는 이번 보고서를 통해 소속 연구원들이 1달 동안 다크넷상의 아동학대 웹사이트 한 곳에서 AI 이미지를 기록한 결과 영국법상 불법일 가능성이 있는 합성 이미지를 3000개 가까이 찾아낸 경위를 상세히 설명했다.
아울러 전문가들은 소아성애자들 사이에서 실제 아동학대 피해자로 잘 알려진 아동을 또 다른 성적 학대 환경에 놓고 재현하는 사진 제작이 새로운 트렌드라고도 설명했다.
일례로 전문가들은 실제로 대략 9~10살 나이에 성적 학대를 당한 여아의 모습이 담긴 이미지 501개가 담긴 파일 하나를 발견했다. 해당 파일에서 소아성애자들은 다른 이들이 이 여아에 대한 더 많은 이미지를 생성할 수 있도록 섬세한 AI 툴이 담긴 파일을 공유하기도 했다.
한편 IWF는 유명인들을 아동으로 조작한 사진 등 일부 이미지는 너무나도 현실적이어서 비전문가의 눈으로는 구분하기 어렵다고 지적했다.
피해자는 대부분 여성 가수 및 영화배우들로, AI 소프트웨어를 통해 이들이 마치 어린아이처럼 보이게 만드는 방식이었다.
그러나 이번 보고서에선 구체적으로 피해 인물들을 거론하진 않았다.
IWF는 이 문제를 다음 주 블레츨리파크 지역에서 열리는 영국 정부 주도의 AI 정상회의에 의제로 제시하고자 이번 연구 결과를 공유한다고 설명했다.
한편 IWF는 1달 동안 다크웹 상의 아동학대 포럼 한곳에 공유된 AI 이미지 1만1108개를 조사했다.
- 이 중 2978장은 영국 법상 불법으로 확인됐다. 즉 아동 성 학대를 묘사한 이미지이다
- 전체 이미지의 5분의 1 이상(564장)이 IWF의 ‘카테고리 A’로 분류됐다. 가장 적나라한 학대 장면을 담은 경우다
- 이 중 절반 이상(1372장)이 7~10세 사이 초등학생의 모습을 담고 있었다
- 3~6세 아동을 담은 사진은 143장, 2살 미만의 아동을 담은 사진은 2장으로 집계됐다
지난 6월 IWF는 이미 소아성애자들이 아동 성 학대 사진을 만들어내고자 AI를 사용을 탐구하기 시작했다고 경고한 바 있다.
그러나 이젠 그 우려가 현실이 됐다는 게 IWF의 설명이다.
수지 하그리브스 IWF 대표는 “우리가 생각하는 최악의 악몽이 현실이 됐다”고 언급했다.
“올해 초 IWF는 AI 생성 이미지가 실제 성 학대 사진과 구별할 수 없는 수준에 이를 것이라고 경고한 바 있습니다. 그리고 이러한 사진들이 훨씬 더 많이 확산할 것이라고도 경고했습니다. 그리고 이제 그 시점을 이미 지나가 버렸습니다.”
IWF의 이번 보고서는 AI 이미지가 현실 세계에 미칠 폐해를 거듭 강조했다. 즉 콘텐츠 제작 과정에서 실제 아동들이 직접 피해를 입는 건 아니지만, 이러한 이미지는 아동 성학대적 행동을 정상화하며, 존재하지 않는 아동을 피해자로 생각해 조사하는 과정에서 경찰 자원이 낭비될 수 있다는 것이다.
또한 새로운 형태의 범죄가 나타났을 가능성도 제기돼 법 집행 기관에 새로운 고민거리를 안길 수도 있는 시나리오도 있다.
예를 들어 IWF는 나신이 아닌 상태로 모델 에이전시에서 사진을 찍었던 소녀 2명이 ‘카테고리 A’급 성적 학대를 당하는 장면으로 조작된 사진 수백 장을 발견했다.
이들이 실제 일어난 적 없는 ‘카테고리 A’급 범죄의 피해자가 돼버린 현실이다.
Copyright ⓒ BBC News 코리아 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
