비극적으로 아이를 잃은 부모들이 AI(인공지능)를 이용해 실제 아동 살인 피해자들의 이야기를 다룬 영상을 올리는 ‘틱톡’ 트렌드가 혐오스럽다고 토로했다.
유가족의 동의 없이 만들어진 이러한 영상들은 보통 조잡한 애니메이션으로 아동 혹은 유아들이 어떻게 살해당했는지 이야기한다.
틱톡 측이 지난 3월부터 실존 미성년자에 대한 AI 영상을 금지한다고 발표했음에도 불구하고 4월부터 이러한 AI 영상은 계속 게재되고 있다.
그러나 BBC 조사 결과 틱톡 측의 이러한 정책에 대해 틱톡 직원들 간에도 혼선이 있을 수 있다는 증거를 발견했다. 틱톡의 한 콘텐츠 검열 담당자는 BBC와의 인터뷰에서 이러한 금지 조치가 지 4개월이 지났으나, 회사로부터 이러한 규정 변경에 대해 전달받지 못했다고 주장했다.
이러한 AI 영상 중 일부는 몇 달씩이나 틱톡에서 사라지지 않고 있었으며, 수백만 건의 조회수를 기록하기도 했다.
이에 대해 비밴 키드론 영국 상원의원은 이러한 영상은 마치 사망한 피해자들이 자신의 이야기를 들려주는 듯한 형식을 취하고 있기에 특히 유가족들의 마음을 어지럽힌다고 지적했다.
그러면서 “만약 여러분이 영상 속 주인공의 지인, 특히 부모나 가족이라면 이는 그야말로 폭행, 정서적 폭행”이라고 강조했다.
한편 몇몇 국가에선 온라인상에서 비슷한 피해를 경험한 유가족들이 이러한 AI 영상에 대한 항의에 나섰다.
‘강펀치보다도 아프다’
이러한 AI 영상이 온라인상에 나타나기 시작하면서 몇몇 유가족들은 목소리를 냈다.
캐나다에 사는 아멜리 르미유도 먼저 목소리를 낸 이들 중 하나다.
2020년 7월 르미유의 두 딸 로미(6)와 노라(11)는 별거 중이던 르미유의 남편의 손에 살해당했다. 남편도 그 후 스스로 목숨을 끊었다.
그런데 올해 4월, 르미유는 자신에게 벌어진 비극적인 사건에 대해 다룬 AI 영상을 접하게 됐다. 딸 노라의 모습을 한 AI가 자신이 당한 일을 들려주는 듯한 형식의 이 틱톡 영상에 소름이 끼칠 수밖에 없었다.
르미유는 “상상할 수 있는 가장 강한 펀치를 맞는 것보다 더 아팠다”고 회상했다.
“전 그 영상을 차마 끝까지 볼 수 없었습니다. 제 오빠도 그랬죠. 오빠는 이 영상을 멈추라고 소리질렀습니다.”
특히 르미유는 어린 조카들이 틱톡에서 화면을 내리다 죽은 사촌에 관한 영상을 우연히 보게 되진 않을지 걱정된다고 했다.
수많은 사람들이 틱톡 측에 해당 영상을 신고했으나, 영상은 사라지지 않았다. 결국 르미유가 직접 여러 언론사에 접촉해 자신의 참담한 심정을 토로한 끝에 해당 영상을 게시한 익명의 계정은 삭제됐다.
르미유는 누가 이 영상을 만들었는지 알지 못하지만, 이들의 행동이 경악스럽다고 했다
“누군가가 평생 나를 힘들게 할 사건, 이토록 비극적인 사건을 이용했다는 게 믿을 수 없을 정도로 충격적”이라는 르미유는 “이들은 좋아요, 댓글, 공유하기 등을 좇을 뿐이다. 나는 개인적으로 이를 용서할 수 없다”고 덧붙였다.
새로운 기술
온라인에서의 AI 소프트웨어 접근성이 좋아지면서 이러한 영상 제작도 가능해졌다.
이제 AI 프로그램을 이용하면 기본적인 사람 형태를 만들고, 애니메이션을 제작할 뿐만 아니라 정해진 스크립트를 컴퓨터가 읽게 하기란 어렵지 않다.
피해자들에 대해 무단으로 다룬 이러한 영상 중엔 실제 사람 같아 보이지 않는 조잡한 애니메이션도 있지만, 피해자의 실제 사진을 바탕으로 한 영상도 있다.
그리고 이러한 영상을 만드는 이들은 보통 익명으로 남고자 한다.
그러나 BBC는 ‘리툴’이라는 이름의, 런던에 거주하는 한 학생을 특정할 수 있었다.
틱톡 팔로워를 빠르게 끌어들이고자 자신의 유튜브 채널에서 이른바 ‘스토리텔링’ 영상을 올렸다는 리툴은 “오직 AI로만 제작한 스토리텔링 영상을 통해 팔로워 수천 명을 얻었다”고 설명했다.
“3주도 채 되지 않는 시간에 (팔로워) 4만7000명이 늘었습니다.”
리툴은 의견을 묻는 BBC의 요청을 거절했으며, 현재 그의 틱톡 계정은 삭제된 상태다.
틱톡 동영상은 단 몇 초 만에 사용자의 관심을 끌어야 한다. 그렇지 않으면 스크롤 속에 그저 넘어가 버리기 때문이다. 그렇기에 리툴과 같은 크리에이터들은 극단적이거나 인지도가 높은 사건에 대한 영상을 만드는 데 집중한다.
한편 몇몇 피해 아동들의 이야기는 포르투갈어, 스페인어, 프랑스어, 독일어, 이탈리아어, 폴란드어 등 수많은 언어로 다양하게 다뤄지기도 한다.
2달여간 BBC는 1993년 잉글랜드 머지사이드에서 청소년 2명에게 살해당한 2살 난 소년 제임스 벌거에 관한 AI 영상 무려 170개를 틱톡에서 발견할 수 있었다.
틱톡 측의 반응
지난 7월 벌거의 어머니 데니스 퍼거스가 한 신문을 통해 아들을 소재로 한 영상이 “무척 역겹다”고 말하면서 영국 언론들은 이러한 틱톡 트렌드에 주목했다.
이에 틱톡 측은 비슷한 영상을 무더기로 삭제하는 한편 “우리 플랫폼엔 이러한 종류의 유해한 콘텐츠가 설 자리는 없다. 우리는 발견하는 즉시 이러한 콘텐츠를 계속 제거하고 있다”는 내용의 성명서를 발표했다.
이렇게 삭제된 벌거의 영상 중엔 베트남어로 된 영상도 2건 있다. 이 중 한 영상은 조회수 400만 뷰를 기록했다.
한편 BBC는 익명을 조건으로 베트남의 한 틱톡 콘텐츠 검열 담당자를 인터뷰할 수 있었다. 그는 영상이 삭제된 지 2주가 지난 후에도 틱톡 측으로부터 여전히 이런 종류의 콘텐츠가 금지됐다는 공식적인 안내를 받지 못했다고 했다.
그는 틱톡에선 착취와 학대 경험 생존자들의 이야기 공유를 허용하는데, 이러한 규칙에 따라 이러한 영상들도 허용된 것으로 생각했다고 설명했다.
그렇다면 회사의 정확한 정책 내용에 대해 틱톡 직원들 간에도 혼선이 있는 것일까. 이에 대해 틱톡은 구체적인 답변을 들려주지 않았다.
그러나 틱톡 측은 생존자들의 이야기 공유를 허용하는 규칙에 따라 이러한 영상이 허용될 수 있다고 생각한 해당 담당자의 생각은 틀렸다는 점에 대해선 분명히 했다. 왜냐하면 이러한 영상은 실제 생존자가 직접 들려주는 경험이 아닌, 사망한 피해 아동들의 이미지를 이용해 AI로 제작한 영상이기 때문이다.
한편 틱톡에선 여전히 이러한 영상을 무척 쉽게 찾아볼 수 있다. 그리고 틱톡 측은 모든 영상을 다 잡아내진 못한다는 사실을 매우 솔직하게 공개한다는 입장이다.
추가 보도: 떠응 르 BBC 베트남어 뉴스
Copyright ⓒ BBC News 코리아 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
