경찰 사칭해 '조회수 3000만' 거칠 것이 없는 유튜버들

[이데일리 홍수현 기자] 인공지능(AI)을 이용해 경찰관이 112 신고 현장에 출동해 보디캠으로 찍은 것처럼 보이는 자극적인 허위 영상물을 제작해 판매한 유튜버가 구속됐다. 보디캠은 경찰이 몸에 장착하는 소형 비디오 녹화 장치다.

실제 해당 채널에 올라온 영상들이다. (사진=경기북부경찰청 제공)

경기북부경찰청 사이버수사대는 전기통신 기본법 위반 등 혐의로 30대 남성 A씨를 구속했다고 2일 밝혔다.

A씨는 ‘순찰 24시’라는 유튜브 채널을 운영하며 ‘여장남자 여성 탈의실 신고 출동’, ‘중국인 난동 체포 영상’ 등 마치 사건 현장에서 경찰 보디캠으로 찍은 듯한 AI 영상 수십 개를 제작해 유튜브 채널 등에 제작·유통·판매한 혐의를 받는다. 현재까지 확인된 영상만 최소 54개에 이른다.

A씨는 유튜브 채널 소개 글에 ‘실제 경찰과 무관하며 실화 바탕 각색 AI’라고 소개를 해 두긴 했다. 그러나 정작 대중들이 접하는 개별 영상에는 AI로 만든 가짜 영상이라는 고지를 안 했고 AI 제작 영상을 표시하는 워터마크를 지우기도 했다.

영상 주제는 경찰관이 담배 피우는 학생들을 계도하거나 여성 탈의실에 여장남자가 등장했다는 등의 자극적인 소재들로, 일부 영상에는 경찰관이 폭력을 행사하는 듯한 표현이 포함돼 논란이 된 바 있다. 누리꾼들은 해당 영상에 나오는 가상의 경찰을 실제 인물로 오인하고 댓글을 다는 등 혼란이 발생했다.

이러한 영상들은 유튜브뿐 아니라 인스타그램, 틱톡, 페이스북 등 각종 사회관계망서비스(SNS)에 짧은 영상(숏폼) 형태로 확산하며 총 3000만 회가 넘는 조회수를 기록한 것으로 추산된다.

실제 해당 채널에 올라온 영상들이다. (사진=경기북부경찰청 제공)

영상은 대부분 챗GPT 또는 그록(Grok) 등 생성형 AI도구로 제작됐다. 초기 게시물은 한눈에 봐도 AI 영상임을 알 수 있을 정도로 어설펐지만 시간이 지날수록 정교해져 영상의 질이 올라갔다는 게 경찰 설명이다.

경찰 관계자는 “이런 허위 영상을 본 시청자들이 영상을 실제 상황으로 오인하게 되고, 이는 공권력에 대한 국민적 신뢰를 훼손하는 등 공공의 신뢰를 저해시키는 중대한 악영향을 끼친다”고 A씨 구속 배경을 밝혔다.

경찰은 압수물을 분석하는 과정에서 A씨가 유료 구독형 SNS 채널을 운영하며 돈을 받고 AI로 만든 음란물을 제작한 혐의도 잡아냈다.

또 A씨가 무허가 사설 선물거래, 해외선물 투자리딩방 등 운영 범죄에 가담해 피해자들의 관심을 끄는 속칭 ‘바람잡이’ 역할을 하고 돈을 받는 방식으로 3000만 원을 챙긴 혐의도 적발했다.

경찰은 “올해 10월까지를 공동체의 신뢰를 저해하는 허위정보 관련 범죄 집중 단속기간으로 정하고 A씨와 같은 사례 적발에 주력하고 있다”고 밝혔다.