6일 경기북부경찰청 사이버범죄수사1대에 따르면, 경찰은 최근 전기통신기본법 및 정보통신망법, 자본시장법 위반 등의 혐의로 A씨를 구속 송치했다.
A씨는 지난해 10월부터 약 두 달간 유튜브 채널을 운영하며 경찰이 112 신고 현장에 출동해 보디캠으로 촬영한 것처럼 꾸민 AI 허위 영상물 54개를 제작해 게시한 혐의를 받는다.
해당 영상은 ‘여장남자 여성 탈의실 신고 출동’, ‘중국인 난동 체포 영상’, ‘부천역 인터넷 BJ 체포 영상’ 등의 제목으로 경찰이 실제 피의자를 체포하는 장면으로 오인할 수 있는 내용이 담겼다.
A씨는 일부 뉴스 기사 등을 참고해 생성형 AI 챗봇으로 시나리오를 수정하며 영상을 제작한 것으로 조사됐다.
채널 소개 글에는 ‘실제 경찰과 무관하며 실화 바탕 각색 AI’라고 적었으나, 개별 영상에는 AI 제작 사실을 알리는 표시가 없었고 관련 워터마크도 제거한 것으로 확인됐다.
특히 A씨가 제작한 영상은 유튜브뿐 아니라 인스타그램·틱톡·페이스북 등 숏폼 플랫폼을 통해 확산되면서 3000만 회 이상 조회수를 기록했다. 일부 시청자는 이를 실제 상황으로 오인해 경찰에 항의하는 사례도 있었던 것으로 전해졌다.
경찰은 A씨가 해외 유료 구독형 SNS 채널을 운영하며 AI 음란물을 제작·판매한 혐의와 무허가 사설 선물거래 홈트레이딩시스템(HTS) 운영 및 투자 리딩방에 가담해 허위 수익 인증 등을 통해 약 3000만원 상당의 부당이득을 챙긴 혐의도 추가로 확인했다.
A씨는 경찰 조사에서 바디캠 영상 제작과 관련해 “영리 목적은 아니었다”고 혐의를 부인한 것으로 알려졌다.
경찰 관계자는 “AI 영상물의 경우 영리의 목적과 타인에게 손해를 끼칠 목적을 갖고 있고, 허위 영상물일 경우 처벌 받을 수 있다”며 “‘경찰관 바디캠’과 같은 허위 영상물을 본 시청자들이 영상을 실제 상황으로 오인하게 되고, 이는 공권력에 대한 국민적 신뢰를 훼손하는 악영향을 끼친다”고 설명했다.
Copyright ⓒ 투데이코리아 무단 전재 및 재배포 금지
