악성 딥페이크 사라질까…피해자 직접 삭제 요구 가능해진다

악성 딥페이크 사라질까…피해자 직접 삭제 요구 가능해진다

일간스포츠 2025-01-14 15:22:37 신고

3줄요약
한국여성인권진흥원 디지털성범죄피해자지원센터 앞에 딥페이크 예방 관련 포스터가 붙어 있다. 연합뉴스

'딥페이크'(AI 합성) 성착취물 관련 이용자 보호 장치가 올해 본격 도입된다. 피해자가 직접 삭제 요구를 할 수 있는 제도적 기반이 마련될 전망이다.

14일 개인정보보호위원회(이하 개인정보위)는 2025년 주요 정책 추진 계획 6대 핵심 과제 중 하나로 'AI(인공지능) 시대 개인정보 규율 체계 혁신'을 포함했다.

개인정보위는 딥페이크를 악용한 합성 콘텐츠 등에 대해 정보 주체가 삭제를 요구할 수 있는 법적 권리의 도입 추진을 결정했다. 인격적 가치를 훼손하는 개인정보 합성 행위 등을 금지·처벌하는 방안을 내놓기로 했다.

개인정보위 관계자는 "지난해 사회적인 논란이 됐던 성적 허위 영상물뿐만 아니라 유명인 사칭 광고 등 각종 불법 합성물 제작을 근절하고자 관련 법 개정을 추진한다"며 "합성 콘텐츠에 대한 정의와 삭제 요구 권리 및 절차 등 구체적인 내용을 담을 계획"이라고 설명했다.

이는 생성형 AI의 발달로 콘텐츠 창작 진입 장벽이 확 낮아지면서 SNS 프로필 사진 등으로 제작된 불법 음란물이 확산한 데 따른 것이다.

지난해 8월 한 여대생의 얼굴을 나체 사진에 합성한 성범죄물을 익명 메신저 텔레그램에서 공유한 남성들이 경찰의 조사를 받은 사실이 전해지며, 딥페이크 악용 사례의 심각성이 수면 위로 떠올랐다.

여기에 그치지 않고 수백 곳에 달하는 중·고등학교와 대학교의 딥페이크 불법 영상물 명단이 발견돼 사회에 큰 충격을 줬다. 이에 인스타그램 등 SNS에 게시한 셀카를 삭제하는 사례가 속출했다.

딥페이크 성범죄 관련 민원도 덩달아 급증했다. 국민권익위원회에 따르면 딥페이크 성범죄 관련 민원은 2024년 1~12월 월평균 50건으로 전년 같은 기간 대비 1.7배 늘었다. 논란이 확산한 8월에는 6.1배 뛰었다.

이에 국회는 딥페이크 성 착취물 등 허위 영상물 소지·구매·저장·시청죄를 신설해 3년 이하 징역 또는 3000만원 이하의 벌금에 처하도록 하는 성폭력범죄처벌특례법 개정안을 지난해 9월 통과시켰다.

허위 영상물 제작·유포 법정형은 5년에서 7년으로 늘리고, 신분 비공개 수사 사후 승인을 허용하기로 했다.

딥페이크는 AI 기술을 활용해 존재하지 않거나 발생한 적 없는 사건을 이미지, 비디오 등으로 합성해 만들어내는 것을 뜻한다. 정치인이나 연예인을 풍자한 사진으로 시작해 가짜 뉴스와 정치적 선동, 성희롱 등 목적으로 빠르게 부작용이 확산했다.

딥페이크 영상물 제작자 대다수가 미성년자로 밝혀져 큰 충격을 주기도 했다.

경찰청이 2024년 1월부터 11월까지 딥페이크 성범죄 사건 1094건을 수사, 573명을 검거한 결과 10대가 80.8%에 달했다. 20대가 14.7%, 30대가 3.0%로 뒤를 이었다. AI에 익숙한 젊은 세대 사이에서 특히 활개를 치는 것으로 나타났다.

고학수 개인정보위 위원장은 "AI 환경 변화에 발맞춰 원칙 기반 개인정보 규율 체계의 완성도를 높여 나감으로써 국민 불안을 해소하고 국내 AI 생태계 발전을 적극 지원하겠다"고 말했다.

Copyright ⓒ 일간스포츠 무단 전재 및 재배포 금지

본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.

다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요

이 시각 주요뉴스

당신을 위한 추천 콘텐츠

알림 문구가 한줄로 들어가는 영역입니다

신고하기

작성 아이디가 들어갑니다

내용 내용이 최대 두 줄로 노출됩니다

신고 사유를 선택하세요

이 이야기를
공유하세요

이 콘텐츠를 공유하세요.

콘텐츠 공유하고 수익 받는 방법이 궁금하다면👋>
주소가 복사되었습니다.
유튜브로 이동하여 공유해 주세요.
유튜브 활용 방법 알아보기