전 세계적으로 인공지능(AI) 기술을 악용해 타인이나 역사적 위인을 모욕하는 게시물을 유포·확산시키는 행위가 논란이 되고 있다. 우리나라에서도 3·1절을 앞두고 독립운동가를 조롱하는 악의적 게시물이 등장해 국민적 공분이 일고 있는 상황이다. 전문가들 사이에선 AI 기술의 발달로 이를 악용해 만든 허위·왜곡 정보 생산·유포 문제가 갈수록 심각해지고 있는 만큼 관련 행위 근절을 대한 법적·제도적 장치 마련이 시급하다고 입을 모았다. 이미 해외에서는 AI 기술을 악용한 허위·왜곡 정보 생산·유포 행위에 대해 강력한 처벌 근거를 마련하는 사례가 늘고 있다.
역사적 위인, 독립운동가 조롱·희화 AI 게시물 생성·유포 '망국적 행태'에 국제사회 몸살
최근 세계 각국에서 생성형 AI와 딥페이크 기술을 활용해 공적 인물을 조롱하거나 희화화해 물의를 빚는 사례가 꾸준히 등장하고 있다. 일례로 지난 2020년 영국에선 민영 방송사 'Channel 4'가 크리스마스를 앞두고 엘리자베스 2세 여왕의 모습과 목소리를 AI로 합성해 '대체 크리스마스 메시지'를 방송해 여론의 공분을 산 일이 있었다. 여왕이 실제 공식 연설 직후 등장해 틱톡 댄스를 추거나 왕실 내부 사안과 관련해 농담을 하는 장면 등이 영상에 포함된 게 결정적 이유였다. 방송 직후 수백 건의 시청자 민원이 영국 통신규제기관인 Ofcom에 접수된 것으로 알려졌다.
인도에서도 비슷한 일이 있었다. 지난 2024년 총선 기간에 독립운동의 상징적 인물로 꼽히는 마하트마 간디를 폭력적인 인물로 묘사하며 조롱하는 영상이 온라인상에 확산됐다. 해당 영상은 AI 기술로 실제 발언과 전혀 무관한 내용을 간디의 입 모양에 맞춰 합성해 제작한 것이었다. 당시 현지 언론과 시민사회 안팎에선 "역사적 인물의 맥락을 지운 채 자극적 이미지로 소비하는 행태"라는 비판의 목소리가 들끓었다.
최근 우리나라에서도 비슷한 사건이 등장해 파장이 일고 있다. 독립을 위해 한마음으로 일제의 총칼에 맞섰던 우리의 아픈 역사를 기억하고 희생한 이들을 기리는 3·1절을 앞두고 위대한 독립운동가를 희화화한 AI 영상이 SNS와 온라인 커뮤니티를 중심으로 급속도로 퍼지고 있다. 지난 22일 한 틱톡 이용자가 유관순 열사를 조롱하고 모독하는 내용의 AI 영상을 만들어 게시해 큰 파장이 일었다. 당시 영상에는 유관순 열사가 일장기를 향해 애정을 표현하거나 방귀를 뀌는 장면 등의 충격적인 내용이 담겨 있었다. 또한 27일 서경덕 성신여대 교수는 개인 인스타그램을 통해 현재 온라인상에서 퍼지고 있는 독립 운동가 조롱, 역사 왜곡 게시물을 공개하기도 했다. 공개한 게시물에는 김구 선생의 사진에 조롱하는 문구가 달려 있었다. 반대로 친일파인 이완용 사진에는 찬양성 문구가 적혀 있었다.
한국을 비롯한 세계 각국의 국민들은 국민적 공분을 일으킬만한 충격적인 내용의 AI 게시물 생성·유포 행위에 대해 '결코 간과해선 안 되는 일'이라고 입을 모았다. 네덜란드 국적의 아르텐(Aruten·28·남) 씨는 "한국인에게 김구나 유관순은 중요한 역사적 인물이라는 설명을 들었는데 그런 위대한 사람을 웃음거리로 만드는 것 자체가 굉장히 무례한 행위다"며 "우리나라에서 '안나 프랭크(Anna Frank)'를 이런 식으로 조롱하는 콘텐츠가 나오면 사회적으로 큰 파장이 생길 것 같다"고 말했다.
독일 국적의 대학생 안나(Anna·25·여)는 "독일에서는 나치 범죄와 관련된 인물을 희화화하거나 미화하는 콘텐츠는 굉장히 엄격하게 문제가 된다"며 "한국에서도 비슷한 기준이 필요할 것 같다"고 말했다. 프랑스 국적의 마티유(Matiu·34·남) 씨는 "사실처럼 AI 영상이 SNS를 통해 해외에 퍼지게 되면 그 나라 역사에 대한 잘못된 정보를 습득하게 된다"며 "한 사람 때문에 나라 전체를 오해할 수도 있다는 게 정말 심각한 사안인 것 같다"고 설명했다.
박하순 씨(64·여)는 "3·1절은 우리나라에서 매우 중요하고 의미 있는 날이라 국가 공휴일로까지 지정된 기념일인데 이런 날을 앞두고 독립운동가를 조롱하는 콘텐츠를 만드는 게 제정신인가 싶다"고 꼬집었다. 김재은 씨(29·여) 역시 "지금은 누가 만들었는지조차 알기 어려워서 더 문제인 것 같다"며 "내 주변에는 이런 범죄나 다름없는 일을 저지르는 사람이 제발 없길 바랄 정도로 심각한 문제라고 생각한다"고 강조했다. 차환희 씨(42·여)는 "초등학생인 아이들에게 역사 교육을 하면서 '이분들은 존중받아야 할 인물'이라고 설명해주는데 아이들이 유튜브를 보다가 이런 영상을 접하게 될까 심히 우려된다"고 말했다.
전문가들은 AI 기술이 점차 고도화되면서 허위·왜곡 정보 생산·유포 문제가 갈수록 심각해지고 있는 만큼 관련 외국과 마찬가지로 관련 행위 근절을 대한 법적·제도적 장치 마련이 시급하다고 입을 모았다. 지난 2024년 EU는 'AI 법'을 통해 딥페이크나 합성 영상에 대해 이용자가 AI 생성물임을 명확히 알 수 있도록 표시를 의무화했다. 해당 규정은 정치인·공적 인물·역사적 인물의 이미지를 합성한 콘텐츠에도 적용된다. 특히 고인을 모독하거나 허위 정보를 유포하는 경우에는 명예훼손, 혐오표현 등과 관련된 법률로 제재가 가능토록 했다.
미국 역시 표현의 자유를 폭넓게 보장하면서도 악의적인 딥페이크로 피해가 발생할 경우 강력한 민·형사상 책임을 묻는 구조다. 캘리포니아나 텍사스 등 일부 주에서는 선거 개입 목적의 딥페이크나 동의 없는 성적 합성물 제작·유포에 대해 형사 처벌 규정을 두고 있다. 고인에 대한 모욕적 합성물 역시 유족이 명예훼손이나 인격권 침해를 근거로 민사 소송을 제기할 수 있는 근거를 마련해 놨다.
반면 우리나라는 지난 1월 AI 관련 법률인 'AI 기본법'이 시행됐지만 관련 기업의 의무, 규제 내용만을 담고 있어 기술을 악용해 허위·왜곡·조작 게시물을 생성하고 유포하는 행위 처벌과는 거리가 멀다는 평가를 받고 있다. 전창배 한국인공지능윤리협회 이사장은 "AI 기술이 고도화됨에 따라 창작과 표현의 경계가 모호해지고 있지만 역사적 존엄성과 공적 가치를 훼손하는 행위는 표현의 자유로 정당화될 수 없다"며 "단순한 기술적 차단을 넘어 생성형 AI 이용자에 대한 윤리 교육과 함께 역사적 인물에 대한 명예훼손 및 디지털 왜곡을 방지할 수 있는 법적·제도적 장치 마련이 시급하다"고 강조했다.
Copyright ⓒ 르데스크 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
