최근 해외는 물론 국내에서도 인공지능(AI)을 활용해 만든 합성 사진을 가족이나 지인에게 보내는 SNS 챌린지가 급속히 확산하고 있다. 일명 'AI 노숙자 장난'이라 불리는 이 유행은 AI로 생성한 낯선 남성이 소파에 앉아 있거나 현관 앞에 서 있는 모습을 만들어 이를 가족이나 연인에게 전송한 뒤 놀란 반응을 캡처해 공유하는 방식이다. 단순한 장난처럼 보이지만 실제로는 공공안전에 혼란을 일으킬 수 있다는 점에서 우려가 커지고 있다.
해외에서 주로 이뤄지던 AI 합성사진 챌린지는 국내에까지 확산하고 있다. 지난 주말 SNS에는 "요즘 AI 합성 기술을 어쩌면 좋니…사진 보고 놀라서 바로 경찰 불러버린 성준뜨. 엄마 장난치고 지켜주지 못해서 미안해. 사실대로 말하면 혼날까봐"라는 게시글이 올라와 화제가 됐다. 해당 게시물은 3일 만에 조회수 15만9000회를 기록했고, 200개가 넘는 댓글이 달렸다.
누리꾼들은 비판의 목소리를 높였다. 누리꾼들은 "이런 장난 때문에 정작 필요한 곳에 경찰이 출동하지 못한다", "이건 장난이 아니라 사회적 문제다" 등 비난이 잇따랐다. 한 이용자는 "경찰까지 불렀다면 그건 이미 범죄에 가까운 행위다. 이런 일로 긴급 자원이 낭비되는 건 심각한 문제"라고 지적했다.
해당 챌린지는 미국과 영국에서 시작돼 한국 등으로 확산하고 있는 것으로 알려졌다. AI 이미지 생성 기술을 이용해 마치 노숙자나 낯선 사람이 집 안에 들어온 것처럼 연출한 영상을 SNS에 올리는 챌린지가 폭발적인 인기를 얻으면서 수백만 조회수를 기록하고 있다. 국내 유튜버와 틱톡커들도 같은 형식을 따라 연인·가족·직장 상사를 속이는 영상들을 제작하고 있다.
하지만 이러한 장난이 실제 공공안전을 위협하면서 문제가 되고 있다. 미국 미시간주 블룸필드 경찰은 "실제 침입으로 오인한 시민들의 신고가 잇따라 경찰력이 낭비되고 있다"며 "이건 결코 재밌는 장난이 아니다"라고 경고했다. 영국에서도 부모가 "딸이 혼자 집에 있는데 낯선 남성이 침입했다"고 신고했으나 조사 결과 딸의 장난으로 드러나 사회적 논란이 일기도 했다.
르데스크가 구글이 제공하는 AI서비스인 '제미나이'를 활용해 합성 사진을 직접 제작한 결과 단 10초 만에 노숙자가 사무실 앞에 앉아 있는 모습을 제작할 수 있었다. 조작하고 싶은 사진과 명령 '유리문 앞에 노숙자가 앉아 있는 모습을 그려줘'를 프롬프터에 입력하면 원하는 사진을 금방 얻을 수 있다.
이러한 챌린지가 무분별하게 유행하고 있는 배경에는 AI 합성 기술의 접근성이 높고 자극적인 콘텐츠가 빠르게 확산되는 구조가 지목된다. 누구나 손쉽게 현실감 있는 이미지를 만들어낼 수 있다 보니 장난의 경계가 모호해지고 실제 공공안전에 위협이 되는 상황에도 경각심 없이 참여하게 된다는 것이다.
조한승 씨(37·남)는 "회사에서 AI를 활용하지 않는 사람을 찾아보기 힘들 정도로 업무에 AI가 이미 보편화돼 있다. 이런 상황에서 장난으로 AI를 활용하는 것은 기술의 남용이라고 생각한다"며 "재미를 위해서라도 공공안전을 위협하는 행동은 자제해야 한다"고 말했다.
최윤정 씨(43·여)는 "AI로 만든 이미지를 실제 상황처럼 연출하면 충분히 속을 수 있다"며 "집에 혼자 있는 아이가 이런 사진을 보내왔다면 나라도 놀라서 경찰에 신고했을 것 같다"고 전했다. 이어 최 씨는 "장난이라고 해도 상대방에게 큰 불안감을 줄 수 있는 만큼, AI를 활용할 때는 반드시 책임감을 가지고 행동해야 한다"고 덧붙였다.
전문가들 사이에서는 AI를 활용하는 사용자들이 스스로 윤리적 인식을 높이고 책임 있는 행동을 해야 한다는 지적이 나온다. AI 발달로 인해 현실과 거의 구분이 불가능한 합성 이미지가 손쉽게 제작될 수 있다는 점에서, 단순 장난이라도 상대방에게 큰 불안감을 줄 수 있어 주의가 필요하다는 것이다.
전창배 국제인공지능윤리협회 이사장은 "현재 이와 관련된 법이 없는 만큼 우리 스스로가 윤리적으로 사용하는 것 외에는 방법이 없다"며 "인공지능을 활용한 이미지를 배포하기 전에 'AI를 활용했다'는 사실을 워터마크로 표시해 책임 있는 사용 문화를 만들어야 한다"고 밝혔다.
Copyright ⓒ 르데스크 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
