[AI & 윤리⑬] “저 아닙니다”...‘가짜 영상’ 딥페이크 대응, 지금이 골든타임

인공지능(AI) 기술은 정치·경제·사회·문화 전반의 작동 방식을 바꿔놓고 있다. 효율과 편리함을 확장하는 동시에 그에 상응하는 새로운 위험과 윤리적 과제도 함께 드러내고 있다.

따라서 AI 논의의 핵심은 단순한 성능 경쟁이 아니라 올바른 사용과 책임 설계에 있다. 명확한 기준과 통제가 뒷받침되지 않는다면 AI는 효율이라는 이름 아래 불평등과 불신을 심화시킬 수 있다.

투데이신문의 [AI&윤리] 기획연재는 이 지점을 정면으로 다룬다. AI가 사회 곳곳에 남기는 여파와 영향력을 구체적으로 짚고, 책임·공정성·투명성 등 윤리 원칙이 왜 필요한지, 현장에서 어떻게 구현돼야 하는지를 살펴본다.

동영상 사이트에 올라와 있는 최재영 목사의 영상. 사진 속 인물은 딥페이크 기술로 만들어진 가짜다. [이미지 출처=유튜브 영상 캡처]

 【투데이신문 전세라 기자】“제 얼굴과 목소리로 완전히 조작한 영상이었습니다. 하지도 않은 말을 한 것처럼 만들어 유포한 영상이 100개가 넘습니다”

그간 사회·정치 현안과 관련해 공개 발언을 이어온 최재영 목사는 최근 자신을 둘러싼 딥페이크 피해와 관련해 이같이 토로했다. 최 목사가 공유한 영상 속 인물은 겉보기에는 그가 직접 정치적 의견을 밝히는 모습처럼 보였다. 그러나 그의 설명에 따르면 해당 영상들은 단순한 얼굴 합성을 넘어 목소리와 말투까지 흉내 낸 조작물이었다.

문제는 이를 실제 발언으로 받아들인 사람들이 있었다는 점이다. 최 목사는 “너무 자연스럽고 그럴싸해 ‘최재영이 돌변했다’고 말하는 사람도 생겼다”며 “신고를 하려고 해도 해외에 IP 주소를 두는 경우가 많고 절차도 복잡해 추적이 쉽지 않다”고 말했다.

이처럼 기술이 빠르게 발전하면서 진짜와 가짜를 구분하기 어려운 시대가 됐다. 딥페이크는 인공지능을 이용해 특정 인물의 얼굴과 음성·행동을 실제처럼 합성하는 기술이다. 이제는 사진 한 장과 짧은 음성만으로도 누군가의 얼굴과 목소리를 빌린 영상이 만들어지고 온라인을 통해 빠르게 확산될 수 있다.

초기의 딥페이크는 유명인의 얼굴을 합성해 온라인에서 유희성 콘텐츠로 주목받았다. 그러나 점차 활용 범위는 빠르게 넓어졌다. 영화 제작, 언어 더빙 등의 콘텐츠 창작을 넘어 성적 이미지 제작, 보이스피싱 등 개인과 사회를 위협하는 도구로 악용되는 사례도 늘고 있다.

[사진출처=게티이미지뱅크]

선거·금융까지 흔드는 ‘진짜 같은 가짜’

딥페이크의 위험은 최 목사의 사례처럼 민주주의와 금융 생태계 전반으로 확장되고 있다. 실제로 2024년 미국 뉴햄프셔 민주당 예비선거를 앞두고 당시 조 바이든 대통령의 목소리를 흉내 낸 AI 음성 전화가 유권자들에게 발송됐다. 

해당 전화는 유권자들에게 예비선거에 참여하지 말라는 취지의 메시지를 전달했고, 이후 미국 연방통신위원회는 관련 정치 컨설턴트에게 600만달러의 벌금을 부과했다. 정치인의 발언을 조작한 영상이나 유명인의 목소리를 흉내 낸 음성은 여론을 왜곡할 수 있으며 특히 선거 기간에는 후보자의 이미지와 유권자의 판단에 영향을 미칠 수 있다.

금융 범죄에서도 딥페이크는 새로운 위협이 되고 있다. 실제 인물의 목소리를 복제해 가족이나 지인을 사칭하거나 기업 임원처럼 위장해 송금을 요구하는 방식이다. 과거의 피싱 범죄가 문자와 링크 중심이었다면 AI 시대의 사칭 범죄는 목소리와 얼굴까지 빌려 신뢰를 조작하는 방식으로 진화했다.

지난 2024년 홍콩에서는 한 기업의 재무 담당 직원이 딥페이크로 조작된 화상회의에 속아 약 2500만달러를 송금하는 피해가 발생했다. 회의에 등장한 최고재무책임자와 동료들은 모두 인공지능으로 만든 가짜 인물이었다.

[사진출처=게티이미지뱅크]

성적 딥페이크 확산...‘놀이’로 포장된 폭력

딥페이크 피해 가운데 가장 심각하게 지적되는 영역은 성적 합성물이다. 2024년에는 텔레그램 단체 대화방을 중심으로 이른바 ‘지인 능욕방’, ‘겹지인방’ 등이 확산하며 학교명·이름·SNS 계정 등 개인정보와 함께 불법 합성물이 공유되는 사례가 잇따랐다. 

피해자의 동의 없이 얼굴을 음란물에 합성하거나 지인 사진을 이용해 성적 이미지를 만드는 행위는 이미 온라인 공간에서 빠르게 확산해 왔다. 특히 피해자가 미성년자이거나 또래 집단 안에서 합성물이 공유되는 경우 피해는 일회성 유포를 넘어 학교생활과 대인관계 전반으로 확산될 수 있다.

최근 국내에서도 딥페이크 성범죄에 대한 처벌 강화 논의가 이어지고 있다. 과거에는 제작과 유포를 중심으로 처벌이 이뤄졌지만 피해 확산을 막기 위해 소지·시청 등 소비 행위까지 문제 삼아야 한다는 목소리가 커졌다. 딥페이크 범죄가 제작자 한 명의 행위로 끝나는 것이 아니라, 이를 저장하고 공유하고 소비하는 구조 속에서 확대되기 때문이다.

장일희 법무법인 YK 강남 주사무소 변호사는 “(딥페이크 성범죄물은) 제작뿐 아니라 배포·제공, 구입·소지·시청까지 행위 유형별로 처벌 대상이 될 수 있다”며 “직접 만들지 않았더라도 이를 저장하거나 보는 행위만으로도 문제가 될 수 있다”고 짚었다. 얼굴이나 신체, 음성을 이용한 성적 합성물 역시 성폭력처벌법상 처벌 규정이 적용될 수 있다는 설명이다.

이어 장 변호사는 현행법의 처벌 분위기에 대해서도 짚었다. 그는 “딥페이크 성범죄 관련 법정형은 이미 상당히 높게 설정돼 있다”며 “처벌 강화 논의와 함께 현재 법령에서 이런 사건들이 얼마나 중하게 다뤄지는지에 대한 사회적 인식도 필요하다”고 덧붙였다.

[사진출처=게티이미지뱅크]

딥페이크 대응, 지금이 골든타임

전문가들은 딥페이크를 단순히 ‘가짜 영상’의 문제로만 볼 수 없다고 지적한다. 인공지능 기술로 만들어진 진짜 같은 가짜 콘텐츠가 성범죄와 사기, 허위정보 유통, 초상권·명예훼손 등 다양한 영역으로 확산하고 있기 때문이다.

전창배 국제인공지능윤리협회 이사장은 규제 없는 딥페이크의 남용이 궁극적으로 훼손하는 가치는 ‘신뢰’라고 봤다. 전 이사장은 “이제는 인터넷에 올라온 사진·영상·뉴스를 보더라도 ‘가짜일 수 있다’고 의심하게 되는 시대가 됐다”며 “우리 사회를 지탱하는 가장 중요한 가치인 신뢰가 훼손되면 결국 누구도 믿을 수 없는 불신의 사회가 될 수 있다”고 우려했다.

이어 교육의 필요성도 함께 언급됐다. 그는 초·중·고에서 딥페이크 범죄 사례가 늘어나는 것을 보며 “초중고 학생들은 미래의 AI 리더가 될 세대인 만큼 AI 윤리 교육을 필수적으로 받아야 한다”며 “딥페이크 기술의 원리와 부작용, 피해 발생 시 책임, 대응 방법 등을 함께 배울 수 있어야 한다”고 말했다.

전 이사장은 지금이 딥페이크 대응의 ‘골든타임’이라고 강조했다. 그는 “딥페이크 문제는 윤리만으로 해결될 수 없고 법적 제도화도 함께 이뤄져야 한다”며 “AI 기술이 더 고도화돼 되돌릴 수 없는 단계로 가기 전에 악용과 오용을 막기 위한 사회적 논의와 제도 마련을 서둘러야 한다”고 말했다.