한동안 인공지능(AI) 생성 프로필 사진이 유행했던 적이 있다. 몇 장의 셀카만 올리면 화보 이미지로 바꿔주고 영화 속 주인공이나 만화 캐릭터로도 만들어주는 서비스였다. 사람들은 이를 신기해했고 결과물을 SNS에 공유하며 즐겼다.
하지만 내 얼굴이 동의 없이 영상으로 만들어져 SNS에 퍼진다면 그때도 같은 반응을 보일 수 있을까. 내 얼굴과 똑같은 또 다른 내가 AI로 생성된 영상 속에서 살아간다면 그 감정은 과연 신기함일까, 아니면 불쾌함일까.
AI 영상 기술이 고도화되면서 우리는 새로운 유형의 피해에 직면했다. 최근 AI를 활용한 '얼굴 도용' 사례가 빠르게 확산되는 가운데 연예인을 넘어 인플루언서와 일반인까지 피해 대상이 확대되는 추세다. 개인 사진이 무단으로 수집·가공돼 숏폼 영상과 숏드라마 등에 활용되는 사례도 잇따르고 있다.
얼굴은 '원재료'가 됐다···정체성의 상품화
핵심은 얼굴의 '성격 변화'다. AI 콘텐츠 산업 구조 안에서 얼굴은 더 이상 보호 대상이 아니라 수집·가공·유통이 가능한 '원재료'로 전환되고 있다. 제작 비용은 낮고 확산 속도는 빠르다. 알고리즘 추천 구조에서는 인지도가 높은 얼굴일수록 트래픽 전환 효율이 높아지면서 타인의 이미지를 수익으로 연결하는 구조가 형성된다.
이는 기존 저작권 침해와는 결이 다르다. 단순 콘텐츠 무단 사용이 아닌 '정체성 자체'가 수익화되는 방식이기 때문이다.
기술은 이미 임계점···누구나 가능한 얼굴 복제
기술은 이미 임계점을 넘어섰다. 얼굴과 음성 복제는 수 초에서 수 분 수준의 데이터만으로도 고정밀 구현이 가능해지면서 누구나 접근할 수 있는 영역으로 내려왔다.
문제의 본질은 '비가역성'이다. 비밀번호나 금융자산은 유출 이후 교체나 회수가 가능하지만 얼굴은 한 번 노출되면 바꿀 수 없다. 특히 AI 모델에 학습된 이후에는 통제권 회복이 사실상 불가능에 가깝다. 이는 단순 이미지 도용을 넘어 '자아와 신체의 분리'라는 새로운 유형의 침해로 이어진다. 딥페이크 관련 연구에서도 이를 '정체성 도용(identity theft)과 평판 훼손'으로 규정하고 있다.
AI 제작의 모호성, 기술-법의 속도 격차
얼굴 대조 기술, AI 생성 콘텐츠 표시 의무, 학습 데이터 출처 공개 등 사전 대응 수단은 이미 기술적으로 구현 가능한 수준이다. 그럼에도 이러한 장치가 전면 도입되지 않는 것은 추천 알고리즘과 수익 구조 설계에 비해 우선순위에서 밀려 있기 때문이다.
일반인이라고 해서 자유로운 것도 아니다. 불과 며칠 전 국내에서는 같은 학교 여학생들의 사진으로 딥페이크 합성물을 만들어 온라인에 유포한 중학교 1학년 남학생이 경찰에 붙잡혔다. 2024년부터 2025년까지 약 1년간 국내에서 발생한 딥페이크 성범죄는 1827건이었다.
재산은 배상할 수 있고 명예는 시간이 지나면 일부 회복될 수 있다. 그러나 한 번 특정 모델의 가중치 안으로 들어간 얼굴은 되돌릴 수 없다. 영상이 삭제되고 제작사가 벌금을 내더라도 그들이 잃는 것은 돈과 시간에 그친다. 반면 피해자들이 잃는 것은 디지털 공간에서 자신의 얼굴이 어떻게 유통되는지를 통제할 수 있는 권리다.
20세기 프랑스 철학자 모리스 메를로퐁티는 '지각의 현상학'에서 인간은 몸을 '소유'하는 존재가 아니라 그 안에 '거주'하는 존재라고 해석했다. 몸은 세계를 인식하고 자아를 구성하는 근본 매개라는 것이다.
영국 왕립외과학회는 얼굴 이식 윤리 보고서에서 얼굴을 인간이 자신의 정체성을 이해하는 핵심 요소로 규정했다. 얼굴은 단순한 피부와 조직을 넘어 개인이 사회 속에서 식별되고 수용되는 방식이자 자아를 외부 세계에 드러내는 핵심 매개로 작용한다.
AI 기술은 이 전제를 흔들고 있다. 얼굴이 추출되고 재구성되며 본인이 승인하지 않은 인격과 행동이 부여되는 순간, 문제는 단순한 이미지 침해를 넘어선다. 이는 자기 분열에 가깝다. 자신의 체화된 정체성이 본인의 의지와 강제로 분리돼 다른 서사의 도구로 전락하는 것이다.
'거짓말쟁이 프리미엄'···진실도 의심받는 시대
더 경계해야 할 지점은 '거짓말쟁이 프리미엄(liar's dividend)'이다. 학술지 'Philosophy & Technology'에 실린 논문에 따르면 AI 합성 콘텐츠가 범람하면서 사람들은 모든 디지털 이미지의 진위를 체계적으로 의심하기 시작했고 이로 인해 피해자 본인이 올린 진짜 콘텐츠조차 위조로 여겨질 수 있는 환경이 만들어지고 있다.
이는 법의 후행성과도 관련이 있다. 미국 국립과학원은 2024년 보고서에서 얼굴 생성 및 인식 기술의 발전 속도가 관련 법과 규제 체계의 대응을 앞지르고 있다고 지적했다.
특히 현행 초상권 판단 기준인 '식별 가능성'은 점차 한계를 드러내고 있다. 지금의 AI 시대에는 '얼굴 특징 혼합'만으로도 법적으로 충분한 모호성을 만들 수 있다. 기존의 권리 경계는 기술적으로 이미 무력화됐고 메워야 할 법적 공백도 대량으로 존재한다.
플랫폼 책임·입증 구조 "지금 논의 시작해야"
플랫폼 역시 단순히 "신고를 받으면 처리한다"는 수준에 머물러서는 안 된다. 플랫폼이 알고리즘 추천을 할 능력이 있고 유료 수익 배분을 설계할 능력이 있다면 콘텐츠가 올라가기 전에 기본적인 초상 대조 검사를 수행할 능력도 있어야 한다.
업로더에게 추적 가능한 소재 사용 허가 체계를 제출하도록 요구할 능력도 있어야 하고 AI 생성 콘텐츠에 강제 표시를 부착해야 한다.
더 시급한 문제는 입증 책임 배분이다. 현재 사법 실무에서는 피해자가 침해 발견부터 손해 입증까지 전 과정을 스스로 입증해야 하는 경우가 많다. 이 같은 구조로는 피해 구제가 어렵다. 개인정보 보호 영역처럼 책임 구조를 재설계할 필요가 있다.
물론 이러한 대안이 즉각적인 해결책이 되기는 어렵다. 그렇다고 개인 권익 보호를 포기할 수는 없다. 뚜렷한 해법이 부재한 지금일수록 이 문제는 지속적이고 공개적인 논의가 필요한 시점이다.
☞ 딥페이크(Deepfake) = 인공지능을 활용해 특정 인물의 얼굴이나 음성을 합성해 실제처럼 보이도록 만드는 기술. 범죄·허위 정보 확산 등 부작용이 사회적 문제로 부상하고 있다.
☞ 비가역성(Irreversibility) = 한 번 발생하면 이전 상태로 되돌릴 수 없는 성질을 의미한다. 얼굴 데이터는 유출 이후 변경이 불가능하다는 점에서 대표적인 비가역 자산으로 꼽힌다.
☞ 거짓말쟁이 프리미엄(Liar's Dividend) = AI 합성 기술 확산으로 인해 실제 진짜 콘텐츠조차 "가짜일 수 있다"는 의심을 받게 되는 현상. 결과적으로 가해자가 책임을 회피할 수 있는 환경을 만든다.
여성경제신문 김성하 기자
lysf@seoulmedia.co.kr
*여성경제신문 기사는 기자 혹은 외부 필자가 작성 후 AI를 이용해 교정교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.
Copyright ⓒ 여성경제신문 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
