"아빠, 나야" 다급한 AI 가짜 목소리에 당했다…갈수록 지능화·교묘화

[이데일리 김현재 염정인 기자] 딥페이크나 딥보이스 등 인공지능(AI) 기술을 결합한 피싱 범죄는 더이상 새로운 현상이 아니다. 범죄에 첨단기술이 더해지면서 영상과 목소리도 의심해야 하는 시대가 됐다.

또 피싱범죄가 과거에는 같은 방식으로 불특정 다수를 대상으로 범죄를 시도하는 소위 ‘투망형’이었다면 최근에는 세대별로 유인책(미끼)을 다르게 활용하는 ‘맞춤형’으로 진화하고 있다. 전문가들은 국민 개개인의 주의 뿐만 아니라 첨단기술을 동원한 범죄피해 예방을 위한 기술지원이 반드시 필요하다고 조언했다.

(그래픽= 이미나 기자)

◇‘투망형’에서 ‘작살형’으로 진화…AI 활용해 일상 침투

26일 이데일리 취재를 종합하면 최근 AI 기술을 활용한 피싱 범죄 중 실제 범죄에 활용되고 있는 대표적인 기술은 딥페이크·딥보이스 기술이다. 기자가 아버지에게 보낸 영상처럼 사회관계망서비스(SNS)에 올라온 사진 몇 장과 30초 분량의 목소리만 있으면 누구나 쉽게 가짜 영상과 목소리를 만들어 피싱 범죄에 활용할 수 있다.

경찰 관계자는 “과거에는 ‘한 명만 걸려라’는 식의 투망형 범죄였다면 최근에는 피해자의 다양한 개인정보를 SNS를 통해 수집한 후 개인 맞춤형으로 속이는 형태로 진화하고 있다”고 설명했다.

특히 딥페이크 영상은 표정이 어색하거나 움직임이 부자연스러워 금세 가짜라는 걸 알 수 있었다. 하지만 최근에는 전문가들도 자세히 들여다봐야 겨우 진위를 구분할 수 있는 수준까지 발전했다. 실제 지난해 4월 울산에서는 딥페이크로 가상 인물을 만들어 채팅 앱을 통해 이성에게 접근한 뒤 신뢰를 쌓으며 투자 사기를 유도해 100여명에게 120억원을 가로챈 피싱 조직이 경찰에 검거됐다. 이들은 SNS에 있는 일반인 사진을 모아 딥페이크 기술을 이용해 가상 인물인 34세 여성을 만들어 피해자들을 속인 것으로 확인됐다.

2024년 5월 부산에서는 딥보이스를 이용해 2000만원을 가로채려던 범죄가 경찰에 적발됐다. 피해자인 60대 A씨는 딸의 휴대폰 번호로 걸려온 전화를 받았다. 통화 속 인물은 “친구의 보증을 섰는데 친구가 연락이 두절돼 잡혀왔다”고 말했다. A씨는 딸을 구하기 위해 집 근처 은행을 찾아 2000만원을 인출했다. 그러나 경찰이 현금 수거책을 검거해 수사한 결과 전화 속 딸의 목소리는 AI를 이용해 만든 가짜로 밝혀졌다.

우사이먼성일 교수 연구팀이 개발 중인 딥페이크 탐지 모델. 영상을 시청하며 즉각 딥페이크 여부를 판별할 수 있다.(영상= 우사이먼성일 교수 제공)

◇“AI 영상 육안 판별 점차 어려워져…보안에 투자해야”

전문가들은 앞으로 일반인이 딥페이크 영상을 구분하기 어려울 것이라고 경고한다.

2017년부터 딥페이크 탐지 기술을 연구·개발하고 있는 우사이먼성일 성균관대 소프트웨어학과 교수는 “아직은 불완전한 부분이 눈에 띄지만 1~2년 뒤에는 생성형 AI가 만든 영상을 육안으로 진위여부를 판별하기 어려울 것”이라며 “생성형 AI가 3~6개월마다 발전하고 있고, 딥페이크를 제작하는 방식도 제각기 달라 별개의 탐지 모델을 개발해야 하는 상황”이라고 말했다.

우 교수는 이에 대한 우리나라의 관심과 지원이 태부족이라고 꼬집었다. 그는 “딥페이크는 공인뿐 아니라 평범한 시민의 인생까지 뒤흔들 정도로 빠르게 진화하고 있다”며 “우리나라는 아직 딥페이크 탐지기술에 대한 관심이 낮다”고 지적했다. 이어 “AI 기술의 발전도 중요하지만 안전과 보안분야도 관심을 갖고 충분한 투자가 이뤄져야 한다”고 덧붙였다.

그러면서 우 교수는 “국내에는 딥페이크 탐지를 위한 연구자료가 부족하다”며 “유럽과 미국 등은 사기업 차원에서 딥페이크 탐지 기술 연구·개발이 활발하게 이뤄지고 있는 점을 참고할 필요가 있다”고 강조했다.

우 교수는 지난해 5월부터 경찰청의 ‘허위조작 콘텐츠 진위 판별 시스템’ 연구 컨소시엄에 참여하고 있다. 그는 “우리가 만든 실시간 딥페이크 탐지 기술이 범죄 수사에 활용돼 AI를 이용한 범죄 예방에 기여하는 게 목표”라며 “빨리 기술개발 및 상용화를 통해 대중들도 즉각 딥페이크 영상 여부를 판별할 수 있도록 노력하겠다”고 강조했다.

우사이먼성일 성균관대학교 소프트웨어학과 교수가 8일 연구실에서 이데일리와 인터뷰하고 있다.(사진=방인권 기자)

◇범죄도 세대별 맞춤 공략으로 진화

피싱범죄는 세대별 취약점을 공략하는 맞춤형 범죄로도 탈바꿈하고 있다. 최근 유행하고 있는 ‘셀프 감금’ 기관사칭형 피싱 피해는 2030세대에, 사회관계망서비스(SNS)를 통한 물품 구매형 피싱 피해는 5060세대에 몰리는 식이다.

지방에 사는 임모(30)씨는 작년 7월 검사를 사칭한 강모씨로부터 받은 전화에서 ‘당신이 큰 범죄에 휘말렸다’고 들었다. 강씨는 임씨에 대한 정보를 줄줄 읊으면서 수사에 협조하지 않으면 구속하겠다고 협박했다. 이 과정에서 휴대폰을 새로 개통하게 했고, 그러면서 임씨에게 서울로 올라와 호텔을 잡을 것을 종용했다. 이미 악성앱에 감염된 휴대폰으로 협박을 받던 임씨는 무려 7000여만원을 범인에게 보내고 말았다.

임씨가 당한 피싱 범죄는 최근 기승을 부리는 ‘셀프 감금’ 기관사칭형 피싱의 전형적인 수법이다. 피해자를 스스로 숙박업소에 가두게 한 후 자산 송금을 유도하는 방식이다. 이 피싱 범죄의 주된 타깃은 2030 세대다. 실제 지난해 1~8월 셀프감금 수법이 포함된 기관사칭형 보이스피싱의 피해액은 전년동기대비 167% 이상 증가한 6753억원으로 집계됐다. 2030세대의 비중은 52.5%에 달한다.

임씨는 “보안이 중요하다는 피싱범의 이야기에 더 믿을 수밖에 없었다”고 했다. 비대면 금융환경에 익숙한 청년층은 악성 앱이나 합성 신분증 등 디지털 기술로 속이면 더 쉽게 믿는 특성이 있기 때문이라는 게 경찰의 설명이다.

SNS(사회관계망서비스)에 관심은 많지만 IT에 능숙하진 않은 중장년층도 피싱범들의 먹잇감이 되고 있다.

작년 4월 최모(51)씨는 SNS에 올라온 ‘다이어트약’ 광고를 유심히 보게 됐다. 방송인 유재석이 나온 영상을 짜깁기 한 광고로 다이어트에 관심이 있던 최씨는 연락처를 남겼고 4개월간 1억원 이상의 돈을 날렸다.

전문가들은 세대별로 ‘약한 고리’가 다르다는 점을 피싱 조직이 정교하게 활용하고 있다고 지적한다. 김대근 한국형사·법무정책연구원 연구위원은 “최근 개인정보 탈취가 빈번해지면서 피싱범이 개인에 대한 정보를 특정한 뒤 접근할 수 있는 여지가 늘었다”고 지적했다.

※딥페이크(deepfake)·딥보이스(Deepvoice)

: 인공지능 기술을 활용한 인간 이미지 합성 및 목소리 합성기술을 각각 딥페이크, 딥보이스라고 부른다.