배달 음식 환불을 노린 AI 허위 사진 악용이 배달앱 업계 전반으로 번지고 있다. 멀쩡하게 조리된 치킨을 속살이 붉게 덜 익은 사진으로 둔갑시키거나, 정상 음식에 곰팡이가 핀 것처럼 조작한 이미지를 증빙 자료로 제출해 환불을 받아 내는 수법이다. 생성형 AI의 품질이 빠르게 높아지면서 점주와 플랫폼 모두 속수무책 상황에 놓였다.
배달플랫폼 "AI 사진 판별 시스템 부족"
21일 업계에 따르면 배달의민족과 쿠팡이츠 등 국내 양대 배달 플랫폼은 AI로 조작한 허위 음식 사진을 통한 환불 요구에 대응하지 못하고 있다. 두 플랫폼 모두 이용자가 음식 품질 문제를 이유로 주문 취소를 요청하면 사진 등 증빙 자료를 검토한 뒤 환불 절차를 밟는 구조다. 배달의민족은 가게로부터 취소 동의를 받아 환불을 진행하고, 점주가 과실을 인정하지 않을 경우에도 포인트 보상 등 손실 보상 절차가 이어진다.
문제는 이 증빙 자료 자체가 AI 생성 이미지일 때 걸러낼 수단이 없다는 점이다. 배달의민족은 리뷰 조작이나 어뷰징 행위 일부를 AI 기술로 탐지하고 있지만, AI가 만든 음식 사진을 판별하는 전용 시스템은 갖추지 못했다. 쿠팡이츠도 마찬가지 상황이다.
업계 관계자는 "AI 생성 이미지에는 기본적으로 표시 정보가 붙어 나오긴 하지만 해당 부분을 잘라내고 사진을 첨부하면 판별할 수단이 마땅치 않다"고 밝혔다. 이어 "현재로서는 AI 사진을 완벽하게 판독할 수 있는 기술적 수단이 제한적인 상황"이라고 덧붙였다.
"멀쩡히 나간 음식인데" 자영업자들의 한숨 이어져
자영업자 온라인 커뮤니티 '아프니까 사장이다'에는 비슷한 피해 사례가 이어지고 있다. 한 점주는 "요즘은 사진도 믿기 어렵다"고 토로했고, 또 다른 점주는 "멀쩡히 나간 음식이 갑자기 곰팡이 핀 음식처럼 돌아온다"며 황당함을 감추지 못했다. 한 자영업자는 "소비자 보호는 필요하지만 악성 민원은 점주가 다 떠안는다"고 하소연했다. 일부 누리꾼은 "정상적인 소비자까지 의심받게 만드는 행동"이라며 블랙컨슈머에 대한 강력한 제재가 필요하다고 지적했다.
가맹 점주가 과실을 부인하더라도 플랫폼이 고객 응대 차원에서 포인트 보상이나 손실 보상 절차를 자체적으로 진행하는 경우가 있어 분쟁의 최종 부담이 점주와 플랫폼으로 나뉘는 악순환이 반복된다는 지적도 나온다.
모니터링 강화·법적 대응으로 맞서지만 한계
양대 플랫폼은 부정행위가 확인되면 영구 제재와 법적 대응을 병행하고 있다. 하지만 AI 허위 사진을 통한 주문 취소나 환불 요구는 개별 사례별 모니터링에 의존할 수밖에 없는 실정이다. 생성형 AI 이미지의 품질이 갈수록 정교해지면서 육안으로 진위를 가려내기는 점점 어려워지고 있다.
업계 관계자는 "허위 리뷰와 부정 환불 시도는 선량한 소비자와 점주 모두에게 피해를 주는 행위"라며 "정기 모니터링을 강화하고 반복적인 악성 이용자에 대해서는 이용 제재와 법적 대응을 병행하는 등 리뷰 생태계의 신뢰도를 지키기 위한 조치를 이어갈 것"이라고 말했다.
Copyright ⓒ 위키푸디 무단 전재 및 재배포 금지
