AI 기반 딥페이크 탐지 스타트업 스틸컷(Stealcut)이 AI 생성 이미지 판별 모델을 공개하며 글로벌 탐지 시장 경쟁에 본격적으로 뛰어들었다.
스틸컷은 최근 진행한 벤치마크 평가에서 Grok, Gemini, ChatGPT 등 최신 생성형 AI 모델 8종과 상용 딥페이크 생성 서비스 결과물을 기반으로 성능을 비교했다. 해당 테스트에서 해외 주요 AI 이미지 탐지 서비스 3곳을 모든 지표에서 앞섰다고 밝혔다.
회사 측이 공개한 결과에 따르면 스틸컷 탐지 모델은 전체 정확도 93.9%, 위조 이미지 탐지율 92.3%, 생성형 AI 모델 평균 탐지율 90.2%를 기록했다. 위조 이미지 탐지율 기준으로는 비교 대상 2위 서비스 대비 8.3%포인트 높은 수치를 나타냈다.
딥페이크와 AI 생성 허위 콘텐츠는 최근 언론 보도, 금융 사기, 기업 보안 영역에서 빠르게 확산되는 흐름이다. 실제 보도 현장에서는 AI 생성 이미지가 오보로 이어지는 사례가 보고되고 있으며, 임원 얼굴을 합성한 딥페이크 영상이 금융 사기에 악용되는 사례도 늘고 있다.
스틸컷은 이러한 문제를 콘텐츠 생산 단계에서 차단하는 기술 구조를 핵심으로 내세운다. 해당 모델은 딥페이크 생성 원리를 역추적해 학습한 구조로 설계돼, 경량화된 시스템에서도 최신 생성형 AI 이미지의 흔적을 포착할 수 있도록 개발됐다.
탐지 모델과 함께 공개된 방어 기술도 눈길을 끈다. 육안으로 확인이 어려운 미세 신호를 이미지에 삽입해 딥페이크 합성을 어렵게 만드는 방식으로, 실제 상용 딥페이크 사이트 30곳을 대상으로 한 테스트에서 얼굴 합성 기반 서비스 기준 70% 방어율을 기록했다고 회사 측은 설명했다.
이 기술은 한국과 미국, 유럽 등 4건의 글로벌 특허 출원이 완료된 상태다.
업계에서는 AI 생성 콘텐츠가 이미 뉴스 및 온라인 플랫폼 전반으로 확산된 만큼, 콘텐츠 검증 단계의 자동화 수요가 커질 것으로 보고 있다. 특히 보도 이미지의 진위 확인 과정에서 별도 검증 도구를 적용할 수 있다는 점은 언론 및 플랫폼 업계에서 활용 가능성이 있는 영역으로 평가된다.
스틸컷은 현재 자사 홈페이지를 통해 이미지 업로드 기반 탐지 서비스를 무료로 제공하고 있다. 사용자는 이미지를 업로드하면 AI 생성 여부를 즉시 확인할 수 있는 구조다.
다만 탐지 기술이 빠르게 발전하는 생성형 AI 기술 속도를 얼마나 지속적으로 따라잡을 수 있을지는 향후 과제로 남아 있다. 생성 모델의 고도화가 이어지는 상황에서 탐지 정확도의 유지와 데이터 업데이트 주기가 기술 경쟁력을 좌우할 핵심 요소로 꼽힌다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
