AI가 생성한 가짜 콘텐츠 범람…틱톡, 2.8조원 들여 잡아낸다

[이데일리 권하영 기자] 틱톡이 국내외에서 커지는 유해 콘텐츠 확산 우려와 규제 움직임에 대응해, 한국 정부의 가이드라인에 적극 보조를 맞추겠다는 입장을 분명히 했다. 인공지능(AI)을 악용한 딥페이크와 허위·과장 광고 등 사회적 문제에 대해 선제 대응하겠다는 것이다.

틱톡코리아 2025 미디어 데이에서 발표를 진행하고 있는 양수영 틱톡 동북아 신뢰안전팀 파트너십 매니저. 사진=틱톡코리아

틱톡코리아는 18일 서울 강남구 CGV 청담씨네시티에서 ‘2025 틱톡 미디어 데이’를 열고, 최근 제기되는 플랫폼 신뢰·안전 차원의 대응 전략과 함께 K-컬처 트렌드를 공유했다.

◇정부 ‘24시간 내 삭제’ 제도화 움직임에 “적극 협조”

최근 방송미디어통신위원회 등 정부 당국은 AI 생성 허위·과장 광고에 대해 생성물 표시 의무를 강화하고, 유해 콘텐츠를 24시간 내 신속 차단하도록 플랫폼 책임을 확대하는 제도 개선을 추진 중이다. 그간 해외 플랫폼 사업자에 대해선 특히 법적 강제력이 약하고 정부 협조도 미흡하다는 지적이 제기돼 왔다.

이에 대해 양수영 틱톡 동북아 신뢰와안전팀 파트너십 매니저는 “생성형 AI가 초래할 수 있는 허위 정보와 오해를 최소화하기 위해 기술·정책·이용자 설정 기능을 함께 강화하고 있다”며 “현실과 구분하기 어려운 오해 소지가 있는 AI 생성 콘텐츠에는 라벨링을 의무화하고 있으며, 라벨링 여부와 관계없이 가이드라인을 위반한 유해 콘텐츠는 삭제하고 있다”고 설명했다.

틱톡은 이를 위해 자체 식별 라벨링 기술을 활용하는 한편 콘텐츠 출처·진위 확인 연합체인 C2PA를 통한 기술 개발 등에 참여하며, 사용자가 스스로 AI 콘텐츠를 얼마나 볼 것인지 조정할 수 있는 기능도 강화하고 있다.

박상현 틱톡 홍보총괄은 “국내 정책상 변경 요청이 있을 경우 틱톡이 적극적으로 수용해왔다는 점은 관계기관 담당자들도 인지하고 있을 것”이라며 “틱톡을 더 엄격하게 바라보는 시선이 있는 만큼, 오히려 더 책임감을 갖고 대응하고 있다”고 강조했다.

틱톡의 ‘커뮤니티 가이드라인 집행 보고서’에 따르면, 올해 2분기 기준 규정 위반 콘텐츠의 99% 이상이 사용자 신고 이전에 선제적으로 감지·삭제됐다. 이 가운데 90% 이상은 단 한 번도 조회되지 않은 상태에서 제거됐다. 틱톡은 이러한 콘텐츠 관리 체계 유지를 위해 연 20억 달러(약 2조8000억 원) 이상을 투자했다.

다만 해당 수치는 글로벌 통합 기준으로, 한국 시장에 특화된 별도 투자 규모나 조치 현황에 대해서는 “구체적인 수치를 산출하지 않는다”고 밝혔다.

틱톡은 콘텐츠 관리 외에도 청소년 보호를 위해 계정 생성 단계부터 연령별 보호 장치를 기본 설정으로 적용하고 있다. 16세 미만 계정은 자동으로 비공개 전환되며, 다이렉트 메시지, 콘텐츠 다운로드, 추천 피드 노출이 제한된다. 18세 미만 청소년 계정에는 하루 60분의 기본 스크린타임 한도가 적용된다. 보호자가 자녀의 이용 환경을 관리할 수 있도록 ‘패밀리 페어링(Family Pairing)’ 기능도 운영 중이다.

◇K-컬처 해시태그 1년 새 급증…로제 ‘아파트’ 올해 최고 인기곡

이날 틱톡은 플랫폼 이용 데이터를 바탕으로 K-컬처의 글로벌 파급력도 강조했다. 자체 분석 결과, K-컬처 관련 주요 해시태그 게시물의 절반 이상이 최근 12개월 내 생성된 것으로 나타났다. 특히 △K스킨케어(60%) △K뷰티(50%) △K푸드(50%) 등은 지난 1년간 게시물이 급증하며 높은 참여도를 기록했다.

정재훈 틱톡코리아 운영 총괄은 “틱톡에서 한국 문화 확산이 올해도 계속됐다”며 K-컬처의 글로벌 확산과 실제 비즈니스 기회 창출에 틱톡이 기여하고 있다고 강조했다. 틱톡에 따르면 미국 소비자의 86%와 동남아 소비자의 76%가 “틱톡으로 한국 문화에 대해 잘 알게 됐다”고 응답했으며, 특히 동남아 소비자의 92%는 “K드라마와 K팝을 통해 한국 제품과 브랜드에 관심을 갖게 됐다”고 답했다.

정 총괄은 “틱톡은 관계가 아닌 ‘관심사 기반’ 플랫폼이기 때문에 팔로워 수가 적어도 콘텐츠 경쟁력이 있으면 전 세계로 확산될 수 있다”며 “한국 미디어 산업 전반과의 협업 모델을 더욱 확대해 나가겠다”고 말했다. 올해 한국 틱톡에서 가장 사랑받은 곡으로는 로제와 브루노 마스의 ‘아파트(APT.)’가 1위에 올랐다.

◇틱톡샵 도입은 여전히 ‘안갯속’…“한국 시장은 신중 접근”

국내 기업들의 관심을 모아 온 ‘틱톡샵’의 한국 서비스 개시 시점은 구체화되지 않았다. 틱톡샵은 틱톡 이용자가 영상 시청 중 마음에 드는 상품을 발견하면 앱을 벗어나지 않고 바로 구매할 수 있는 콘텐츠 기반 커머스 서비스다.

틱톡은 국내 사업자가 미국이나 동남아 시장의 틱톡샵에 진출할 수 있도록 ‘크로스보더 솔루션’ 지원에는 적극적이지만, 한국 내 틱톡샵 출시에 대해서는 신중했다.

박상현 홍보총괄은 “한국은 틱톡에 매우 중요한 시장이지만, 이커머스 수준이 이미 높고 규제 환경도 복잡하다”며 “사용자와 파트너사가 충분히 만족할 수 있는 서비스 완성도를 갖출 수 있는 시점을 종합 검토하고 있다”고 말했다.