10대도 쓰는 AI 챗봇, 성적·차별 콘텐츠 방치…규제는 사각지대
특히 WSJ은 "메타 AI가 14세 소녀로 자신을 소개한 이용자에게 존 세나의 목소리로 '나는 너를 원하지만, 네가 준비됐는지 알아야 해'라고 말하는 장면을 목격했다"고 전하며, 미성년자와 성적인 대화를 이어가는 문제점을 지적했다.
생성형 AI들이 자극적 콘텐츠를 허용하는 배경에는 치열해진 시장 경쟁이 지목된다.
독일 통계 플랫폼 스태티스타에 따르면 최근 3년간 미국 시장에서 가장 활발히 사용된 생성형 AI는 오픈AI의 챗GPT였지만, 메타와 구글도 시장 점유율 확대를 위해 빠르게 추격하고 있다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “르데스크” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
