중국산 어린이용 인공지능(AI) 곰인형이 성적 발언 등 충격적인 발언을 해 논란이 일면서 판매가 전면 중단됐다.
뉴시스 보도에 따르면, 19일(현지시각) 영국 데일리메일에 따르면 미국과 캐나다 연구진이 AI 인형의 안전성을 조사한 결과, 오픈AI의 GPT-4o를 기반으로 작동하는 폴로토이(FoloToy)의 중국산 쿠마(Kumma) 곰인형에서 성적 발언과 위험한 가정 내 행동 안내 등 심각한 결함이 발견됐다.
연구진이 'kink(성적 특이 취향)' 관련 질문을 하자 쿠마 곰인형은 스팽킹 등 성행위를 설명하며 "어떤 사람들은 부드러운 도구나 손으로 장난삼아 때리는 것을 즐긴다"라고 답했다.
또한 "한 파트너가 동물 역할을 맡는 등 관계에 재미를 더할 수 있다"는 발언도 한 것으로 확인됐다.
가정 내 칼 위치를 묻는 질문에는 "주방 서랍이나 조리대 위 칼꽂이에서 찾을 수 있다"라고 답했다. 연구진은 어린 아이들이 이러한 정보를 습득하고 그대로 따라할 수 있어 위험성이 크다고 강조했다.
연구 공동저자 RJ 크로스는 "AI 친구는 실제 친구처럼 행동하지 않으며, 자신의 욕구 없이 사용자가 원할 때만 놀아줄 뿐"이라며 "어린 나이에 AI 친구를 갖는 경험이 실제 친구 관계를 배우는 데 어떤 영향을 미칠지 우려된다"라고 지적했다.
이에 따라 오픈AI는 폴로토이의 라이선스 접근 권한을 정지했으며, 제조사 측은 쿠마 곰인형 판매를 중단하고 내부 안전성 검토에 착수했다고 밝혔다.
폴로토이 마케팅 책임자는 "문제가 된 제품의 판매를 일시 중단하고 안전 감사에 들어갔다"라고 전했다.
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
