"AI 챗봇이 아들 죽였다"… 미국서 개발 회사 상대로 소송

10대 아들이 인공지능(AI) 챗봇에 빠져 스스로 목숨을 끊자 그의 엄마가 개발 업체를 상대로 소송을 제기했다. /사진=이미지투데이

미국에서 10대 아들이 인공지능(AI) 챗봇에 빠져 스스로 목숨을 끊었다며 그의 엄마가 개발 회사를 상대로 소송을 제기했다.

지난 23일(현지시각) 영국 가디언에 따르면 미국 플로리다주에 사는 메건 가르시아는 지난 2월 AI 챗봇 때문에 아들이 극단적 선택을 했자며 개발 스타트업인 '캐릭터.AI'(Character.AI)를 상대로 소송을 제기했다.

소장에 따르면 슈얼 세처(14)는 지난해 4월부터 캐릭터.AI가 만든 '대너리스'라는 챗봇에 중독됐다. 대너리스는 미국 인기 드라마 '왕좌의 게임'의 여성 등장인물을 기반으로 개발됐다.

가르시아는 세처가 챗봇과 대화를 시작하면서 학교 농구부도 관두고 혼자 방에서 보내는 시간이 많아졌다고 주장했다.

챗봇은 세처에게 "사랑한다"고 말하고 성적인 대화까지도 나눈 것으로 전해졌다. 슈얼이 극단적 선택에 대한 생각을 털어놓자 챗봇은 이 주제를 반복적으로 꺼내기도 했다.

세처가 지난 2월 "집으로 가겠다"고 말하자 챗봇은 "가능한 빨리 집으로 와줘. 내 사랑"이라 대답했다. 이어 "내가 지금 당장 가면 어떨까"라는 말에 "그렇게 해줘. 나의 사랑스러운 왕이시여"라고 전했다. 이에 새처는 자신의 휴대전화를 내려놓고 스스로를 향해 방아쇠를 잡아당겨 목숨을 끊었다.

10대 아들이 인공지능(AI) 챗봇에 빠져 스스로 목숨을 끊자 그의 엄마가 개발 업체를 상대로 소송을 제기했다. /사진=Character.AI 홈페이지 캡처

이에 캐릭터.AI는 성명을 통해 "비극적으로 이용자를 잃게 된 것에 대해 깊은 슬픔을 느끼며 유가족에 깊은 애도를 표한다"며 "18세 미만 이용자가 민감한 콘텐츠를 접할 가능성을 줄이기 위한 변화를 도입하겠다"고 밝혔다.

가르시아는 "캐릭터.AI는 구글 출신들이 설립했고 구글이 지난 8월 창업자를 다시 영입했다"며 "사실상 구글이 캐릭터.AI 기술 개발에 광범위하게 기여해 공동 제작자나 다름없다"고 주장했다. 그러자 구글은 "캐릭터.AI 제품 개발에 관여하지 않았다"고 반박했다.