['그녀']가 가능? 챗GPT, 성적대화·딥페이크 허용에 '이녀석'에 빠져드나

챗GPT를 서비스하는 오픈 AI 사에서 성인 이용자를 상대로 성적 대화와 딥페이크 수준의 영상 생성 등 성인용 콘텐츠를 허용하겠다고 한 것을 두고 IT 전문가인 김덕진 IT커뮤니케이션연구소장은 "돈 벌고 비즈니스 하겠다는 방향성에 대한 선포"라고 분석했다.

카드 인증이나 이런 걸 넣을 것이다'가 하나 있었고 두 번째는 대화의 패턴을 기반으로 해서 지금 대화하는 사람이 미성년자인지 아닌지 구분하는 기술을 연구하고 있다고 했다"며 "만약에 이 사람이 미성년자라고 판단이 됐을 때는 대화의 수위를 낮춘다거나 아니면 뭔가 극단적인 얘기를 하면 그 부분에 있어서 통지하겠다는 이야기를 하고 있는 상황"이라고 전했다.

김 소장은 "성인용이냐 야하냐 위험하냐가 아니라 이렇게 욕설도 섞고 야한 대화도 하는 AI랑 우리가 너무 일상적으로 대화를 하기 시작하면 과연 우리는 사람하고 대화하는 게 편할까, 아니면 AI랑 대화하는 게 편할까라는 걸 잘 생각을 해 봐야 된다"라며 "이 성인용 모드가 성인용으로 끝나는 게 아니라 최근에 AI 회사들이 여기다 여러 가지 서비스를 붙이고 있다.