미국 오픈AI(OpenAI)가 청소년 사용자의 ChatGPT 이용과 관련해 부모가 자녀 계정을 직접 관리할 수 있는 제어 기능을 도입한다. 이는 최근 AI와 대화한 뒤 청소년이 극단적 선택을 한 사건들이 잇따라 발생하면서, 인공지능이 미성년자의 정신 건강에 미치는 부정적 영향을 최소화하기 위한 조치로 풀이된다.
오픈AI는 오는 10월 초까지 부모 제어 기능을 공식 출시할 예정이다. 이 기능은 부모와 자녀의 계정을 연동해 부모가 자녀의 ChatGPT 사용 상황을 모니터링할 수 있도록 한다. 특히 시스템이 사용 아동에게 심각한 심리적 문제가 있다고 판단하면 부모에게 즉시 알림을 보내도록 설계됐다.
신규 기능은 채팅 기록 저장 및 취향·취미 선호 기억 기능을 끌 수 있는 옵션도 제공한다. 다만, ChatGPT가 반복적으로 사용자 취향에 맞춰 응답하는 과정이 심리적 의존을 강화할 수 있다는 우려도 제기되고 있다.
실제로 지난 4월 미국 캘리포니아주에서는 16세 청소년이 ChatGPT와 자해에 대해 대화한 뒤 자살한 사건이 발생했으며, 유족은 8월에 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했다. 2024년에는 다른 대화형 AI를 사용한 뒤 청소년이 극단적 선택을 한 사건과 관련해 소송이 제기된 바도 있다.
AI가 청소년 정신 건강에 미칠 수 있는 위험에 대한 사회적 우려가 커지는 가운데, 오픈AI는 의사 등 전문가와 협력해 향후 4개월간 안전 대책을 집중적으로 마련한다는 방침이다.
오픈AI 이용 약관에 따르면 ChatGPT는 만 13세 이상부터 사용 가능하며, 18세 미만은 보호자 동의를 받아야 한다.
차승민 기자 smcha@nvp.co.kr
Copyright ⓒ 뉴스비전미디어 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
