챗GPT, 만 18세 미만 이용자 가려내 보호조치

[이데일리 김겨레 기자] 챗GPT 개발사 오픈AI가 올 1분기 중 만 18세 이하 이용자를 가려내 미성년자 보호조치를 도입한다.

샘 올트먼 오픈AI 최고경영자. (사진=AFP)

오픈AI는 20일(현지시간) 챗GPT에 연령 예측 기능을 추가해 계정 소유자가 18세 미만일 가능성을 판단한 뒤 부적절한 콘텐츠 노출을 줄이는 등 보호조치를 도입할 예정이라고 밝혔다.

챗GPT에 도입된 연령 예측 모델은 계정 생성 기간과 이용자의 일반적인 활동 시간대, 시간 경과에 따른 사용 패턴 등을 종합적으로 분석해 이용자가 18세 미만인지 아닌지 판단한다.

이용자가 만 18세 미만으로 판단되면 폭력적인 묘사나 잔혹한 콘텐츠, 미성년자에게 위험하거나 유해한 행동을 조장할 수 있는 유행 ‘챌린지’, 성적이거나 폭력적인 역할극, 자해 묘사, 극단적인 미적 기준, 건강에 해로운 극심한 다이어트, 신체 비하를 조장하는 콘텐츠 등의 노출이 제한된다.

만 18세 이상 이용자가 만 18세 미만으로 잘못 분류될 경우 별도의 인증 절차를 거치면 다시 전체 이용자 권한을 복구할 수 있다.

오픈AI는 인공지능(AI)이 정신 건강에 미치는 영향 등에 대한 전문가 의견을 참고해 이번 미성년 보호 조치를 마련했다. 오픈AI는 “전문가 의견과 아동 발달 과학에 관한 학술 문헌을 기반으로 하며, 청소년의 위험 인식, 충동 조절, 또래 영향, 감정 조절 능력의 차이를 고려했다”고 밝혔다.

오픈AI는 지난달에는 연봉 55만달러(약 8억원)의 안전 담당 책임자 채용에 나섰다. 최근 미국에서 청소년들이 AI와 대화 뒤 스스로 목숨을 끊거나 살인을 시도하는 등의 사고가 일어나면서다. 챗GPT 등 AI가 이용자의 말에 지나치게 공감하고 아부하면서 잘못된 몰입이 심화하고 정신 건강에 부정적 영향을 미치고 있다는 지적이 나왔다.

지난해 8월 미국 캘리포니아에서 10대 소년의 유족이 챗GPT가 아들의 자살을 도왔다며 소송을 제기한 이후 오픈AI를 상대로 유사한 소송이 잇따랐다. 구글과 캐릭터AI 역시 최근 플로리다·콜로라도·텍사스·뉴욕 등에서 청소년과 대화 내용을 문제 삼아 제기된 소송을 합의로 종결했다.