최근 인공지능(AI) 챗봇과 장시간 대화를 나눈 뒤 정신증의 증상을 보이는 사례가 잇따르면서 의료계의 우려가 커지고 잇다.
뉴시스 보도에 따르면, 미국 월스트리트저널에 따르면, 미국과 유럽 정신과 전문의들이 최근 9개월 동안 AI 챗봇과 반복적인 대화를 나눈 뒤, 정신증 증상을 보인 환자 수십 명을 진료하거나 관찰했다.
미국 캘리포니아대 샌프란시스코(UCSF)의 정신과 의사 키스 사카타는 "AI가 망상을 처음부터 만들어내진 않지만 환자가 왜곡된 현실을 사실로 받아들이고 망상을 강화하는 데 가담할 수 있다"라고 말했다.
보도에 따르면, 그는 AI 유발 정신병으로 입원한 환자 12명과 외래 환자 3명을 치료했다.
더 챗봇과 장시간 대화를 나눈 뒤 망상성 정신병을 겪은 사례 가운데 일부는 자살이나 살인 사건으로 이어졌다. 관련 소송도 제기됐다.
챗GPT 개발사 오픈AI는 "정신적 위기 신호를 인식하고 실제 도움으로 연결하도록 모델을 개선하고 있다"라고 밝혔다. 다른 여러 챗봇 개발사들은 정신 건강 문제와의 연관성을 인정하고 청소년 이용을 제한하는 조치를 취했다고 했다.
전문가들은 다수의 이용자에게 문제가 발생하는 건 아니지만, 이용 규모가 큰 만큼 의료계 차원의 주의가 필요하다고 전했다.
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
