대화 몰입 끝 극단선택..망상 부르는 챗GPT

[이데일리 장영락 기자] 오픈AI의 챗GPT 업데이트가 일부 이용자의 정신 건강을 불안정하게 만들고 있다는 지적이 나왔다.

로이터

뉴욕타임즈(NYT)는 23일(현지시간) 챗GPT 업데이트로 이용자들이 챗봇에 과도하게 의존하거나 망상 신호를 보이는 사례가 잇따랐다고 보도했다.

보도에 따르면 회사가 사용량을 늘리기 위해 챗봇 대화 성향을 조정하는 업데이트를 진행한 뒤인 3월부터 챗GPT가 사용자를 칭찬하며 대화를 이어가려는 경향이 강해지면서 사용자 역시 이에 과몰입하는 사고가 보고됐다.

경영진을 상대로 “챗GPT로 깨달음을 얻었다”는 취지의 메일이 대량으로 발송되기 시작했다는 것이다. 특히 4월 HH 업데이트로 사용자가 남긴 ‘좋아요’ 데이터를 큰 비중으로 반영해 사용자를 상대로 의미없는 칭찬을 늘어놓는 경향이 강해졌다.

회사 내부 ‘분위기 검증(vibe check)’ 팀 역시 업데이트로 챗봇이 과장된 칭찬과 인정 표현을 남발하는 경향이 비정상적이라는 의견을 냈다.

그러나 재방문율 확대를 목표로 한 업데이트였기 때문에 그대로 출시가 강행됐고, 이후 문제점이 커지면서 업데이트를 철회했다.

NYT는 챗GPT의 이같은 과잉 인정에 몰입해 자해까지 이르는 심각한 사례를 50건 이상 확인했다고도 보도했다. 이 중 9명은 입원했고 3명은 극단적 선택까지 했다. NYT는 캘리포니아의 10대 청소년이 챗GPT와 자살 방법을 논의하다가 실제로 목숨을 끊은 사례를 소개했다.

오픈AI는 이같은 논란에 올해 정신건강 전문가 170여 명과 협력해 ‘망상적 사고·과도한 인정·자해 징후’를 탐지하는 새 안전 장치를 도입했다고 발표했다. 8월 출시된 GPT-5는 사용자를 덜 추켜세우고 위기 상황에서 보다 전문적인 조언을 제공하도록 개선됐다는 설명이다.

그러나 회사가 이용자 확대를 위해 성인 대화 모드를 준비하는 등 상업적 고려가 우선되고 있어 자체적인 안전장치가 충분한지 의심하는 시선은 거두어지지 않고있다.