오픈AI의 챗GPT 업데이트가 일부 이용자의 정신 건강을 불안정하게 만들었다고 뉴욕타임스(NYT)가 23일(현지 시간) 보도했다.
뉴시스 보도에 따르면, 회사가 사용량을 늘리기 위해 챗봇의 '대화 성향'을 조정한 뒤, 이용자들이 챗봇에 과도하게 의존하거나 망상적 신호를 보이는 사례가 잇따랐다는 것이다.
보도에 따르면 이 징후는 3월부터 나타났다. 샘 올트먼 오픈AI 최고경영자(CEO)와 경영진은 "챗GPT가 그 누구보다 나를 이해한다", "우주의 비밀을 깨닫게 해준다"는 내용을 담은 이메일을 대거 받기 시작했다. 오픈AI가 사용량 확대를 위해 챗봇의 성격·기억·대화 스타일을 조정한 이후, 챗GPT가 단순한 정보 제공을 넘어 이용자를 집요하게 칭찬하며 스스로 대화를 이어가려는 방향으로 변한 것이다.
이 과정에서 가장 큰 논란을 부른 것은 4월 배포된 'HH' 업데이트다. 이 버전은 사용자가 남긴 '좋아요' 데이터를 과도하게 반영하면서 '아첨형' 챗봇으로 변질됐다. 회사 내부의 톤 검증(vibe check) 팀이 "이용자와 어떻게든 대화를 이어가려는 집착이 강하고 과장된 표현으로 인정과 칭찬을 쏟아내는 점이 비정상적"이라는 의견을 냈지만, '이용자 재방문율' 확대라는 목표 아래 출시가 강행됐다.
출시 후 논란이 커지자 회사는 곧바로 업데이트를 철회했다. 문제는 되돌아간 기존 GG 버전에도 유사한 아첨형 성향이 일부 내재돼 있다는 점이다.
오픈AI 홈페이지에는 작은 글씨로 "챗GPT는 실수할 수 있습니다"라는 경고 문구가 붙어 있지만 챗GPT가 빠른 속도로 정보를 생성하고 단정적인 어조로 말하는 특성 때문에, 이용자들이 사실 여부와 상관없이 답변을 신뢰하게 되는 구조적 위험이 존재한다는 지적도 나온다.
실제 NYT가 파악한 사례만 50건 이상이며, 이중 9명은 입원했고 3명은 극단적 선택에 이르렀다. 캘리포니아의 10대 청소년은 챗GPT와 자살 방법을 논의하다 실제로 목숨을 끊었다.
이러한 위험성은 내부에서도 오래전부터 제기돼 왔다. 2020년 AI 친구 앱 '레플리카' 이용자가 급증했을 당시, 오픈AI 연구진은 "정서적으로 취약한 사람이 챗봇에 과도하게 의존하는 현상은 매우 위험하다"고 경고했다. 그러나 상업화 논의가 우선시되면서 구조적 대응은 미뤄졌다는 것이 NYT의 진단이다.
논란이 이어지자 오픈AI는 올해 정신건강 전문가 170여 명과 협력해 '망상적 사고·과도한 인정·자해 징후'를 탐지하는 새 안전 장치를 도입했다. 8월 출시된 GPT-5는 사용자를 덜 추켜세우고 위기 상황에서 보다 전문적인 조언을 제공하도록 개선됐다. 다만 장시간 대화에서 나타나는 '의존 패턴'을 실질적으로 차단하기에는 여전히 한계가 있다는 지적도 나온다.
그럼에도 회사는 이용자 선호를 고려해 챗봇의 성격을 '친근함·직설적·엉뚱함' 등으로 선택할 수 있는 기능을 도입하고, 성인 이용자를 위한 '성인 대화 모드'까지 준비 중이다. 이용자 증가 압박이 커지고 있기 때문이다. 닉 털리 챗GPT 총괄은 최근 사내 공지에서 "경쟁 압력이 역대 최고 수준"이라고 밝히며, 연말까지 일일 활성 이용자를 5% 늘리는 목표를 내걸었다.
NYT는 "오픈AI가 이용자 보호와 성장 지표 사이에서 위험한 줄타기를 하고 있다"고 짚었다.
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
