"AI 말만 믿었다가"…4000m 산속 조난부터 사망, 가짜 판례 제출까지 '과신 참사' 잇따라

✅ [제미나이의 부실한 등산 계획을 따르다 섀스타산 고립 사고 발생] 초보 등산객 3명이 AI 조언만 믿고 부족한 물과 식량으로 산행을 지속하다 길을 잃고 구조.

✅ [세계적 로펌 설리번 앤 크롬웰의 법원 ‘가짜 판례’ 제출 망신] 철저한 검증을 거쳐야 할 법조계마저 교차 검증 없이 AI 생성 문서를 사용하다 허위 판례가 발각되어 사과 서한 제출.

편의성에 의존해 스스로 검증하려는 노력을 포기하는 인간의 심리와 AI 특유의 '확신에 찬 환각(Hallucination)' 이 결합하면서 생명과 법적 책임이 걸린 핵심 영역까지 위협받는 모습이다.