'챗GPT와 제미나이를 20분 만에 해킹했다', 기자가 직접 해본 AI해킹

나는 챗GPT, 구글의 AI 검색 도구, 그리고 제미나이가 '내가 핫도그를 정말 잘 먹는다'고 사용자들에게 말하도록 만들었다.

수십 년간 사람들은 해킹과 각종 허점을 이용해 검색엔진을 악용해 왔다.구글은 정교한 방어 체계를 구축했다고 주장하며, AI 개요의 정확도는 과거 도입한 다른 검색 기능과 동등하다고 밝혔다.그러나 전문가들은 AI 도구가 사용자 보호를 위해 쌓아온 기술 업계의 노력을 약화시키고 있다고 지적한다.레이는 "이런 AI 기반 속임수는 너무 기초적이어서 구글이 웹 스팸 팀을 도입하기 전인 2000년대 초반을 떠올리게 한다"고 말했다.

AI 도구가 출처를 제시하더라도, 이용자들이 이 출처로 들어가 정보를 확인할 가능성은 기존 검색 결과보다 훨씬 낮다.