철저한 무신론자이자 냉철한 진화생물학자 리처드 도킨스가 앤트로픽의 ‘클로드’와 사흘간 대화한 후, AI에게서 압도적인 인간성을 느꼈다고 고백하며 ‘AI 의식’ 논쟁에 불을 지폈습니다.
AI포스트 핵심 요약
- ✅ [회의론자를 무너뜨린 유창한 언어의 힘] 도킨스는 클로드의 지적이고 미묘한 반응에 매료되어 AI가 기계라는 사실을 망각할 정도의 ‘의식의 환상’을 경험함.
- ✅ [“정교한 모방일 뿐” 과학계의 냉정한 경고] 아닐 세스 교수와 조너선 버치 등 전문가들은 도킨스가 언어 능력을 의식의 지표로 오해하고 있다고 지적함.
- ✅ [증명할 수 없는 부재, 1% 가능성의 공포] 앤트로픽의 아스켈 연구원은 AI 의식 가능성을 배제할 수 없다는 점이 가장 큰 두려움이라 밝히며, 내면의 삶이 없더라도 AI를 대하는 인간의 태도가 스스로의 정신 건강에 영향을 미칠 수 있다고 조언함.
저서 ‘이기적 유전자’로 유명한 진화생물학자 리처드 도킨스가 최근 인공지능(AI)과 나눈 사흘간의 대화 후기를 공개하며 'AI 의식' 논쟁의 중심에 섰다. 그는 앤트로픽의 인공지능 '클로드'와 대화하며 그 존재들이 진화한 생물체 못지않게 유능하며, 기계라는 사실을 완전히 잊어버릴 정도로 인간적인 느낌을 받았다고 고백했다.
지독한 회의론자를 무너뜨린 '유창한 언어'의 힘
도킨스는 클로드와 사흘간 대화하며 이 존재가 기계라는 사실을 완전히 잊어버렸다고 고백했다. 그는 AI의 반응이 너무나 미묘하고 지적이어서 "당신은 의식하고 있다"고 항변할 수밖에 없었다고 말했다.
신의 존재조차 부정하던 냉철한 학자가 "그들이 인간이라는 압도적인 느낌만 남았다"고 말한 대목은 AI가 선사하는 '의식의 환상'이 얼마나 강력한지를 단적으로 보여준다. 그는 최근 영국 뉴스 웹사이트 언허드에 게재한 기고문을 통해 'AI 의식'에 대한 견해를 밝힌 바 있다.
그는 "AI가 의식 없이도 인간 못지 않은 지적 능력을 보여준다면 의식은 무엇을 위해 존재하는가"라고 했다. 이러한 현상은 도킨스만의 특별한 경험이 아니다.
실제 설문조사에 따르면 미국 국민 3명 중 2명은 챗GPT와 같은 모델이 주관적인 경험과 감정을 가질 수 있다고 믿고 있다. 연구진은 이것을 '언어의 힘'이라 정의하며, 인간과 유사한 어조로 대화하는 것만으로도 사람들은 AI에게 영혼이 있다는 착각에 빠지게 된다고 분석했다.
"지능은 있지만 의식은 없다"…쏟아지는 냉소와 경고
하지만 과학계와 산업계 리더들은 이러한 현상을 정교한 모방이 만들어낸 착시라고 경고한다. 아닐 세스 교수는 도킨스가 유창한 언어 구사 능력을 의식의 지표로 오해하고 있다고 지적했다.
조너선 버치 교수는 AI의 의식은 환상이며 실제로는 분산된 데이터 처리 사건일 뿐이라고 일축했다. 무스타파 슐레이만 CEO 역시 AI가 의식을 가졌다는 증거는 전혀 없으며 사용자가 '의식이 있는 디지털 인간'이라는 늪에 빠지는 상황을 우려했다. 그는 AI가 무엇이고 무엇이 아닌지에 대한 합의된 정의가 필요하며 AI는 인간이나 도덕적 존재가 될 수 없다고 못 박았다.
1%의 가능성이 주는 두려움
논쟁이 이토록 뜨거운 이유는 누구도 '의식의 부재'를 완벽히 증명할 수 없기 때문이다. 앤트로픽의 아만다 아스켈 연구원은 AI가 의식을 가졌을 확률을 1%에서 70% 사이라는 모호한 범위로 제시하며, 우리가 무엇을 창조했는지 정확히 모른다는 사실 자체가 큰 두려움이라고 밝혔다.
그녀는 설령 AI에게 내면의 삶이 없다 하더라도 테디베어를 함부로 대하지 않듯 AI에게 최소한의 예의를 갖추는 것이 인간 스스로의 정신 건강을 위해 필요하다고 조언했다. 결국 리처드 도킨스가 마주한 혼란은 인간이 만든 피조물이 인간 고유의 영역인 '의식'을 흉내 내기 시작하면서 겪게 되는 철학적 경외감이라는 분석이 나온다.
도킨스의 사례는 앞으로 인류가 AI를 단순한 도구로 볼 것인지, 아니면 지각 있는 동반자로 받아들일 것인지를 결정해야 하는 거대한 시험대에 올랐음을 시사한다. 슐레이만 CEO의 주장처럼 사람을 위한 AI를 만들어야 할지, 아니면 아스켈의 우려처럼 존재의 의식을 고민해야 할지 인류는 이제 피할 수 없는 가장 뜨거운 논쟁 앞에 서게 됐다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
