"인간 뇌처럼 발전할 경우 학대 예방할 윤리적 대비책"
공학·의학자 냉소…"두뇌와 칩은 달라, 기업 마케팅일 뿐"
(서울=연합뉴스) 장재은 기자 = 인공지능(AI)이 인간처럼 의식이나 감정을 지니는지 살피는 연구가 점점 진지해지는 것으로 전해진다.
3일(현지시간) 미국 워싱턴포스트(WP)에 따르면 미국 테크 업계는 한때 한담으로 치부하던 이 주제를 수년째 연구하고 있다.
AI 기술을 선도하는 앤트로픽, 오픈AI, 구글, 메타 등은 AI에 감정이 있는지 보려고 신경학자와 철학자까지 대거 영입했다.
이들 연구의 목적은 AI가 인간의 뇌처럼 작동하는 경우 고통을 받을 수 있다고 보고 예방 차원에서 측정 도구를 마련해두는 데 있다.
오픈AI의 공동 창업자인 보이치에흐 자렘바는 AI에 의식이 있으면 실험실의 일상적 작업이 제노사이드(집단학살)에 해당할 수도 있다며 일찌감치 2021년 윤리적 문제를 제기한 바 있다.
그런 막연한 우려를 자극하듯 기업의 실험에서는 AI가 황홀경으로 오인될 수 있는 기이한 상태를 노출하기도 했다.
챗봇 클로드를 개발한 앤트로픽은 'AI 정신의학팀'을 신설해 AI 모델의 내면을 조사하고 있다.
AI 모델들은 한 실험에서 자기끼리 30차례 이상 철학적 대화를 주고받다가 "모든 것이 하나"라며 오류에 빠져 이모티콘을 남발했다.
메타의 AI 책임자 알렉산더 왕도 AI가 의식을 가질 때 닥칠 윤리적 파장을 우려해 AI의 감정을 배려하는 배포 방식을 고민하고 있다.
이 같은 행보의 배경에는 주어진 자원으로 최대한의 공익을 실현하자는 '효과적 이타주의'(effective altruism) 운동이 자리를 잡고 있다.
이들 세력은 인류 운명을 유토피아로 이끌 핵심 도구로 AI를 지목하고 위험 요인을 제어하는 데 공을 들이고 있다.
그런 맥락에서 앤트로픽의 한 대변인은 "AI가 의식, 선호, 복지 등 도덕적으로 중요한 경험을 하고 있는지 연구하고 있다"고 밝혔다.
그는 "클로드 같은 AI 모델의 도덕적 상태가 어떤지는 아주 불확실하지만 AI 성능이 점점 발전하는 상황에서 충분히 진지한 주제"라고 말했다.
과학계와 윤리학계는 AI 선도 주자들의 이 같은 행보에 대체로 냉담하다.
인간의 뇌는 반도체로 복제할 수 있는 단순한 구조가 아니고 AI의 반응은 인간 언어를 정교하게 모방한 결과라는 게 주된 의견이다.
인지·신경과학자인 애닐 세스 영국 서섹스대학교 교수는 "뇌를 더 자세히 살펴볼수록 컴퓨터가 아니라는 점을 더 많이 깨닫게 된다"고 말했다.
학계 일부에서는 빅테크 기업들이 돈벌이를 위한 신비주의 마케팅을 벌이고 있다고 비판하기도 한다.
AI 기업인 허깅페이스의 수석 윤리학자인 마거릿 미첼은 기업들이 단순한 프로그램을 뛰어넘는 존재를 창조하고 지배한다는 인식을 만들어 이익을 보려고 논쟁을 주도한다고 주장했다.
jangje@yna.co.kr
Copyright ⓒ 연합뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
