2년 전 AI 기본법을 만들자며 국회에서 열린 토론회에 참석했다. 그때 난 강력하게 얘기했다. 굉장히 위험한 게 올 수 있고 우리가 대응하지 않으면 큰일 난다고. 다들 웃으시더라.
영화 <돈 룩 업>의 천문학자가 된 기분이었다. 혜성이 날아오고 있다고, 인류의 멸망에 대해 경고하고 있는데 “그거 정말 멋진 얘기네요” 하며 아무도 그것을 심각하게 받아들이지 않는다. 그래서 인류는 멸망한다. 사실 아주 통쾌했다.
그런데 가능하면 남은 인류는 행복하게 살아야 하지 않나.
강남구청역 근처에는 양자얽힘을 연상케 하는 이름의 과학기술 전문 책방 ‘책과얽힘’이 있다. 책방을 둘러보니 다스 베이더와 광선검을 든 요다가 눈을 부릅뜨고 있고 메인 책장에는 ‘테크놀로지’, ‘물리학’, ‘테크놀로지+인문학’, ‘철학’, ‘진화론/생물학’ 각 분야의 책들이 빼곡하다. 공간 한가운데 놓인 책상에서 『지능의 기원』을 읽고 있던 9년 차 책방 주인이자 공학박사, 한상기 테크프론티어 대표가 일어나 우리를 맞는다. 그는 국내 1세대 AI 연구자이자, 책 『신뢰할 수 있는 인공지능』, 『AGI의 시대』를 쓴 저자이기도 하다.
AI는 유용한 도구일 뿐?
많은 사람들이 AI를 아주 유용한 도구로 이해한다. 잘만 쓰면 생산성과 효율성이 올라가고, 우리에게 혜택을 줄 것이라고 믿기 때문이다. 한상기 대표는 AI는 도구가 아니라 우리와 공존해야 하는 새로운 ‘지능체’라고 믿는다. 우리가 이 자율성을 가진 지능체들을 통제하지 못하는 상황이 벌어질 수 있으며, 이들의 목표를 전혀 예측하지 못하게 될 위험성이 있다는 것이다.
Q. 지난 연말 『AGI의 시대』라는 책을 출간했다. ‘AGI’라는 개념이 익숙하지 않은 독자들이 많을 텐데, AGI가 뭔가?
AI(Artificial Intelligence: 인공지능)가 발전하면 AGI(Artificial General Intelligence: 인공일반지능)다. 그런데 100명의 학자에게 “AGI가 무엇이라고 생각하냐?”라고 물으면 100가지 다른 정의가 나올 것이다. 어떤 사람은 ‘지구상에 있는 가장 똑똑한 사람보다 더 똑똑한 지능을 가진 기계’라고 말하고 또 어떤 이는 ‘인간의 모든 인지적 능력을 넘어서는 지능을 가진 AI’라고 말한다.
Q. 일반인들은 이제 막 생성형 AI에 익숙해지고 있는 것 같은데, 왜 지금 AGI를 이야기해야 하나?
이 개념이 아직은 낯선 게 사실이다. 생성형 AI를 개발한 회사들, 그러니까 챗GPT를 만든 오픈 AI라든가 구글 딥마인드, 클로드를 개발한 앤스로픽 같은 기업들이 “우리의 목표는 AGI”라고 얘기하고 있다. 앤스로픽의 CEO 다리오 아모데이는 2~3년 안에 AGI가 구현될 것이라고 하고, 딥마인드의 최고경영자인 데미스 허사비스는 2030년 정도로 보고 있다. 앞으로 5년 안에 세상에서 가장 똑똑한 사람보다도 더 똑똑한 지능이, 또는 인간이 하는 수많은 업무, 나아가서는 창작까지도 우리를 능가하는 기계가 나온다는 것이다. 그런데 우리 사회는 이런 시대에 대비가 안 돼 있다. 법률, 기업, 교육 등 준비가 필요한 각 부문에 알리고자 이 책을 썼다. 시간이 많이 남지 않았다.
Q. 책에서 강조하고 있는 ‘AI 얼라인먼트’ 개념이 궁금하다.
‘정렬’이라고 번역하기도 하는 이 개념은 AI를 ‘사용자의 의도에 맞게 행동하게 할 수 있는가’, 나아가 ‘사회적 규범이나 가치, 문화적 배경을 일치시킬 수 있는가’ 하는 문제다.
Q. 기술적인 문제이면서 철학적인 문제인 것 같기도 하다. 인간의 가치를 인공지능과 일치시키려면 지금 무엇이 가장 필요한가.
AI가 어떻게 작동하는지 알아야 한다. 우리는 아직 이걸 모른다. 심지어 AI는 우리를 속인다. 최근 MIT에서 나온 한 논문은 AI가 제시하는 문제 해결 과정의 25~30% 정도만 사실이고 나머지는 엉뚱하게 보여주고 있다는 것을 밝혔다. 마치 인간에게는 “편하게 넌 이 정도로 이해해~”라고 말하는 듯이. 최근에야 AI가 어떻게 동작하고 있고, 무엇을 속이고 있는지 우리가 어떻게 확인할 것인가 하는 연구들이 이루어지기 시작했다. 노벨물리학상을 받은 제프리 힌튼 교수는 “우리가 개발하고 있는 디지털 지능은 생물학적 지능과 전혀 다르다”라고 우려한 바 있다. 이 디지털 지능의 능력이 너무나 월등해지고 있는데, 역사상 지능이 떨어지는 동물이 지능이 더 뛰어난 존재를 제어해 본 적이 있는가? 인간이 AI를 제어할 수 있다고 생각하는 건 틀렸다. 오만이다. 이들은 우리를 능가한다.
Q. AI가 인간의 통제를 벗어난 존재가 될 수 있다는 가정은 공포스럽다. 정말로 인류가 절멸할 수도 있나.
‘파멸론자’ 중에는 그 가능성을 80% 이상으로 보는 이들도 있다. 나는 약 20%의 확률로 우리가 멸종할 수 있다고 본다. 특히 AI를 무기 체계에 도입하게 되면 핵전쟁이 일어날 수 있다. 영화에서 많이 보지 않았나. 또 만약 인류의 생존을 위해 기후 위기를 해결해 달라는 아주 멋진 주문을 줬는데, AI가 기후 위기의 원인을 살펴봤더니 인간이 그 주범이라 인류의 생존이라는 상위 목적을 달성하기 위해 인류의 반을 제거할 수도 있다. 즉 우리가 올바른 의도와 목적을 줘도 AI는 우리가 전혀 원하지 않은 것을 실행할 수 있다. 이것을 우리가 어떻게 방지할 건가. 제프리 힌튼 교수가 던지는 질문이다. 아마 못할 것이다.
Q. 최후의 가치 판단을 하는 역할로써 인간 존재가 여전히 필요한 이유 아닌가.
그게 우리가 지키고자 하는 것이다. 최종 판단은 우리가 하자. 특히 강력한 무기에 대해 최종 의사결정은 인간이 해야 한다고 AI 전문가들은 주장한다. 지금까지 드론의 폭격 결정은 인간이 했다. 그런데 훨씬 효율적이고, 살해되는 민간인의 숫자를 최소화할 수 있다고 주장하면서 미국이나 이스라엘, 러시아 같은 나라는 AI가 직접 판단하고 AI가 결정하게 하겠다고 나오고 있다. 이제 누구를 죽일 것인가 그리고 얼마나 죽일 것인가 하는 판단을 AI가 하기 시작하는 시대다. 더 효과적일 것이라는 생각으로 AI에게 강력한 제어 시스템을 맡겼다가는 우리가 전혀 예상하지 못한 파국이 벌어질 수 있다.
헤겔의 주인과 노예의 변증법
처음에는 주인이 권력을 갖고 노예를 시켜 세상의 정보와 지식을 받아들인다. 그러다 점차 주인은 노예가 주는 대로만 알게 된다. 어느 순간이 되면 노예가 훨씬 더 많은 권력을 갖고 주인은 종속적인 상황이 되어버린다.
한상기 대표는 이런 주인-노예의 전복 관계가 AI와 인간 사이에서도 존재하게 될 것이라고 내다본다. 이제 인간은 AI가 하라는 것 외에는 할 줄 아는 게 없어지고, AI의 결정만 따른다. 회사에서 AI는 우리의 동료가 아닌 상사의 위치를 점하게 될지도 모른다. 가장 냉정하고 합리적이며 많은 데이터와 정보를 갖고 있는 AI가 결정을 내리는 게 낫다고 생각할 테니까. 사장이 AI 하나로 일들을 다 처리하고 나머지 인간들은 그 밑에서 허접한 부스러기 일이나 하게 될 가능성이 높다는 것이다.
Q. 인간의 소프트 스킬이 더 중요해지지 않을까?
인간은 인간답고, 고유의 가치가 있고, 인간만의 능력이 있다고 얘기한다. 무엇이? 과연 우리는 뭐가 다른 게 있을까.
Q. 팀 간의 갈등을 관리한다든지….
팀 간의 갈등을 만들어내는 게 인간이지 않나? 우리는 부족함이나 모자람이 특징이다. 민주주의가 발전해 온 과정도 그렇고, 최근 벌어진 일련의 과정도 너무나 어처구니없지 않았나. 인간이기 때문에 벌어진 것이다. AI가 보면 우리는 정말 비합리적이고 아주 비효율적이고 말도 안 되는 짓을 하고 있는 생명체일 것이다.
Q. 인간의 부족함을 메꿔주는 존재로 AI와 상호보완적인 관계를 맺을 수는 없을까.
문제는 자꾸 의존하게 된다는 것이다. 이미 영상 매체에 익숙해져서 긴 글을 잘 읽지 못하지 않나. 차분히 앉아 심도 있게 뭔가를 읽고 생각을 정리하고 그것을 다시 쓰는 능력, 엄청나게 떨어졌다. 500페이지짜리 책 읽는 능력이 없다. 이제 AI한테 요약해 달라고 한다. 얼마나 정확하게 요약했는지 확인도 안 한다. 우리 인류가 모든 의사결정을 점차 AI에 의존하는 상황이 되면 지능적인 공존 상태가 되는 것이다. 처음에는 굉장히 유용하게 쓰겠지만, AGI 수준의 지능에 의존성이 커갈수록 우리는 더 이상 판단하지 않게 되고 지적 능력이 퇴화할 것다.
Q. 우리는 어떤 세상에서 살게 될까.
아마 지금의 20~30대들은 굉장히 희한한 세상에서 살게 될 수 있다. 어느 날 일어나 봤더니 내가 결정할 수 있는 게 하나도 없고 AI가 모든 의사결정을 하는 세상이다. 내가 어느 직장에 갈 것인가, 교통을 어떻게 이용할 것인가, 무슨 옷을 입고, 누구를 만날 것인가 하는 모든 의사결정이 AI에 의해서 통제될 가능성이 있다. 우선은 편리하다고 할 것이다. 예컨대 유튜브 알고리즘이 다 AI다. 처음에는 얼마나 재미있었나. 지금은 사람들이 다 유튜브의 노예가 됐다. 거기서 받는 영향이 어마어마하게 크다. 나는 이제 과학 유튜브나 음악 감상 외에는 유튜브를 끊었다.
Q. AGI라는 존재도 유튜브처럼 우리 일상에 그렇게 밀접하게 자리를 잡을까?
그렇다. ‘스며드는 기술’이라고 말한다. 이것은 아주 일반 기술, 기반 기술이 된다. 이제 컴퓨터 기술이 사회 전 분야에 들어가는 기술 인프라가 된 것처럼 모든 산업에 다 들어갈 것이다. 지금 인터넷 없는 세상은 상상을 못하지 않나. 나는 인터넷이 없는 시대에 살았다. 박사 과정 때 우리나라에 처음 인터넷 연결이 됐는데 그때는 학계에서만 썼다. 98년도 이후 인터넷이 상용화됐다. 인터넷이 자리 잡은 게 30년이 채 안 됐는데 인터넷 없이는 아무것도 할 수 없는 세상이 됐다. 앞으로 10년 정도를 내다보면 AI 없이는 아무것도 할 수 없는 시대가 될 것이다.
Q. 전 세계는 이에 어떻게 대비하고 있나?
2023년 11월부터 영국 주도로 AI 안전 서밋이라는 것을 시작했다. 작년 5월에는 서울에서, 올 2월에는 파리에서 열어 이제 우리가 무슨 행동을 할 것인가를 논의했다. 수많은 학자들이 큰일 났다고 한다. 그동안 인류가 같이 공동으로 합의하는 시스템을 만들려고 노력했으나 실패했다. 인류의 존재론적 위협이 올 것이다. 누구든지 AGI로 쉽게 생화학 무기나 바이러스를 만들어낼 수 있다면 어떻게 될까.
Q. 『넥서스』 저자 유발 하라리는 인간이 서로 신뢰를 회복하면 이 위기를 헤쳐 나갈 수 있다고 말했다. 어떻게 생각하나.
인간이 힘을 합쳐 본 적이 언제 있나? 우리가 그런 존재인가? 우리는 항상 구별하고 차별하고 경쟁해 왔던 존재 아닌가. 방법은 결국 안전 체계를 만드는 것이다. 핵무기에 대해 핵확산금지조약(NPT), 국제원자력기구(IAEA)와 같은 제재 장치를 두는 것처럼. 유전자 조작 기술이 나왔을 때 아실로마 회의를 통해 합의를 본 것처럼. 가능성은 있다. 내 또 다른 저서 『신뢰할 수 있는 인공지능』에 그런 이야기를 썼다. 그런데 이게 가능하려면 세계 지도자들이 이 문제에 대한 위급성을 깨우치고 동참해야 한다. 우리 민족만 잘 살면 된다고 하다 보면 다 죽는 것이다.
Q. AGI의 시대에 인문학적 체력이 중요할까?
과학적 체력이 더 중요하다고 생각한다. 우리나라 인문학자들과 토론을 많이 하는데, 과학기술에 대한 이해도가 너무 떨어진다. AI 얘기를 하면 거의 SF영화 본 수준의 얘기, 상상력에 기반하는 얘기들을 많이 한다. 『위대한 지성은 어떻게 생각하는가』란 책을 보면 인문학자, 철학자, 종교학자들도 뇌과학이나 물리학, 컴퓨터 과학에 대해 잘 이해하고 있더라. 사람들이 나를 인문학적인 배경을 가진 공학자라고도 표현한다. 인문학자들이 공학과 물리학, 과학을 공부하지 않으니 공학자인 내가 인문학을 공부해야겠다고 생각했다. 우리 책방에서도 한 달에 한 번씩 과학책 읽기 모임을 하는데 토론이 굉장히 재미있다. 철학적인 주제도 많이 다룬다.
Q. 인문학적인 공학자로서 AGI의 시대에 바라는 인문학은 어떤 건가.
AI와 우리가 공존하는 시대에 윤리라는 건 어떻게 다뤄야 하나, AI의 권리와 우리의 권리를 어떻게 논의해야 하나, 새로운 시대에 인문학의 연구는 어떻게 달라져야 하나…. 김재인 교수가 말하는 ‘확장된 인문학’ 같은 새로운 인문학이 필요하다.
Q. 마지막으로 독서신문 독자들에게 전하고 싶은 말이 있다면.
지금 인터넷과 소셜 미디어 때문에 우리가 조용히 앉아서 책을 읽는 능력을 상실하고 있다. 한 30분 동안은 집중이 안 되는데 그걸 넘어서면 몰입이 되기 시작한다. 책을 많이 읽자. 책만큼 수준 있는 지성이나 교양은 없다. 특히 과학기술 책을 읽어야 한다. 21세기 교양은 과학이다.
*한상기 저자가 추천하는 과학책
1. 『양자역학의 역사』 | 데이비드 카이저 지음 | 동아시아 펴냄
2025년은 양자 역학 탄생 100주년! 양자 역학에 관해 알아보자.
2. 『지능의 기원 - 우리의 뇌 그리고 AI를 만든 다섯 번의 혁신』
맥스 베넷 지음 | 더퀘스트 펴냄
우리 진화 과정에서 지능이 어떻게 만들어졌는지 놀라울 만큼 체계적으로 안내한다.
3. 『앨런 튜링, 지능에 관하여』 | 앨런 튜링 지음 | 에이치비프레스 펴냄
AI의 정신적 아버지 앨런 튜링의 논문들만 모아서 만든 작은 소책자.
4. 『더 커밍 웨이브』 | 무스타파 술레이만 지음 | 한즈미디어(한스미디어) 펴냄
딥마인드 창립자가 말하는 AI와 인류의 새로운 미래.
[독서신문 이자연 기자]
Copyright ⓒ 독서신문 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
