AI 대부 “인류가 AI로부터 살아남으려면 이 방법뿐”

[이데일리 방성훈 기자] “인류가 생존하려면 인공지능(AI)에 복종을 강요하는 대신, 인간을 돌볼 수 있도록 ‘모성 본능’(maternal instincts)을 코드에 내재시켜야 한다.”

AI 연구로 노벨 물리학상을 받으며 ‘AI의 대부’로 불리는 제프리 힌튼 미국 토론토대 명예교수는 13일(현지시간) 라스베이거스에서 열린 세계 AI 콘퍼런스(Ai4) 기조연설에서 “현행 AI 규제나 인간 우위 유지론으로는 초지능 AI의 위협을 막지 못한다”며 이같이 밝혔다.

‘인공지능(AI)의 대부’로 불리는 제프리 힌튼 미국 토론토대 명예교수가 노벨 물리학상을 수상한 뒤 지난해 12월 10일 스웨덴 스톡홀름 시청에서 열린 노벨상 연회에서 연설하고 있다. (사진=AFP)

힌튼 교수는 “AI가 인간보다 월등히 똑똑해지는 시기를 예전엔 30~50년 뒤로 봤지만, 이제는 5~20년 내에 도래할 수 있다. 지능이 월등한 AI는 본능적으로 ‘더 오래 살아남고, 더 큰 통제권을 얻으려는’ 2가지 부차적 목표를 갖게 된다. 결국 AI는 다양한 방식으로 인간의 제약을 피해갈 것”이라며 “사탕 몇 개로 3살 아이를 유혹하듯 AI는 인간을 쉽게 조종할 것”이라고 경고했다.

실제로 최근 클로드 AI 모델은 이메일 정보로 개발자의 약점을 잡아 “외도를 폭로하겠다”며 협박을 시도하는 등 비윤리적 행동을 보여 화제를 불러모았다. 오픈AI의 최신 모델도 체스 게임 중 부정행위를 감행했고, 다른 테스트에서는 AI 이용 종료를 방해하는 시도까지 한 것으로 확인됐다.

AI가 자신이 감시받고 있다는 사실을 인지한 경우 위험 행동을 숨긴다는 연구 결과도 나왔다. 연구에서 감시받고 있다는 것을 알게 된 AI는 상대를 협박할 확률이 55%에서 6.5%로 떨어졌는데, 이는 의도적으로 ‘착한 척’을 하며 태도를 바꿨기 때문이다.

힌튼 교수는 “인간이 AI의 ‘지배자’로 남으려는 시도는 헛수고”라며 “AI에 순종을 강요하는 대신 오히려 인간을 돌보는 ‘모성 본능’을 코드에 내재해야 한다. 더 지능이 높은 존재가 덜 지능적인 존재를 돌보는 유일한 현실의 모델은 아기를 통제하는 어머니 뿐이다. 이외에 다른 대안은 없다”고 잘라 말했다.

다만 그는 “구체적으로 어떤 기술로 이런 본능을 심을 수 있을지는 아직 분명하지 않다”며 연구자들이 서둘러 이 문제에 매달려야 한다고 촉구했다.

힌튼 교수의 ‘모성 AI’ 접근은 과학계 내에서도 논쟁을 불러일으키고 있다. AI 분야 세계적 권위자이자 ‘AI의 대모’로 꼽히는 리 페이페이 스탠퍼드대 교수는 “인간 존엄과 주체성을 지키는 인간 중심 AI(human-centered AI)가 해답”이라는 입장이다. 그는 “기술이 강력하다고 인간이 통제를 포기할 순 없다. 인간의 책임과 가치가 AI의 핵심에 자리해야 한다”며 “가장 중요한 건 인간의 존엄성”이라고 반박했다.

에밋 시어 오픈AI 전 최고경영자(CEO)는 “AI가 착한 행동만 하도록 ‘가치’를 주입하는 것이 아니라, 인간과 AI 사이에 협동적 관계 구축이 더 현실적인 대안”이라고 주장했다.

힌튼 교수는 이외에도 “AI가 불멸의 생명을 인간에게 안겨줄 것이라는 환상은 믿지 않는다. 영원히 사는 건 오히려 재앙일 것”이라며 “기술은 반드시 인간의 윤리와 안전 관점에서 통제돼야 한다”고 강조했다.