인공지능이 인류를 통제하는 시대가 도래해선 안 된다는 강력한 메시지가 바티칸에서 울려 퍼졌다.
레오 14세 교황이 즉위 후 첫 회칙 '마니피카 후마니타스'(위대한 인간성)를 15일 교황청 시노드 강당에서 직접 공표했다. 연합뉴스에 따르면 이번 문헌은 총 82페이지, 245개 항목으로 구성된 4만 단어 이상의 방대한 분량이다.
교황은 'AI 무장해제'를 회칙의 핵심 개념으로 제시했다. 기술 권력자들이 인공지능을 통해 지배력을 행사하는 것을 차단해야 한다는 의미다. 기술 자체를 배척하자는 것이 아니라 인간 위에 기계가 군림하는 상황을 막아야 한다는 취지라고 교황은 설명했다. 성경 속 바벨탑 이야기를 인용하며 "신에게 도전하듯 하늘을 향해 탑을 쌓던 어리석음을 반복해선 안 된다"고 역설했다.
전쟁과 기술의 결탁에 대한 비판도 날카롭게 담겼다. 첨단 기술과 알고리즘이 생산해내는 거짓 정보가 분쟁을 둘러싼 적대감과 양극화를 키우고 있다는 지적이다. 단순화된 서사와 흑백논리가 문화적 토양을 만들고, 그 틈을 비집고 전쟁이 "불가피하거나 정화된 것"으로 둔갑한다고 교황은 경고했다. '정당한 전쟁' 논리가 모든 무력 사용을 합리화하는 도구로 전락했다며 "이 이론은 이미 시효가 만료됐다"고 선언했다. 일부 자율무기 시스템은 이미 인간 통제 범위를 벗어났다는 우려도 덧붙였다.
디지털 경제의 어두운 이면도 조명됐다. 데이터 라벨링, 인공지능 모델 훈련 등 눈에 보이지 않는 영역에서 수백만 노동자가 묵묵히 일하고 있으며, 희토류 채굴 현장의 가혹한 노동조건도 존재한다고 교황은 밝혔다. 이를 '현대판 노예제'로 규정하며 윤리적 인공지능 구현의 시금석이 될 것이라고 강조했다.
기술 인프라와 데이터, 디지털 플랫폼을 보편적 공공재로 편입시켜야 한다는 주장도 제기됐다. 국가가 아닌 기업과 기술자 집단이 이 영역을 장악하면서 투명성이 사라지고 배제와 불평등이 심화될 위험이 커졌다는 것이다. 교황은 시장의 자율 조정 기능만으로는 공공선을 담보할 수 없다며 정치권이 기술·정보의 독점을 감시하고 노동 존엄성과 혁신 혜택의 공정 분배를 책임져야 한다고 촉구했다.
회칙 발표 행사에 앤트로픽 공동 창업자 크리스토퍼 올라가 참석해 눈길을 끌었다. 올라는 "최첨단 연구소들이 상업적 압박 속에서 '옳은 일'과 충돌하는 유인 구조에 놓여 있다"며 외부 감독 필요성에 공감했다. 앤트로픽은 감시·무기 개발에 인공지능 기술 사용을 제한해 트럼프 행정부와 갈등을 겪고 있다.
교황이 회칙을 직접 발표한 것 자체가 이례적이다. 통상 교황 명의로 공표되더라도 추기경이나 신학자들이 행사를 주관해왔다. 회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 보내는 최고 권위의 사목 교서로, 교황 교서·권고·담화 등 다른 문헌보다 구속력이 강하다.
서명일인 15일은 레오 13세의 '레룸 노바룸' 공표 135주년이 되는 날이다. 산업혁명기 노동자 권리와 자본주의 한계를 다룬 이 문헌의 정신을 계승하겠다는 의지가 담겼다. 레오 14세가 교황명을 택한 배경에도 사회 정의를 강조한 전임자를 잇겠다는 뜻이 반영됐다. 1977년 빌라노바대에서 수학 학사 학위를 받은 자연과학 전공자 출신인 만큼, 기술 권력에 대한 그의 철학이 이번 회칙에 응축됐다는 평가가 나온다.
Copyright ⓒ 나남뉴스 무단 전재 및 재배포 금지
