[이슈PICK+] AI 고도화 속 커지는 우려···기술 속도 조절 목소리

▲ 뉴욕의 한 컴퓨터 화면에 앤트로픽의 웹사이트와 회사 로고가 표시돼 있다. 사진=AP/뉴시스

투데이코리아=김지훈 기자 | 생성형 인공지능(AI) 기술이 빠른 속도로 발전하면서 안전성과 윤리 문제를 둘러싼 우려도 함께 커지고 있다. 특히 AI가 인간의 개입 없이 스스로 성능을 개선할 가능성까지 제기되면서 기술 발전 속도를 조절해야 한다는 목소리가 나오고 있는 상황이다.

10일 업계 및 투데이코리아 취재를 종합하면 ‘클로드’의 개발사 앤트로픽은 최근 공식 블로그를 통해 AI 발전 속도가 사회 제도와 윤리 연구의 대응 능력을 앞지르고 있다고 진단했다.

앤트로픽 측은 “AI 시스템이 인간 개입 없이 스스로 개선하는 단계에 가까워질 수 있다”며 “AI가 ‘재귀적 자기 개선’으로 향하고 있는 것으로 보인다”고 설명했다.

재귀적 자기 개선은 AI가 인간의 도움 없이 알고리즘과 코드, 구조 등을 수정해 더 뛰어난 AI를 만들어내는 것을 뜻한다.

앤트로픽은 이러한 단계가 아직 현실화된 것은 아니라고 선을 그으면서도, 업계가 예상하는 것보다 더 이른 시기에 도달할 가능성이 있다고 경고했다.

특히 AI 기술 발전 속도를 사회적 안전장치가 따라가지 못할 수 있다는 점을 우려해 개발을 늦추거나 일시 중단하기 위해 글로벌 합의가 필요하다고 주장했다.

사내 연구소 책임자 마리나 파바로와 공동창업자 잭 클라크는 게시물을 통해 “사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단하는 선택권을 세계가 가지는 게 바람직하다”며 “AI 개발 속도 조절을 위한 국제적 합의와 기업이 이를 준수하는지 검증하는 체계를 마련해야 한다”고 강조했다.

이같은 우려는 최근 공개된 AI 모델 사례를 통해서도 확인되고 있다.

앞서 앤트로픽이 개발한 차세대 AI 모델 ‘미토스’는 지난 4월 운영체제(OS) 오픈BSD에서 27년 동안 발견되지 않았던 보안 취약점을 찾아내 화제를 모은 바 있다.

미토스는 인간의 개입 없이 복수의 취약점을 연결해 실제 침투 경로를 설계하는 수준의 능력을 보인 것으로 전해진다.

이에 AI가 인간 사회를 위협할 수 있다는 우려와 함께 윤리적 논의 역시 시작되고 있다.

교황 레오 14세는 지난달 25일 교황청 시노드 강당에서 즉위 후 첫 회칙인 ‘마니피카 후마니타스(Magnifica Humanitas)’를 발표하며 AI 기술에 대한 통제 필요성을 언급했다.

그는 회칙의 핵심 개념 중 하나로 ‘AI의 무장헤제’를 제시하며 AI 기술 발전을 성경 속 바벨탑에 비유해 이목을 집중시켰다.

레오 14세는 “기술을 가진 자들이 AI를 통치 수단으로 사용하는 권리를 거부해야 한다”며 “인류가 또 다른 바벨탑 건설을 포기하고 공동선을 위해 힘을 모아야 한다”고 말한 바 있다.