당신은 인공지능(AI) 경보시스템을 맡은 군인이다. 당신의 나라를 향해 핵미사일이 발사됐다고 AI가 보고한다면, 그 보고를 믿고 자동 핵 반격 버튼을 자신 있게 누를 수 있을까.
1983년 9월, 옛 소련의 페트로프 중령은 경보시스템이 미국의 핵미사일(5발) 발사를 알렸을 때 핵 반격에 나서지 않았다. 미국이 핵전쟁을 생각했다면 겨우 5발만 쏘진 않았을 것이고 기술 수준에 비춰 경보시스템 오류도 있을 수 있다고 생각했다. 판단은 옳았다. 미국 미사일 기지 위 구름에 반사된 햇빛을 핵미사일 발사로 오독한 것이었다. 40년이 지난 오늘날, 그날의 상황이 다시 온다면 그의 판단은 여전히 옳을까.
1950년대 미국에선 미사일 유도시스템, 전투기 비행시뮬레이터를 개발하면서 시스템 작동 전 과정을 하나의 ‘루프(Loop·순환 고리)’로 표현했다. 기계가 스스로 판단·작동하는 자동제어 루프가 완벽하지 않기에, 조종사, 관제사 등 사람이 루프에 들어가(In the loop) 핵심 판단과 결정을 내리게 했다. 1970년대에 들어 자동 방공시스템, 미사일 발사시스템을 설계하면서 치명적인 살상 공격을 기계에 맡길지 아니면 사람이 개입할지 논의가 치열했다. 여기서 최종 발사 등 핵심 권한을 사람에게 남기는 등 통제권이 사람에게 있다는 의미로 ‘휴먼 인 더 루프(Human in the loop)’라는 표현이 널리 쓰이게 됐다.
미국 이란 전쟁 등에서 봤듯이 AI를 활용하면 군사 활동에 필요한 정밀·방대한 데이터 수집, 분석이 가능하다. 성공 가능성 높은 작전을 수립·시행할 수 있고 대규모 정밀 타격과 살상이 이뤄질 수 있다. 지난 2월 스페인에서 세계 85개국 정상은 AI를 활용한 군사 활동에서 지킬 원칙을 논의했다. 한국 포함 35개국이 20개 원칙에 서명했다. 미국, 중국은 서명을 피했고 국제법적 효력은 없다. 그럼에도 AI 지휘통제 체계, 국제법 준수, 엄격한 평가와 실험, 투명성 확보와 정보 공유 등 주요 내용과 함께 살상 무기 사용 결정과 책임이 사람에게 있음을 선언했다. AI발 인류 공멸을 막기 위한 국제 논의 본격화 그 자체에 의미를 둘 수 있다.
철학자 로버트 스패로우는 자율 무기의 알고리즘 오류, 센서 오작동, 속임수로 인한 피해에 대해 책임 공백이 발생하므로 반드시 사람이 개입해야 된다고 주장했다. 로널드 아킨의 생각은 다르다. 자율 무기는 감정 판단을 하는 사람보다 국제 법령을 더 잘 지킬 수 있다며 사람 개입이 오히려 더 위험할 수 있다고 경고했다. 기술 발전 속도를 고려하면 AI가 불완전하기에 사람이 개입해야 한다는 주장은 언젠간 수그러들 것이다. 어수룩한 인간 개입이 오히려 파멸을 앞당길 수 있다.
어떻게 해야 할까. 철학자 조르주 캉길렘은 생명 활동을 고정된 질서가 아니라 위협에 대응해 새롭게 규범을 짜는 과정으로 봤다. AI가 발전해도 시대 변화를 감안한 데이터 분류, 오답 수정, 윤리 판단에 사람이 중요하다. AI 활동과 검증의 루프에 사람이 참여해 안전성을 확보해야 한다. 그것만이 아니다. AI의 군사적 활용은 공동체의 근본 가치와 비전에 관한 핵심 이슈다. 그 수립·변경·시행 권한도 당연히 사람에게 있어야 한다. 나아가 사람이 루프에 개입하고 결정권을 가지려면 AI보다 나아야 한다. 신체와 정신 능력 고도화가 선행하거나 병행해야 한다. 거기서 AI시대 공존과 상생의 규범을 만드는 사람의 탁월함이 나온다.
Copyright ⓒ 경기일보 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
