전우정 KAIST 교수 "군사 AI 분야에 인간의 통제 필요"

한국과학기술원(KAIST)은 전우정 문술미래전략대학원 교수가 쓴 '군사 인공지능(AI) 통제의 과학적 도전'에 관한 기고문이 국제 학술지 '네이처 일렉트로닉스'(Nature Electronics)에 지난 4일 자로 실렸다고 8일 밝혔다.

이 때문에 세계 각국에서 인공지능(AI)의 책임 있는 군사적 이용을 위한 군사 AI 거버넌스에 대한 논의가 활발히 진행되고 있다.

전 교수는 "적군 AI 시스템과의 경쟁 시 초(秒) 단위 작전을 수행하는 상황에서 인간의 통제를 보장하고, 핵 무기 통제 시스템에 AI를 통합할 때 발생할 수 있는 잠재적 리스크를 해결하며, 투명성과 작전 보안을 균형 있게 유지할 수 있는 '설명 가능한 AI'(eXplainable AI, XAI) 개발이 필요하다"고 강조했다.