전우정 KAIST 교수 "군사 AI 분야에 인간의 통제 필요"

전우정 교수

[KAIST 제공. 재판매 및 DB 금지]

(대전=연합뉴스) 박주영 기자 = 한국과학기술원(KAIST)은 전우정 문술미래전략대학원 교수가 쓴 '군사 인공지능(AI) 통제의 과학적 도전'에 관한 기고문이 국제 학술지 '네이처 일렉트로닉스'(Nature Electronics)에 지난 4일 자로 실렸다고 8일 밝혔다.

기고문에 따르면 AI는 육군, 해군, 공군뿐만 아니라 우주와 사이버 영역 등 5개 군사 분야 핵심 기술로 주목받고 있다.

신속·정확한 의사 결정, 물류 최적화, 작전 계획, 인공위성 영상 분석, 드론 공격 목표 식별, 리스크 평가 등을 통해 전투 효율성을 높일 수 있다.

하지만 알고리즘 결함이나 상황 오판 등으로 인해 의도치 않은 결과가 발생할 위험이 있다.

이 때문에 세계 각국에서 인공지능(AI)의 책임 있는 군사적 이용을 위한 군사 AI 거버넌스에 대한 논의가 활발히 진행되고 있다.

전 교수는 "적군 AI 시스템과의 경쟁 시 초(秒) 단위 작전을 수행하는 상황에서 인간의 통제를 보장하고, 핵 무기 통제 시스템에 AI를 통합할 때 발생할 수 있는 잠재적 리스크를 해결하며, 투명성과 작전 보안을 균형 있게 유지할 수 있는 '설명 가능한 AI'(eXplainable AI, XAI) 개발이 필요하다"고 강조했다.

[e-mail]