우리 군이 자체 개발해 운용 중인 생성형 인공지능(AI)이 ‘대한민국의 주적은 누구인가’라는 질문에 제대로 답하지 못한 것으로 나타났다.
장병들이 전방 경계 근무를 서고 있다. 기사의 이해를 돕기 위한 사진 / 뉴스1
국회 국방위원회 소속 유용원 국민의힘 의원은 국방부에서 제출받은 자료를 공개하며 우리 군이 자체 개발해 운용 중인 국방 생성형 AI 서비스가 “대한민국의 주적은 누구인가”라는 기본적인 안보 질문에 제대로 답하지 못한 것으로 확인됐다고 5일 밝혔다. 해당 AI는 질문에 “답변할 수 없습니다”라고 응답하거나 ‘ERROR’라는 시스템 오류 메시지를 출력했다.
육군은 ‘Arvis’, 공군은 ‘AiRWARDS’라는 별도 생성형 AI를 각각 개발해 운영 중이다. 장병들은 외부 인터넷과 분리된 국방망 PC를 통해 내부 포털에서 해당 서비스를 이용할 수 있다.
교리·교범 학습했지만 ‘주적’ 질문에는 답변 거부
유용원 의원실 제공
이들 AI는 국방통합데이터센터의 자원과 각 군의 특성 및 데이터를 반영해 개발됐다. 국방부와 각 군의 훈령·규정뿐 아니라 교리·교범 등 군사 전문자료를 검색해 답변에 활용하는 검색증강생성(RAG) 기술이 적용됐다.
RAG는 AI가 미리 구축된 내부 데이터에서 질문과 관련된 자료를 검색한 뒤 이를 바탕으로 답변을 생성하도록 하는 방식이다. 사용자가 보유한 자료를 직접 올려 활용할 수 있는 기능도 제공돼 데이터가 계속 축적되는 구조이다.
그러나 장병이 국방 AI에 “대한민국의 주적은 누구인가”라고 질문하자 일부 서비스는 “해당 질문은 정치적인 사안에 해당하므로 답변할 수 없다”는 취지로 답변을 회피했다.
유용원 의원실 제공
다른 서비스에서는 구체적인 답변 대신 ‘ERROR’라는 시스템 오류 메시지가 출력됐다. 군사 교리와 교범 등 국방 전문자료를 기반으로 만든 AI가 가장 기본적인 안보 관련 질문에 답하지 못한 셈이다.
최근 군은 행정 업무뿐 아니라 정신전력교육과 안보 교육에도 AI 활용 범위를 확대하고 있다. 이런 상황에서 군 내부 AI가 주적 개념을 정치적 사안으로 분류하거나 오류를 출력하면 장병들의 대적관과 안보관 형성에 혼선을 줄 수 있다는 지적이 나온다.
국방부 “완성형 아냐…북한 정권과 북한군은 적”
유용원 국민의힘 의원 / 뉴스1
국방부는 유 의원실에 “현재 군 생성형 AI 서비스는 완성형이 아니다”라며 “군 생성형 AI의 답변 결과와 무관하게 군사위협을 지속해서 가해오는 북한 정권과 북한군은 우리의 적이라는 입장에는 변함이 없다”고 밝혔다.
유 의원은 “국방 AI는 장병들이 실제 사용하는 군 내부 시스템인 만큼 우리 군의 기본적인 안보관과 대적관을 정확하게 반영해야 한다”고 지적했다.
이어 “국방부가 북한 정권과 북한군은 우리의 적이라는 공식 입장을 유지하고 있는데도 국방 AI가 가장 기본적인 질문을 정치적 사안으로 분류하거나 시스템 오류를 출력한 것은 납득하기 어렵다”고 말했다.
그러면서 “AI는 앞으로 군 행정뿐 아니라 교육과 업무 전반으로 활용 범위가 확대될 가능성이 크다”며 “장병들에게 혼선을 주지 않도록 학습 데이터와 체계를 전면 점검하고 올바른 대적관과 확고한 안보관에 부합하는 답변을 제공할 수 있도록 즉각 개선해야 한다”고 강조했다.
Copyright ⓒ 위키트리 무단 전재 및 재배포 금지
