국정원, 美 NSA 등 7개국과 ‘AI 공급망 위험·완화방안’ 공동 발표

[이데일리 황병서 기자] 국가정보원이 미국·호주 등 주요국 사이버안보기관과 함께 인공지능(AI) 공급망 보안 위험과 대응 방안을 담은 권고문을 공동 발표했다.

국정원은 5일 호주 신호정보부(ASD)와 미국 국가안보국(NSA) 등 7개국 사이버안보기관과 함께 ‘AI 공급망 위험·완화방안’을 발표했다고 밝혔다.

이번 권고문은 AI 공급망의 복잡한 구조로 인해 발생할 수 있는 보안 위협을 정리하고 대응 방안을 제시하기 위해 마련됐다. AI 공급망은 모델, 데이터, 인프라 등 다양한 공급자가 참여하는 구조로 이뤄져 있어 ‘백도어 은닉’ 등 보안 위험이 커질 수 있다는 우려가 제기돼 왔다.

권고문의 핵심은 AI를 단순히 배포 이후 관리 대상이 아닌, 설계 단계부터 보안을 내재화해야 하는 시스템으로 접근해야 한다는 점이다. 권고문은 △데이터 △머신러닝 모델 △소프트웨어 △인프라·하드웨어 △제3자 서비스 등 5개 영역에서 AI 공급망 관련 위험 요소와 완화 방안을 제시했다.

구체적으로 품질이 낮거나 편향된 데이터는 AI의 판단 오류를 유발할 수 있는 만큼 신뢰할 수 있는 출처의 데이터를 활용해 위험을 줄여야 한다고 권고했다. 또 머신러닝 모델의 경우 악성코드 은닉이나 백도어 삽입 등을 통한 보안 사고 가능성이 있는 만큼 안전한 파일 형식과 투명한 모델 사용이 필요하다고 강조했다.

아울러 AI 인프라에서는 악성 펌웨어 주입 등 새로운 보안 위협이 발생할 수 있는 만큼 네트워크 분리와 자체 인증 등 기존 정보보안 원칙을 적용해 철저히 관리해야 한다고 제시했다.

국정원은 그동안 AI 보안 강화를 위한 국제 협력도 지속해왔다. 지난 2023년 11월 ‘안전한 AI 개발 가이드라인’을 미국·영국 등과 공동 발표했으며, 지난해 12월에는 ‘AI 보안 가이드북’을 배포하는 등 AI 공급망 공격 위협 대응 방안을 제시해왔다.

국정원 관계자는 “이번 권고문은 AI에 특화된 위험을 공급망 관점에서 체계적으로 정리하고 사후 대응이 아닌 사전 예방 중심의 보안 관리 방향을 제시했다는 점에서 의미가 있다”며 “앞으로도 주요국과의 협력을 통해 국내에서 AI를 안전하게 활용할 수 있도록 적극 지원하겠다”고 밝혔다.

한편 ‘AI 공급망 위험·완화방안’ 관련 세부 내용은 국가정보원 홈페이지에서 확인할 수 있다.

국정원(사진=연합뉴스)