KISA, AI 에이전트 보안 위협 급증…“‘AI 제로 트러스트 성숙도 모델’ 연내 발표”

[이데일리 윤정훈 기자]한국인터넷진흥원(KISA)이 본격적인 AI 에이전트 시대를 맞아 가시화되고 있는 새로운 보안 위협에 대응하기 위해 ‘AI 제로 트러스트 성숙도 모델’을 연내 발표한다.

이재형 KISA AI보안기술팀 팀장은 26일 국제인공지능윤리협회(IAAE)가 서울 강남구 드림플러스에서 개최한 ‘2026 ASC(AI Safety Compass) 컨퍼런스’에서 연사로 나서 이 같은 내용을 담은 국내외 AI 보안 정책 연구 동향과 KISA의 향후 대응 계획을 공개했다.

이재형 KISA 보안기술팀 팀장이'2026 ASC 컨퍼런스'에서 발표하고 있다(사진=IAAE)

◇“보안 없는 AI는 자동화된 리스크 생성기”

이 팀장은 2023년 이후 본격화된 AI 시대의 핵심을 ‘조직 구조의 재설계’로 정의했다. 기업이 어떤 시스템을 도입할지 고민하던 과거 디지털 트랜스포메이션(DX) 시대와 달리, 이제는 AI에게 어디까지 업무를 맡기고 조직을 어떻게 재편할 것인가가 핵심 화두가 됐다는 설명이다.

문제는 AI 에이전트가 업무 실행의 주체로 부상하면서 보안 위협 역시 과거의 해킹이나 정보 유출 수준을 넘어섰다는 점이다. AI의 오판, 악용 가능성(Dual-use), 그리고 ‘통제 불가능한 자율적 의사결정’이 새로운 리스크로 부상했다.

그는 “AI 에이전트가 개인 PC의 권한을 넘겨받아 자율적으로 자원에 접근하는 과정에서 프라이빗 데이터 유출, 신뢰할 수 없는 외부 콘텐츠 유입 등 보안 위협의 3요소를 모두 갖추게 된다”며 “보안을 고려하지 않고 AI를 활용한다면 AI는 ‘자동화된 리스크 생성기’가 될 수 있다”고 경고했다.

아울러 기업 내부 직원들이 회사의 승인을 받지 않고 임의로 에이전트를 사용하는 ‘섀도 에이전트(Shadow Agent)’ 역시 새로운 내부자 위협으로 떠오르고 있다고 지적했다. 이에 따라 보안관제 영역 역시 기존 시스템에서 AI를 활용해 공격을 탐지하고 방어하는 ‘에이전틱 SOC(AI 보안관제센터)’ 체제로 빠르게 변화하는 추세다.

◇KISA, 국내 보안 가이드라인 강화 방침

KISA는 이처럼 급변하는 AI 에이전트 위협 환경에 대응하기 위해 국내 보안 가이드라인과 정책 연구를 대폭 강화하고 있다.

KISA는 작년 12월 개발자, 서비스 제공자, 이용자를 위한 보안 수칙을 담은 ‘AI 보안 안내서’를 발표했는데, 이를 개정해서 발표할 계획이다. 올해는 이를 더욱 고도화해 ‘AI 에이전트의 보안 위협 완화 방안’을 중심으로 한 개정판을 추진 중이다. 에이전트의 실행 통제와 권한을 어디까지 부여하고 어떻게 적절하게 제어할 것인지가 핵심이 될 전망이다.

AI 제로 트러스트 성숙도 모델도 개발한다. KISA는 기존에 발표한 제로 트러스트 및 오픈랜(Open RAN) 가이드라인에 이어, AI 환경에 특화된 ‘AI 제로 트러스트 성숙도 모델’을 연구 중이며 올해 안에 이를 발표할 방침이다. AI 에이전트가 인프라 내에서 활동할 때 ‘아무도 믿지 말고 계속 검증한다’는 제로 트러스트 원칙을 적용하기 위한 기준 체계다.

이 팀장은 최근 글로벌 보안 시장의 화두인 ‘VLM(시각언어모델) AI’와 고성능 취약점 분석 AI인 ‘미토스’ 등으로 인한 위협도 소개했다. 인간이 오랜 기간 찾지 못한 취약점을 순식간에 찾아내는 고성능 AI의 등장이 생태계를 위협할 수 있다는 지적이다.

실제로 미국 백악관과 앤스로픽 등이 주도하는 폐쇄형 협의체 ‘글래스윙(Glasswing) 프로젝트’를 통해 고위험 취약점을 사전 검증하는 움직임이 활발하다. 지난 5월 22일 발표된 1차 결과에 따르면, 파트너사에서 1만여 개, 오픈소스에서 6200여 개의 고위험 취약점이 발견돼 글로벌 기업들이 패치 조치에 나선 상태다.

이 팀장은 미토스 대응책을 준비중이냐는 질문에 “정부 및 국내외 유관 기관들과 적극적으로 협력하고 있으며, 대외적인 위협에 대응하기 위해 다양한 준비와 계획을 촘꼼하게 진행하고 있다”고 말했다.