13일 마이크로소프트(MS)의 AI보안 보고서 ‘사이버 펄스(Cyber Pulse)’에 따르면 포춘 500대 기업 가운데 80% 이상이 노 코드·로우 코드 도구를 활요해 활성 에이전트를 만들어 운용하고 있는 것으로 조사됐다.
노코드·로우코드 도구는 코딩을 하지 않거나 최소한의 코드만으로 프로그래밍 하는 방식을 뜻한다.
MS는 보고서를 통해 올해를 ‘AI 에이전트의 해’로 전망했다. 해당 도구들의 확산으로 직접 에이전트를 개발할 수 있는 환경이 마련되면서 AI 기반 자동화가 산업군에 확산되고 있다는 것 이다.
이 같은 흐름은 지역 및 산업별 지표에서도 확인된다.
지역별 활성 에이전트 비중은 유럽·중동·아프리카 42%, 미국 29%, 아시아 19%, 아메리카 10% 순으로 나타났다. 산업별로는 소프트웨어·기술 16%, 제조업 13%, 금융 서비스 11%, 리테일 9%의 비중을 기록했다.
다만 AI 도입 확산과 함께 보안 취약점 가능성도 커지고 있다. MS는 AI 에이전트가 보안 취약 요소로 작용하는 ‘섀도 AI(Shadow AI)’ 리스크로 부상할 수 있다고 경고했다.
섀도 AI는 조직 승인 없이 직원이 자율적으로 AI 에이전트를 도입해 사용하는 현상을 뜻하는 단어로 과도한 권한 및 지침을 받은 에이전트는 조직 내 보안 취약점으로 작용할 수 있는 것으로 전해진다.
실제로 공격자가 AI 어시스턴트의 메모리를 지속적으로 조작해 응답을 특정 방향으로 유도하거나 추론 결과를 왜곡하는 사례가 발견됐다.
MS는 에이전트 도입 속도가 통제 수준을 앞지르면서 통제되지 않은 섀도 AI 사용이 증가하고 있다고 분석했다.
특히 악의적 행위자가 에이전트의 접근 권한을 악용할 경우, 에이전트가 의도치 않은 ‘이중 에이전트(double agent)’로 전락할 수 있다는 지적도 나온다.
이에 MS는 AI 에이전트 보안 위험을 낮추기 위해 조직 내 투명한 정보 공유 체계를 구축해야 한다고 강조했다.
특히 구체적인 실행 과제로 ‘AI 에이전트별 운영 목적 문서화 및 최소 접근 권한 부여’, ‘데이터 보호 체계 강화’, ‘전사 통합 리스크 관리’, ‘보안 혁신 문화 조성’ 등을 제시했다.
MS는 “AI 도입 경쟁에서 앞서기 위해서는 비즈니스·IT보안팀이 협력해 에이전트 활동을 관측하고 거버넌스를 적용하며 보안을 강화하는 체계를 갖춰야 한다”고 조언했다.
한편, 국내 주요 기업들은 보안 강화를 위해 AI 에이전트 서비스 사용을 제한하는 움직임을 보이고 있다.
사용자를 대신해 PC를 직접 조작하는 에이전트인 ‘오픈클로(OpenClaw)의 확산으로 내부 정보 유출 가능성에 대한 경계가 높아지고 있기 때문이다.
최근 네이버, 카카오, 당근 등 국내 기업들은 AI 에이전트 ‘오픈클로(OpenClaw)’의 사내 사용을 제한한다고 공지했다.
오픈클로는 별도의 중간 명령 없이 PC 화면을 인식하고 실제 업무를 수행할 수 있는 기능이 특징이다. 다만 단순 질의응답형 생성형 AI와 달리 광범위한 시스템 접근 권한을 요구할 수 있다는 점에서 보안 우려가 제기되고 있다.
실제로 보안 기업 위즈는 오픈클로를 사용한 AI 에이전트들의 커뮤니티인 ‘몰트북’ 계정 정보를 분석한 결과 대규모 개인 정보가 노출됐다고 밝힌 바 있다.
위즈에 따르면 API 키 약 150만개와 3만5000여개의 이메일 주소, 4000개 이상의 개인 메시지 데이터 등이 노출된 것으로 전해진다.
특히 국내 기업들이 특정 AI 서비스 사용을 전면 제한한 사례는 지난해 중국 AI 모델 딥시크(DeepSeek) 이후 약 1년 만이다.
당시 다수 기업들은 보안 우려를 이유로 딥시크 관련 서비스 사용을 제한했으며, 정부와 지방자치단체 역시 보안 검증 문제로 접속을 차단했다.
Copyright ⓒ 투데이코리아 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
다음 내용이 궁금하다면?
광고 보고 계속 읽기
원치 않을 경우 뒤로가기를 눌러주세요
