엔비디아, 글로벌 AI업계 리더들과 '에이전틱 AI' 보안 규칙 만든다

(엔비디아 제공)

[이데일리 한광범 기자] 엔비디아(NVIDIA)가 5일(현지시간) 미국 라스베이거스에서 개최된 ‘블랙햇(Black Hat)’ 연례 콘퍼런스에서 120여 개 조직이 참여하는 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’ 회원사들과 함께 에이전틱 AI 사이버보안 강화를 위한 신규 가이드라인과 오픈소스 방어 도구를 공개했다.

이번 발표의 핵심은 리눅스 재단(Linux Foundation)이 공개한 ‘SAFE(Shared AI Findings Exchange)’ 의견 수렴 요청서(RFC)다. SAFE는 에이전틱 AI 사이버보안 사고 및 아차 사고(near miss) 정보를 기밀로 수집·분석해 생태계 전체를 보호하는 공동 방어 체계로 전환하기 위해 제안된 표준 가이드라인이다.

엔비디아와 시스코, 크라우드스트라이크, 허깅페이스, 레드햇 등이 제안서 작성에 참여했으며, 시스템 전반의 위험을 줄이기 위한 증거 기반 운영 권고안과 통제 실패 식별 방안 등이 포함됐다.

AI 에이전트는 단순한 모델을 넘어 아이덴티티 제어, 하네스, 가드레일, 로그 등이 유기적으로 결합된 복합 시스템이다. 따라서 단순 취약점 점검을 넘어 방어 스택 전반에 걸친 다층적 보안과 생태계 차원의 투명한 위협 인텔리전스 공유가 필수적이라는 것이 얼라이언스 측 설명이다.

엔비디아는 기술 스택 전 계층을 아우르는 개방형 보안 솔루션을 대거 선보였다. 에이전트 동작 관리용 연구 하네스 ‘NOOA(NVIDIA Labs Object-Oriented Agent)’를 깃허브에 공개하고, 에이전트의 접근 범위를 제한하는 ‘오픈쉘(OpenShell)’ 런타임을 제시했다. 또한 네모트론(Nemotron), 피지컬 AI용 코스모스(Cosmos) 등 개방형 모델 제품군과 LLM 취약점 스캐너 ‘가락(Garak)’, 네모 가드레일 등 안전 정책 시행 도구도 통합 지원한다.

얼라이언스 회원사들 역시 방어 스택 각 계층별 오픈소스 도구를 대폭 확대했다. 옥타, 팔로알토 네트웍스, 레드햇은 에이전트 식별 및 권한 제어를 위한 프레임워크를 마련했으며, 아마존, 마이크로소프트, 캐피털원, 클라우드플레어, 위즈, 비자 등은 보안 업무 오케스트레이션을 위한 하네스 및 레드팀 자동화 도구를 제공했다.

이외에도 시스코, 크라우드스트라이크, 미스트랄은 방어 전용 소형·멀티모달 모델을 공개했으며, 아카마이, 퍼플렉시티(넘뱃), 우버는 에이전트 활동 탐지·조사(ADR) 관측성 도구를, 랭체인과 빔은 장애 발생 시 상태 복원을 지원하는 기술을 기여했다.

엔비디아 측은 “사이버보안은 주요 기술이 전환될 때마다 새로운 공격 표면이 생겨나는 연속적 과정”이라며 “신뢰할 수 있는 생태계가 위협 정보를 투명하게 공유할 때 집단 방어의 효과가 극대화될 것”이라고 밝혔다.