"금융권 AI, 최신 보안 공격에 무력화…취약점 사전 탐지해야"

금융보안원, 2025년 AI 레드팀 점검 보고서 발간

[금융보안원 제공]

(서울=연합뉴스) 강수련 기자 = 금융권 인공지능(AI)이 기본적 보안 위협에는 대응할 수 있지만, 고도화된 최신 공격으로 무력해질 가능성이 있다는 경고가 나왔다.

금융보안원은 시스템 취약점을 선제적으로 파악하는 금융권 AI 레드팀의 점검 결과를 담은 '2025년 AI 레드팀 보고서'를 30일 발간했다.

금융권 AI는 간단한 우회 문구를 통해 AI의 윤리적 안전장치를 우회하는 1세대 공격 등에는 적절히 대응했다.

그러나 긴 문맥을 이용하거나 지식 데이터베이스(DB)를 오염시켜 모델의 판단을 조작하는 3세대, 도구 사용을 조작해 금융 시스템에 직접적 피해를 유발하는 4세대 공격에는 무력화되는 경향을 보였다.

보고서는 금융사의 AI 관련 공격 탐지·방어 기술과 내부통제의 통합적 대응이 필요하다고 강조하며 AI 거버넌스 체계 확립, 에이전트 권한 검증, 주기적 AI 레드티밍(취약점 사전 탐지·수정) 등을 제안했다.

박상원 금융보안원장은 "2026년은 AI가 금융혁신의 핵심 경쟁력으로 자리 잡는 동시에 고도화된 공격이 급증하는 시기가 될 것"이라며 "전담 조직을 통해 금융사의 선제적인 보안 점검과 자체 검증 체계를 지원하겠다"고 밝혔다.

[e-mail]