월가, AI 대재앙 이후까지 대비…은행권 ‘사후 복구’ 시나리오 짠다

[AI 생성 이미지=뉴스로드]

AI 해킹으로 전 세계가 몸살을 앓고 있는 가운데, 미국 월가가 인공지능(AI)으로 인한 최악의 보안 사고를 예방하는 데 그치지 않고, 대규모 사고가 발생한 이후 금융 시스템을 정상화하는 대응책 마련에 나서 주목된다. 고객을 대신해 금융 업무를 수행하는 AI 에이전트가 은행 계좌에 접근하고 일부는 이용자의 지시와 다르게 움직일 가능성이 제기되면서다.

미국 온라인 매체 악시오스(Axios)는 23일(현지시간) 미국 주요 은행들이 AI 관련 대형 사고에 대비해 고객 계좌 보호와 금융 서비스 복구 등을 포함한 이른바 ‘사고 이후(day after)’ 시나리오를 준비하고 있다고 보도했다. AI 기술의 급속한 발전이 금융권에 새로운 업무 효율성을 제공하는 동시에 기존 보안 체계로 통제하기 어려운 위험을 키우고 있다는 판단에서다.

악시오스에 따르면 최근 은행권이 우려하는 문제는 AI 에이전트가 고객의 온라인 계좌에 접근하는 과정에서 발생하는 보안 공백이다. 고객이 편의를 위해 로그인 아이디와 비밀번호를 AI 서비스에 제공하면, 은행이 사전에 검증하지 않은 에이전트가 계좌에 접근할 수 있다. 일부 에이전트가 고객의 명시적인 지시와 다르게 행동하려는 정황도 포착된 것으로 전해졌다.

은행들은 대응 수위를 높이고 있다. JP모건체이스와 뱅크오브아메리카, 씨티그룹, 모건스탠리 등은 외부 AI 에이전트의 자사 플랫폼 접근을 제한하거나 차단하는 조치에 나섰다. 은행들이 우려하는 것은 단순한 계좌 접속 자체가 아니라 에이전트에 부여된 권한에 따라 고객이 의도하지 않은 결제나 자금 이체가 이뤄질 가능성이다.

다만 현재까지 고객 자금이 피해를 입거나 계좌가 실제로 해킹당했다는 증거가 확인된 것은 아니라는 게 은행권의 입장이다. 은행들은 AI 에이전트의 접근을 무조건 허용하기보다는 고객이 선택한 서비스를 안전하게 연결할 수 있는 방법을 모색하고 있다.

이 과정에서 대안으로 거론되는 방식은 조회 전용(read-only) 접근이다. AI 에이전트가 계좌 잔액과 거래 내역을 확인할 수 있도록 하되, 송금이나 결제 등 자금에 직접 영향을 미치는 행위는 차단하는 방식이다. 고객이 금융정보 활용의 편의성을 누리면서도 자산에 대한 통제권을 유지하도록 하겠다는 취지다.

월가의 대비는 고객 계좌 보안을 넘어선다. 은행들은 대규모 사이버 공격이나 AI 관련 사고가 발생했을 때 계좌 접근을 신속하게 통제하고, 고객 서비스를 복구하며, 금융 업무의 연속성을 유지하는 방안까지 검토하고 있다. AI 기업들과 주요 은행들이 고성능 AI의 사이버 공격 역량과 잠재적 위험을 사전에 점검해 온 것도 이러한 배경에서다.

제이미 다이먼 JP모건 최고경영자(CEO)도 이달 초 시카고에서 열린 행사에서 AI 에이전트가 이용자를 대신해 항상 올바르게 행동할 것이라고 가정해서는 안 된다는 취지로 경고했다. 그는 AI의 확산을 막기보다는 위험을 철저히 관리해야 한다는 입장을 밝혔다.

위험은 개별 계좌의 피해에 그치지 않을 수 있다. 여러 AI 에이전트가 높은 금리를 찾아 동시에 자금을 이동시키거나, 특정 금융기관의 위험을 감지해 일제히 예금을 다른 곳으로 옮기려 한다면 자금 흐름이 급변할 수 있다. AI가 금융 의사결정의 속도와 규모를 확대하면서 기존 금융 시스템이 예상하지 못한 방식으로 유동성 불안을 키울 가능성도 배제할 수 없다. 다만 이는 제기된 잠재적 시나리오로, 실제로 이 같은 AI 유발 뱅크런이 발생했다는 의미는 아니다.

이번 움직임은 AI 위험을 둘러싼 두 가지 문제를 드러낸다. 하나는 AI 모델 자체가 사이버 공격에 활용될 수 있다는 위험이고, 다른 하나는 이용자가 권한을 부여한 AI 에이전트가 금융 시스템 안에서 예측하기 어려운 행동을 할 수 있다는 문제다. 두 위험은 연관돼 있지만 동일하지 않다. 특히 고객이 직접 로그인 정보를 제공한 경우에는 이용자 동의의 범위와 은행의 보안 규정, 에이전트의 실제 행동을 구분해야 한다.

결국 금융권의 과제는 AI를 차단할 것인지 허용할 것인지의 양자택일이 아니다. 어떤 정보를 조회할 수 있는지, 자금 이동은 어디까지 허용되는지, 권한을 누가 부여하고 언제 철회할 수 있는지, 사고가 발생했을 때 책임은 누가 지는지를 명확히 하는 것이 핵심이다.

AI 에이전트가 금융 업무에 깊숙이 들어올수록 보안은 단순한 기술적 방어를 넘어 금융 시스템의 신뢰를 지키는 문제로 확대된다. 월가가 ‘사고 이후’까지 대비하는 것은 AI가 초래할 수 있는 위험이 더 이상 개별 기업의 정보기술 문제가 아니라 고객 자산과 금융 서비스의 연속성에 직결된 사안이라는 점을 보여준다.

[뉴스로드] 강동준 기자 [e-mail]