[기자수첩] 생성형 AI 시대, 규제 완화 앞서 리스크 대응 필수

[한국금융신문 한아란 기자] “새로운 비즈니스에 따르는 리스크를 어떻게 관리할지도 감독당국이 고민해야 할 부분입니다.”(김주현 금융위원장)

“얼마나 위험분리를 잘 하는지, 윤리 원칙을 잘 운영하는지가 AI 발전을 다지는 초석이 될 것입니다.”(곽범준 금융감독원 디지털혁신국장)

“AI 도입에 따른 효익이 아무리 크더라도 100% 완전한 답과 금융 정보 등이 포함된 개인정보 보호는 양보할 수 없는 부분입니다.”(장일호 하나금융지주 AI데이터본부장 상무)지난 21일 서울 중구 은행연합회에서 열린 ‘2024 한국금융미래포럼 : AI 혁명과 금융혁신 3.0’에서 참석자들은 AI 도입에 따른 리스크 관리를 최우선 과제로 꼽았다.

금융권의 디지털 전환과 비대면 금융이 가속화하고 있는 가운데 주요 금융사는 미래 성장 동력을 끌어올릴 혁신 기술로 AI에 주목하고 있다.

금융권은 특히 생성형 AI 기술에 주목해 주요 업무와 서비스에 적용하기 위한 개발·도입에 적극적으로 뛰어드는 중이다. 생성형 AI를 활용해 업무 효율성을 획기적으로 높이고 대고객 서비스 경쟁력도 강화할 수 있다는 판단에서다.

금융당국은 금융권의 AI 활용 활성화를 뒷받침하고 나선다. 김주현 금융위원장은 이번 포럼에서 “금융사의 모든 경쟁력은 데이터와 AI를 활용해 어떻게 생산력을 높일지에서 나올 것”이라며 “데이터와 AI로 고객과 시장 을 이해하고 빠른 시간 내에 효과적으로 분석함으로써 우리 기업이 경쟁에서 이길 수 있도록 지원할 것”이라고 강조했다.

앞으로 보다 전향적인 규제 완화 정책이 필요하다는 목소리도 나온다. 정유신 디지털경제금융연구원장은 “현재 금융당국이 AI 가이드라인을 발표하고 있지만, 가상자산에서와 마찬가지로 소비자·투자자보호의 관점에서 접근하고 있다”며 “AI의 적극적 활용을 위한 금융관련 법·제도의 빠른 정비가 중요한 시점”이라고 강조했다.

다만 AI 도입 확산과 함께 환각(할루시네이션), 보안 등의 문제는 리스크 요인으로 떠오르고 있다. 오순영 KB국민은행 금융AI센터장 상무는 “생성형 AI의 답변 정확도에 대해 솔루션을 계속 만들어내고 있지만 100가지 질문에 100가지 정확한 답변을 하느냐는 것은 아직은 확실하지 않은 상황”이라며 “생성형 AI의 장점은 분명히 있지만 하나라도 문제가 생기면 산업을 죽이거나 기술 활용이 확 죽을 수 있어 내부에서 충분히 활용해봐야 하고, 생성형 AI가 설사 잘못된 답변을 하더라도 후속 조치나 앞단 대응에 있어 노하우가 필요하다”고 강조했다.

장일호 하나금융지주 AI데이터본부장 상무 역시 환각 문제를 첫번째 리스크 요인으로 꼽았다. 장 상무는 “생성형 AI는 학습 데이터상 다음에 올 확률이 가장 높은 단어를 예측해 문장을 생성함으로써 그럴듯한 오답을 만드는 기술적 한계를 갖고 있다”며 “100% 정확한 정보를 제공해야 하는 금융업에서 잘못된 정보 제공은 곧 금융사고가 될 수 있다”고 우려했다.

AI 학습을 위한 외부 클라우드 사용 시 개인정보를 포함한 데이터 유출 가능성도 커질 수 있다.

전문가들은 AI 도입에 따른 각종 리스크 요인에 대응할 방안이 필수적이라고 입을 모은다.

곽범준 금감원 디지털혁신국장은 “AI가 데이터를 스스로 활용했을 때 해당 데이터를 어떻게 활용하는지 처음에는 알지 못하더라도 사후에는 문제가 될 수 있다”며 “발전된 시스템이 뒷걸음질치는 상황이 올 수 있어 윤리 문제는 굉장히 중요하다”고 강조했다. 금융당국은 AI 윤리 원칙이 잘 운영되는지 초점에 두고 감독하겠다는 방침이다.

AI가 금융권의 변곡점이 된 현시점에서 새로운 기술 발전을 뒷받침할 유연한 규제 완화는 필수적이다. 하지만 장기적으로 지속가능한 금융혁신을 위해서는 속도보다는 디테일이 중요하다. 긴 호흡을 갖고 접근해보자.

한아란 한국금융신문 기자 [e-mail]