카카오뱅크가 금융 인공지능(AI)의 보안성과 안전성을 높이기 위한 연구 성과를 세계적인 AI 학술대회에서 잇따라 인정받으며 글로벌 수준의 금융 AI 연구 경쟁력을 입증했다.
카카오뱅크는 금융기술연구소가 올해 상반기 AI 분야 주요 국제 학회인 ICLR(표현학습국제학회), ACL(전산언어학회), LREC(어학자원연구학술대회)에서 총 4편의 연구 논문을 채택받았다고 1일 밝혔다.
이번 연구는 생성형 AI의 안전성을 강화하고 금융 특화 AI 모델의 정확성과 신뢰성을 높이는 기술 개발에 초점을 맞췄다.
먼저 지난 4월 열린 ICLR 2026에서는 금융과 법률 등 전문 분야 생성형 AI를 대상으로 한 프롬프트 인젝션(유해 콘텐츠 주입 및 우회 공격) 탐지 기술을 발표했다. 카카오뱅크는 KAIST와 공동으로 구축한 약 5만9천 건 규모의 데이터셋을 활용해 기존 글로벌 최고 수준 모델보다 높은 탐지 성능을 입증했다고 설명했다.
이어 5월 개최된 LREC 2026에서는 금융 AI의 보안성과 정확성을 높이는 두 편의 연구가 채택됐다. 하나는 이미지와 텍스트가 함께 활용되는 멀티모달 환경에서 프롬프트 공격을 탐지하는 기술이며, 다른 하나는 금융 데이터 처리 과정에서 발생할 수 있는 숫자 계산 오류를 자동으로 검증하는 기술이다. 회사는 이를 통해 금융 AI 챗봇의 오류를 줄이고 보안 위협에도 효과적으로 대응할 수 있을 것으로 기대하고 있다.
또한 ACL 2026 산업 분야 트랙에는 카카오뱅크와 KAIST가 공동으로 수행한 금융 AI 안전성 연구가 선정됐다. 연구진은 보이스피싱, 금융사기, 개인정보 탈취 등 금융 분야에서 발생할 수 있는 다양한 위험 요소를 체계적으로 분류한 AI 안전성 평가 기준을 제시했으며, AI가 스스로 위험한 응답을 회피하도록 학습하는 기술도 함께 개발했다. 해당 연구는 오는 7월 미국에서 열리는 ACL 학회에서 발표될 예정이다.
카카오뱅크 관계자는 "이번 연구는 단순한 학술적 성과를 넘어 실제 금융 AI 서비스의 안전성과 정확성을 높일 수 있는 실용 기술이라는 점에서 의미가 크다"며 "앞으로도 금융 환경에 특화된 AI 보안과 기술 연구를 지속해 보다 안전하고 편리한 금융 서비스를 제공하겠다"고 밝혔다.
[폴리뉴스 김지혜 기자]
Copyright ⓒ 폴리뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
