카카오뱅크, AI 윤리 전방위 강화한다

[이데일리 김나경 기자] 카카오뱅크가 AI 기술의 책임 있는 활용과 윤리적 운영을 위해 AI 윤리 활동을 전방위로 강화하며 금융 분야에서 신뢰 기반 AI 활용의 선도 모델을 제시하고 있다.

카카오뱅크는 2023년 국내 금융권 최초로 ‘인공지능경영시스템 인증(ISO·IEC 42001)’을 획득하며 AI 경영 체계의 안전성, 윤리성, 효율성을 대외적으로 인정받았다. 작년에는 AI 거버넌스를 본격 운영하고 조직의 역할과 책임, 윤리 원칙, 리더십, 위험수준평가, 생애주기별 준수 항목 평가 등 AI 관련 의사결정 전반에 있어 신뢰 기반의 토대를 완성했다.

카카오뱅크는 지난해 성공적으로 안착한 AI 거버넌스 체계를 고도화하기 위해, 올해부터 ‘AI 거버넌스 2.0‘ 프로젝트를 추진 중이다. △컴플라이언스(‘금융분야 AI 가이드라인 개정’ 및 ‘AI 기본법 시행’ 대응) △정책(AI 거버넌스 대상 범위 확대 추진) △조직(AI 윤리 관련 조직 추가 신설 검토) △프로세스(AI생애주기 준수절차 개선) 등 핵심 영역별 실행 과제를 도출한다.

기술 측면에서는 설명가능 인공지능(eXplainable AI) 기술을 이상거래탐지(FDS) 등 내부 분석 시스템에 적용하고 있다. XAI는 AI가 도출한 특정 결과의 작동 원리와 판단 근거를 사용자에게 명확히 제시하는 기술로, 결과에 대한 책임성과 해석 가능성을 높이는 데 기여한다. 카카오뱅크는 이를 통해 AI 기반 업무의 정확도를 제고하고, 서비스 전반의 신뢰도를 강화하고 있다. 또한 KAIST 설명가능 인공지능센터(XAIC)와 산학협력을 맺고 XAI 알고리즘을 상호 발전시켜 나가며 다양한 금융 분야에서의 기술 적용 가능성을 확장하고 있다.

아울러 카카오뱅크는 대규모언어모델(이하 LLM) 성능 평가 체계 ‘DUO’를 자체 구축해 운영하고 있다. DUO를 활용하면 다양한 LLM 가운데 금융 대화 역량, 계산 능력 등 카카오뱅크의 요구에 부합하는 모델을 신속하고 정확하게 평가할 수 있다. 또한, 윤리·안전성(Safety), 진실성(Truthfulness) 기준에 따라 편향성과 환각(Hallucination) 가능성 등의 점검도 가능하다. 카카오뱅크는 DUO를 활용해 금융 산업 특성에 부합하는 신뢰도 높은 AI 모델을 선별하고 실제 금융 서비스 적용이 가능한지 면밀히 검토하고 있다.

카카오뱅크는 “AI 윤리는 기술 발전과 함께 반드시 동반돼야 하는 필수 요소이며 이를 제도와 기술로 실천하는 것이 중요하다”며 “카카오뱅크는 금융 영역에 특화한 AI 전 생애주기 관리와 책임 있는 운영으로 고객 신뢰를 지켜 나가겠다”고 말했다.