[한스경제=이성노 기자] 카카오뱅크는 30일, 기술의 책임 있는 활용과 윤리적 운영을 위해 인공지능(AI)의 윤리 활동을 전방위에 걸쳐 강화한다고 밝혔다.
AI 윤리는 AI의 책임감 있고 공정한 사용을 규율하는 원칙과 지침을 말한다.
카카오뱅크는 2023년 국내 금융권 최초로 ‘인공지능경영시스템 인증(ISO/IEC 42001)’을 획득하며 AI 경영 체계의 안전성·윤리성·효율성을 대외적으로 인정받았다.
지난 2024년에는 AI 거버넌스를 본격적으로 운영하며 조직의 역할·책임·윤리 원칙·리더십·위험수준평가·생애주기별 준수 항목 평가와 같은 AI 관련 의사결정 전반에 있어 신뢰 기반의 토대를 완성했다.
이에 더해 카카오뱅크는 내부 거버넌스 강화·기술적 안전성·투명성 확보 등, 제도와 기술적 측면을 아우르는 더욱더 구체화된 AI 윤리 실천에 박차를 가하고 있다.
카카오뱅크는 올해 ‘AI 거버넌스 2.0' 프로젝트를 추진해 지난해 안착한 ‘AI 거버넌스’ 체계를 고도화하고 있다. ‘AI 거버넌스 2.0’은 금융권에서 AI 거버넌스를 선도해온 카카오뱅크의 경험을 바탕으로, 체계를 더욱 정교화하고 확장하기 위한 전략이다.
카카오뱅크는 △컴플라이언스(‘금융분야 AI 가이드라인 개정’ 및 ‘AI 기본법 시행’ 대응) △정책(AI 거버넌스 대상 범위 확대 추진) △조직(AI 윤리 관련 조직 추가 신설 검토) △프로세스(AI생애주기 준수절차 개선) 등, 핵심 영역별 실행 과제를 도출하고 있다.
또한 기술 측면에서 AI의 투명성과 신뢰성 강화를 위해, 연구와 실무 적용에 적극 나서고 있다. ‘설명가능 인공지능(eXplainable AI·XAI)’ 기술을 이상거래탐지(FDS)와 같은 내부 분석 시스템에 적용해 AI 기반 업무의 정확도를 제고하고, 서비스 전반의 신뢰도를 강화하고 있다. 이와 함께 KAIST ‘설명가능 인공지능센터(XAIC)’와 산학협력을 맺고 XAI 알고리즘을 상호 발전시켜 기술 적용 가능성을 확장하고 있다.
아울러 카카오뱅크는 대규모언어모델(LLM) 성능 평가 체계 ‘DUO’를 자체 구축해 운영 중이다. ‘DUO’는 다양한 LLM 가운데 금융 대화 역량, 계산 능력 등 카카오뱅크의 요구에 부합하는 모델을 신속하고 정확하게 평가할 수 있다. 또한 윤리·안전성, 진실성 기준에 따라 편향성과 환각(Hallucination) 점검도 가능하다.
카카오뱅크는 앞으로도 제도적 기반과 기술적 실행력을 지속적으로 강화해, 금융 소비자가 안심하고 AI 기반 서비스를 이용할 수 있는 환경을 조성해 나간다는 방침이다.
카카오뱅크 관계자는 “AI 윤리는 기술 발전과 함께 반드시 동반돼야 하는 필수 요소이며, 이를 제도와 기술로 실천하는 것이 중요하다”며, “카카오뱅크는 금융 영역에 특화한 AI 전 생애주기 관리와 책임 있는 운영으로 고객 신뢰를 지켜 나가겠다”고 말했다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
