카카오, AI 윤리기준 선도한다...리스크 관리체계 'ASI' 도입

카카오, AI 리스크 관리 체계 ‘Kakao AI Safety Initiative’ 구축. 카카오 제공 [뉴스락]

[뉴스락] 카카오가 AI 기술의 윤리와 신뢰 강화를 위한 종합 관리체계를 구축했다.

카카오는 AI 기술 개발과 운영 과정의 잠재적 위험을 사전 식별하고 관리하는 'Kakao AI Safety Initiative(카카오 ASI)'를 구축했다고 23일 밝혔다.

카카오 ASI는 AI 시스템의 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트에 이르는 전 생애주기에서 발생할 수 있는 리스크에 선제 대응이 가능한 것이 특징이다.

이 관리체계는 카카오 AI 윤리 원칙, 리스크 관리 사이클, AI 리스크 거버넌스 등 3가지 핵심요소로 구성됐다.

윤리 원칙은 2023년 3월 발표한 '카카오 그룹의 책임 있는 AI를 위한 가이드라인'을 기반으로 하며, 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등의 원칙을 포함한다.

리스크 관리 사이클은 식별-평가-대응의 순환 단계로 구성돼 AI 기술의 비윤리적 사용과 불완전성을 최소화하는 역할을 한다.

AI 리스크 거버넌스는 AI Safety, ERM 위원회, 최고 의사결정 기구의 3단계로 구성돼 AI 시스템의 개발과 운영을 관리·감독한다.

카카오는 향후 빠르게 변화하는 기술 환경에 맞춰 체계를 지속적으로 고도화하고, AI 시스템의 신뢰성과 안전성을 강화해 나갈 계획이다.

김경훈 카카오 AI Safety 리더는 "AI와 인간으로 리스크 발생 주체를 구분하고, 각 특성을 반영한 평가와 대응방안을 마련한 점이 타사와의 차별점"이라고 설명했다.