개인정보보호위원회는 13일 최근 전체회의를 열고 카나나에 대한 사전적정성 검토 결과를 심의·의결했다고 밝혔다. 사전적정성 검토제는 AI 등 신기술·신서비스의 기획·개발 단계에서 기존 법 해석과 집행 선례만으로는 명확한 개인정보 보호법 준수 방안을 찾기 어려운 경우 신청인이 개인정보위와 협력하여 적절한 법 적용 방안을 마련하고 이를 준수하면 사후 불이익 처분을 받지 않도록 하는 제도다.
이 제도는 국내 서비스 출시를 위한 필수 과정은 아니지만 카카오는 개인정보 보호 조치를 선제적으로 마련하기 위해 정부의 검토를 요청했다. 카카오는 악의적인 이용자가 타인의 개인정보를 유도 질문을 통해 캐내려는 시도를 차단하는 AI 모델을 카나나에 탑재할 예정이다. 또 언어모델이 생성하는 답변이 개인정보(전화번호, 이메일 등 식별성이 높은 정보)를 포함하지 않도록 자동 검수 시스템을 운영한다.
예를 들어 카나나는 하나의 대화방에서 알게 된 참여자의 개인정보를 다른 대화방에서 발설하지 않도록 기술적 안전장치를 적용할 계획이다. 또 대화방 참여자가 "회비를 어떻게 내지?"라고 질문하면 해당 대화방 총무의 계좌번호를 제공할 수 있으나 이 정보가 다른 대화방이나 타인에게 노출되지 않도록 철저히 보호할 방침이다.
카카오는 개인정보위와 협력해 ▲암호화 등 기술적 보안조치 강화 ▲외부 모델의 데이터 처리 보호 강화 ▲내부 학습에 활용 시 추가적인 안전조치 적용 ▲내부 관리 체계 강화를 포함한 개인정보 보호 대책을 마련했다.
특히 카나나 이용자의 대화 데이터를 자사 거대언어모델(LLM) 학습에 활용하려면 반드시 별도의 동의를 받도록 하는 절차를 도입했다. 오픈AI를 활용할 경우 대화 데이터에서 고유식별정보나 계좌·카드번호 등 개인정보를 암호화해 보호하는 조치를 적용했다. 카나나 앱은 카카오가 자체 개발한 LLM을 주로 활용하지만 오픈AI GPT 모델을 보완적으로 사용하는 방식으로 운영될 예정이다.
이번 의결을 통해 카나나 앱의 베타 버전이 상반기 중 무난히 출시될 것으로 예상된다. 정신아 카카오 대표는 지난달 4일 열린 카카오-오픈AI 공동 기자간담회에서, 카나나의 베타 테스트 버전을 상반기 중 일반인 대상으로 출시하고, 올해 안에 정식 버전을 선보일 계획이라고 밝힌 바 있다.
카카오는 올해 카카오톡과 AI를 중심으로 사업을 전개할 방침이다. 카카오커머스와 카카오맵 등 다양한 플랫폼에서 AI를 기반으로 이용자와 상호작용하며 요청을 분석·추천하는 'AI 메이트' 서비스도 출시할 계획이다.
카카오 관계자는"신규 AI 서비스인 카나나의 출시에 앞서 안전하고 적법한 이용자 개인정보 처리를 위하여 개인정보위원회의 사전 적정성 검토제를 신청한 바 있다"며 "이용자의 개인정보를 안전하게 관리하기 위해 향후에도 법령을 준수하고 이용자의 개인정보 보호를 우선으로 고려해 나가겠다"고 밝혔다.
Copyright ⓒ 머니S 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
