인공지능(AI)이 사람을 대신해 스스로 판단하고 행동하는 '에이전트 AI' 시대로 접어들면서 AI 안전성과 디지털 신뢰를 뒷받침할 글로벌 표준과 거버넌스 구축의 중요성이 커지고 있다.
KT는 UN과 국제전기통신연합(ITU)이 주관한 글로벌 AI 행사에 참가해 책임 있는 AI(Responsible AI) 구현 방안과 AI 안전성 확보를 위한 글로벌 협력 방향을 논의했다고 9일 밝혔다.
KT는 현지시간 7일 스위스 제네바에서 열린 'AI for Good Global Summit'의 'AI Foundation: 모두를 위한 디지털 신뢰와 AI 인프라' 라운드테이블 세션에 참석했다.
이번 세션은 UN 산하 정보통신기술(ICT) 전문기구인 ITU 전기통신표준화국이 주관했으며, 산업계와 정부, 국제 표준기구 관계자들이 참여해 에이전트 AI 시대의 디지털 신뢰(Digital Trust)와 AI 인프라 구축 방안을 논의했다. 디지털 신뢰는 사람과 기업, 시스템이 온라인 환경에서 안전하게 거래하고 상호작용할 수 있도록 하는 기반을 의미한다.
KT는 이 자리에서 에이전트 AI 시대에 필요한 '신뢰 기본 요소(Trust Primitive)'의 중요성을 제시했다.
회사는 신뢰 기본 요소를 에이전트의 주체를 확인하는 '신원'(Identity), 허용 범위를 규정하는 '동의'(Consent), 행위의 진위 여부를 확인하는 '검증 가능성'(Verifiability) 등 세 가지 요소로 설명했다.
KT는 기존 디지털 환경에서는 사람과 시스템 간 통신이 중심이었다면 앞으로는 AI 에이전트가 주요 행위 주체로 자리 잡게 될 것으로 전망했다. 이에 따라 에이전트가 안전하게 작동하기 위해서는 신뢰 체계가 필수적이며, 이러한 기반은 특정 플랫폼에 종속되는 폐쇄형 구조가 아니라 기업과 국가를 넘어 상호 연동되는 개방형 표준과 중립적인 신뢰 인프라 위에서 구축돼야 한다는 의견을 제시했다.
KT는 같은 날 UN이 개최한 '글로벌 AI 거버넌스 대화'(Global AI Governance Dialogue)에도 참석해 AI 거버넌스 구축 사례와 국제 협력 방안을 공유했다.
지난해 출범한 글로벌 AI 거버넌스 대화는 각국 정부와 산업계, 시민사회가 안전하고 포용적인 AI 활용 방안을 논의하기 위해 마련된 국제 협의체다. 올해 행사에는 안토니오 구테흐스 UN 사무총장을 비롯해 튜링상 수상자이자 UN 독립 국제 AI 과학패널 공동의장인 요슈아 벤지오 교수, 브래드 스미스 마이크로소프트 사장 등 정부와 산업계, 학계 주요 인사들이 참석했다.
KT는 세부 세션인 '인권 존중·보호·증진: 투명성, 책임성 및 인간 개입'에서 AI 기술이 고도화되더라도 UN이 확립해 온 인권 원칙이 지속적으로 보장돼야 한다는 점을 강조했다.
이와 함께 AI 안전성 확보를 위해 구축한 자체 정책과 거버넌스 체계를 소개하고, 이를 지니TV AI 에이전트 등 자사 서비스에 적용하고 있는 사례도 발표했다. 회사는 향후 AI의 예방·보호·감시 체계를 UN 등 국제사회와 협력해 발전시켜 나가겠다는 계획도 밝혔다.
박완진 KT AX미래기술원 Tech전략담당 상무는 "에이전트가 사람을 대신해 다양한 역할을 수행하는 시대에는 기술 혁신뿐 아니라 인간의 권리를 보호하고 상호운용이 가능한 디지털 신뢰 체계를 구축하는 것이 중요하다"며 "KT는 AI 모델 개발 역량과 중립적인 신뢰 인프라를 바탕으로 글로벌 AI 표준과 거버넌스 논의에 지속적으로 참여할 계획"이라고 말했다.
박성대 기자 / 경제를 읽는 맑은 창 - 비즈니스플러스
Copyright ⓒ 비즈니스플러스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
