“에이전트 AI 시대, 시스템보다 경영진 ‘의지·거버넌스’가 핵심”

그는 “많은 이들이 AI 신뢰성이라고 하면 단순히 환각(할루시네이션) 현상을 막는 정확도 측면만 생각한다”며 “하지만 에이전트 시대에는 투명성, 책임성, 데이터 관리, 프라이버시, 다양성, 침해 금지 등 두루두루 다각적인 관점에서 접근해야 한다”고 설명했다.

포티투마루가 제시한 신뢰성 확보 전략의 핵심은 AI 모델 개발의 전 주기(라이프사이클)에 걸친 철저한 통제다.

◇“글로벌 상호 인정 인증 체계 시급…한국도 글로벌 스탠다드 될 기회” 김 대표는 현재 대한민국 정부와 기관들이 AI 신뢰성 가이드라인이나 체크리스트를 세계 어느 나라보다 잘 마련해 두었음에도 정작 대기업을 포함한 많은 기업이 이를 제대로 인지하지 못하고 있는 ‘홍보 부족’ 문제를 지적했다.