AI 쓰며 쌓인 노하우, 누구 것인가…나델라가 던진 ‘학습 소유권’ 화두

[이데일리 김현아 기자] 생성형 인공지능(AI) 경쟁의 초점이 모델 성능을 넘어 ‘학습의 소유권’으로 옮겨가고 있다.

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 13일(현지시간) 자신의 X(옛 트위터)에 ‘역(逆) 정보의 역설(The Reverse Information Paradox)’이라는 제목의 장문 글을 올리고 “AI 시대 기업이 지켜야 할 것은 단순한 데이터가 아니라 AI를 사용하며 축적되는 학습 자체”라고 강조했다.

그는 기업들이 AI를 사용할수록 독자적인 업무 노하우와 의사결정 방식이 AI 활용 과정에 녹아들고 있으며, 이러한 학습의 소유권을 기업 스스로 확보해야 미래 경쟁력을 지킬 수 있다고 주장했다.

사티아 나델라 마이크로소프트 최고경영자(CEO)(사진=AFP)

◇“AI는 돈만 내는 것이 아니다…노하우도 함께 제공”

나델라는 노벨경제학상 수상자인 경제학자 케네스 애로(Kenneth Arrow)의 ‘정보의 역설(Information Paradox)’을 AI 시대에 맞게 뒤집었다.

기존에는 정보를 판매하는 사람이 자신의 지식을 먼저 공개해야 하는 위험을 감수했다면, AI 시대에는 오히려 AI를 구매한 기업이 AI를 제대로 활용하기 위해 자사의 핵심 지식을 제공하는 상황이 벌어지고 있다는 것이다.

그는 “기업은 AI 기업에 두 번 비용을 지불한다. 한 번은 돈으로, 또 한 번은 AI를 제대로 활용하기 위해 공개하는 기업 고유의 지식으로 지불한다”고 설명했다.

기업이 프롬프트(지시어)를 입력하고, AI의 답변을 수정하며, 업무 절차와 평가 기준을 알려주는 과정 자체가 회사만의 경쟁력과 운영 노하우를 AI 활용 과정에 담아내는 행위라는 의미다.

◇데이터보다 중요한 자산은 ‘학습’

나델라는 AI 시대에는 보호해야 할 대상도 달라졌다고 진단했다.

클라우드 시대에는 기업이 축적한 자산이 데이터였다면, AI 시대에는 AI를 사용하며 축적되는 학습이 새로운 핵심 자산이라는 것이다.

AI 모델은 사용자가 작성한 프롬프트와 업무 흐름, AI가 틀렸을 때 사람이 수정한 내용, 평가 기준 등을 지속적으로 반영한다. 그는 이러한 과정에서 생성되는 지식을 ‘인텔리전스 익조스트(Intelligence Exhaust)’라고 표현했다.

나델라는 “기업은 AI를 소비하는 동시에 새로운 AI를 만들어내고 있다”며 “그렇게 만들어진 학습과 지식은 기업 자신에게 귀속돼야 한다”고 강조했다.

◇“학습이 AI 기업으로만 흘러선 안 된다”

그는 현재 AI 산업의 구조에도 문제를 제기했다.

AI 기업들은 공개 데이터를 활용해 모델을 학습할 권리를 주장하면서도, 고객이 AI를 사용하며 축적한 지식과 상호작용 데이터에서는 지속적으로 학습하려 하고, 반대로 고객이 모델 증류(대형 AI 모델의 성능을 작은 AI 모델이 학습해 비슷한 능력을 갖도록 하는 기술) 등을 통해 이를 활용하는 것은 제한하고 있다는 것이다.

나델라는 “학습이 한 방향으로만 흐른다면 경제적 가치는 AI 인프라를 보유한 소수 기업으로 집중될 것”이라며 “모든 기업이 자신의 러닝 루프(Learning Loop)를 직접 통제할 수 있어야 한다”고 주장했다.

러닝 루프란 기업이 AI를 사용할수록 기업의 업무 노하우와 학습이 계속 축적되는 선순환 구조를 의미한다.

◇AI 시대 경쟁력은 ‘러닝 루프’

나델라는 앞으로 기업들이 확보해야 할 핵심 원칙으로 ▲통제 ▲역량 ▲선택권 ▲비용 효율 ▲복리 효과를 제시했다.

특히 특정 AI 모델에 종속되지 않는 오케스트레이션 체계(여러 AI 모델을 필요에 따라 연결하고 자유롭게 바꿔 사용할 수 있도록 하는 운영 체계)를 구축하고, 기업 내부에서 AI를 학습·미세조정할 수 있는 환경을 갖춰야 한다고 강조했다.

그는 “클라우드 시대 기업이 데이터를 축적했다면 AI 시대 기업은 학습을 축적한다”며 “기업은 자신만의 고유한 지식을 포기하지 않으면서도 AI를 활용할 수 있어야 한다. 이것이 우리가 해결해야 할 ‘역 정보의 역설’의 핵심”이라고 밝혔다.

나델라의 이번 글은 AI 시대 기업의 경쟁력이 단순히 더 뛰어난 AI 모델을 도입하는 데 있는 것이 아니라, AI를 활용하는 과정에서 축적되는 ‘러닝 루프(AI를 사용할수록 기업의 업무 노하우와 학습이 계속 축적되는 선순환 구조)’를 누가 소유하고 통제할 것인가가 새로운 경쟁력의 핵심이라는 화두를 던졌다는 평가를 받고 있다.