“연구소는 초지능을 꿈꾸지만, 시장은 '가성비'를 원합니다.” 메타 라마의 기틀을 닦았던 조엘 피노 코히어 CAIO가 AI 상용화의 핵심 병목으로 ‘비용 효율성’과 ‘계층적 사고의 부재’를 꼽았습니다.
핵심 요약
- ✅ [능력 과잉과 시장의 괴리] 연구소들이 '초지능' 경쟁에 몰두하는 사이, 실제 기업 고객들은 적절한 성능에 운영 비용을 극대화한 작은 모델(Small Model)을 선호하는 '능력 과잉(Capability Overhang)' 현상 발생.
- ✅ [기억의 질과 계층적 사고] 현재 AI는 방대한 정보를 저장(Memory)하지만 상황에 맞는 정보를 골라 쓰는 '선택적 인출'과, 큰 그림에서 세부 실행으로 이어지는 '계층적 사고'가 부족함. 이를 해결하기 위해 구조화된 ‘코드(Code)’ 학습이 필수적.
- ✅ [우버 에이전트 vs 전문 에이전트] 모든 것을 다 아는 단일 모델보다는 특정 환경과 규칙을 완벽히 이해하는 여러 전문 에이전트들이 서로 소통하는 시스템이 더욱 현실적이고 효율적인 비즈니스 모델이 될 것으로 전망.
조엘 피노 코히어(Cohere)의 최고AI책임자(CAIO)가 인공지능(AI) 연구가 벽에 부딪혔다는 일각의 우려에 대한 자신의 견해를 밝혀 눈길을 끈다. 피노 CAIO는 최근 '빅 테크놀로지 팟캐스트'에 출연해 현재 연구팀이 집중하고 있는 핵심 과제와 비즈니스 현장의 실태를 공개했다.
"기억(Memory)은 있지만, 선택적 인출이 안 된다"
피노 CAIO는 현재 AI 모델들이 엄청난 양의 정보를 저장할 수 있음에도 불구하고, 특정 상황에서 어떤 정보를 끌어내어 추론에 활용할지 결정하는 능력이 부족하다고 지적했다.
단순히 컨텍스트 윈도우(Context Window)를 늘리는 것만으로는 해결되지 않으며, 효율성과 관련성을 기준으로 정보를 다루는 '기억의 질'을 높이는 것이 현재 기술의 최첨단 과제라고 밝혔다.
'세계 모델(World Models)'에 대한 이야기도 나왔다. 피노 CAIO는 지능형 에이전트가 현실이나 디지털 세계에서 특정 행동을 했을 때, 그 결과로 세상이 어떻게 변할지 예측할 수 있어야 한다는 것이다. 피노 CAIO는 모든 것을 다 아는 하나의 '우버 에이전트'보다는 특정 환경의 규칙을 완벽히 이해하는 다양한 에이전트들이 서로 통신하는 미래가 더 현실적이라고 전망했다.
"문장 단위 추론 뛰어난 LLM, 계층적 사고에 취약"
현재의 LLM이 문장 단위의 추론은 뛰어나지만, 여행 계획을 세울 때처럼 '큰 그림'에서 '세부 실행'으로 오가는 계층적 사고에는 취약하다는 점도 언급됐다. 피노 CAIO는 이를 해결하기 위해 '코드(Code)' 학습의 중요성을 강조했다. 코드는 구조적인 계층이 명확하기 때문에 이를 통해 기계가 구조적 단서를 추론하는 법을 배울 수 있다는 설명이다.
흥미로운 대목은 상용화 현장에서 나타나는 '능력 과잉(Capability Overhang)' 현상이다. 피노 CAIO는 "연구소에서는 초지능 모델을 만들지만, 실제 비용을 지불하는 기업 고객들은 적당한 성능에 효율성이 극대화된 작은 모델을 선호한다"고 밝혔다.
또한 소비자용 AI가 기대만큼 세상을 뒤흔들지 못하는 이유에 대해 "사람들은 AI가 마법을 부리길 기대하지만 현실은 그렇지 않다"며, 조직의 기존 프로세스와 AI 에이전트 사이의 불일치(Mismatch)가 상용화의 가장 큰 병목이라고 진단했다.
"아이디어는 가둘 수 없다"…AI 연구소들의 치열한 경쟁
주요 AI 연구소들의 기술 수준이 비슷한 이유에 대해서는 "아이디어는 사람의 머릿속에 있고, 그 인재들이 끊임없이 이동하기 때문"이라고 설명했다. 피노 CAIO는 아이디어를 박스 안에 가두는 것은 불가능하며, 오히려 개방형 과학을 통해 모두가 함께 빠르게 발전하는 것이 생태계에 이롭다는 철학을 견지했다.
피노 CAIO는 마지막으로 "우리는 이제 막 AI 도입의 초기 단계에 있다"며, 기술이 사회와 비즈니스 전반에 스며드는 속도는 이제부터가 진짜 시작이라고 강조했다.
한편 머신러닝 석학으로 불리는 피노 CAIO는 맥길 대학교 컴퓨터공학과 교수이자 퀘벡 인공지능 연구소인 밀라의 핵심 멤버다. 특히 얀 르쿤과 함께 메타의 개방형 라마 AI 모델 초기 개발을 이끌기도 했다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
