[영상] 기업 도입 늘었는데, 활용은 아직? ‘생성형 AI’ 실무 활용 낮은 이유

인포시즈 탁정수 대표 “생성형 AI 활용, 기업 내부 지식 구조화가 핵심”

• ▲ [기획인터뷰] 인포시즈 탁정수 대표 /영상=이세종 PD

  
  

  생성형 AI 도입을 선언한 기업이 빠르게 늘고 있지만, 실제 업무 현장에서의 활용도는 기대에 미치지 못하고 있다. 챗봇, 문서 요약, 자동 응답 등 다양한 시도가 이어지는데도 “답이 일관되지 않다”, “우리 업무와 맞지 않는다”는 반응이 여전하다. 이는 AI 기술 자체의 한계라기보다, 기업 내부에 축적된 지식과 기준이 AI가 이해할 수 있는 구조로 정리돼 있지 않기 때문이라는 지적이 나온다.

  AI 지식 관리 솔루션 기업 인포시즈의 탁정수 대표는 “많은 기업이 생성형 AI를 실무에 붙여보고 있지만, 내부 문서·규정·현장 기준이 서로 엇갈린 상태에서는 AI가 안정적으로 작동하기 어렵다”고 말했다. 

  AI 성능이 문제? 원인은 엇갈려있는 기업 내부 정보

  탁 대표에 따르면 기업 내부에는 상담 녹취, 보고서, 도면, 설비 로그, 메신저 기록 등 다양한 형태의 정보가 흩어져 있다. 사람은 이를 맥락적으로 이해하지만, AI는 같은 의미라도 표현 방식이 다르면 전혀 다른 정보로 인식한다.

  그는 “금융사나 제조사 프로젝트를 시작하면 가장 먼저 하는 일이 AI 도입이 아니라, AI가 이해할 수 있도록 내부 지식을 다시 정리하는 작업”이라며 “이 구조가 갖춰져야 생성형 AI가 현장에서 일관되게 작동하기 시작한다”고 설명했다.

  실제로 글로벌 컨설팅사 맥킨지가 2024년 발표한 조사에 따르면, 생성형 AI를 도입한 기업 가운데 이를 통해 실질적인 비즈니스 성과를 창출했다고 답한 비율은 약 25% 수준에 그쳤다. 기술 성숙도보다 내부 운영 구조가 성과를 가르는 요인으로 작용하고 있다는 분석이다.

  선언적 원칙에 그친 AI 거버넌스의 한계

  최근 기업 경영 현장에서 강조되는 AI 거버넌스는 AI가 어떤 기준과 규칙에 따라 판단하고 작동해야 하는지를 관리하는 체계를 뜻한다. 데이터 출처, 판단 기준, 책임 주체를 명확히 해 AI의 오류와 리스크를 통제하겠다는 취지다.

  하지만 현장에서는 이 개념이 실제 업무 시스템과 연결되지 못한 채 선언적 원칙에 머무는 경우가 많다. 기업 내부의 기준과 정책은 PDF, 보고서, 도면, 로그 등 다양한 시스템에 흩어져 있고, 이들 자료가 AI 시스템과 직접 연결돼 있지 않은 사례가 대부분이기 때문이다.

  탁 대표는 “문서를 표준화하는 것만으로는 AI가 실제로 일하지 못한다”며 “회사 안의 자료를 하나의 기준으로 이해하도록 연결하는 지식 운영 체계가 필요하다”고 강조했다.

  
  

• 

  ▲ 인포시즈 탁정수 대표

  
  

  단순 챗봇 넘어 실제 업무까지… AI 역할 확대

  올해 하반기 들어 생성형 AI 활용 양상에도 변화가 나타나고 있다. 질문에 답하는 수준을 넘어, 문서를 읽고 기준을 판단한 뒤 다음 작업까지 이어가는 ‘AI 에이전트’, 즉 자율적으로 업무를 수행하는 AI 시스템이 산업 현장에 도입되기 시작한 것이다.

  제조·플랜트·에너지 분야에서는 도면, 설비 로그, 시공 문서, 3D 모델 등을 AI가 이해할 수 있는 의미 기반 구조로 재편하는 프로젝트가 늘고 있다. 금융·보험 분야에서도 약관과 정책 변경 사항이 지식 구조에 자동으로 반영돼, AI가 항상 최신 기준으로 판단할 수 있도록 하는 시스템 구축이 진행 중이다.

  탁 대표는 “이제 AI는 문서를 읽는 단계를 넘어 실행 단계로 들어가고 있다”며 “기준이 잘못 정리돼 있으면 사람이 아니라 AI가 자동으로 잘못된 판단과 실행을 하게 될 수 있는 시대”라고 말했다.

  모델보다 중요한 건 지속 가능한 지식 구조

  탁 대표는 AI 신뢰성을 좌우하는 핵심 요소로 모델 성능보다 ‘지속 가능한 지식 구조’를 꼽았다. 정답 데이터를 일회성으로 구축하는 것이 아니라, 문서와 기준이 시간이 지나도 하나의 지식으로 축적·관리되는 구조가 필요하다는 설명이다.

  이를 위해 기술 조직뿐 아니라 실제 업무를 가장 잘 아는 도메인 전문가가 참여하는 지식 운영 조직(Knowledge Ops)이 중요하다고 강조했다.

  그는 “처음부터 전사적 AI 적용을 시도하기보다, 주요 업무 매뉴얼처럼 영향도가 큰 영역부터 AI가 이해할 수 있는 구조로 정리하는 접근이 현실적”이라며 “앞으로 기업의 AI 경쟁력은 어떤 모델을 쓰느냐보다, 자사 산업에서 쌓아온 지식을 AI가 얼마나 정확히 이해하도록 만들었느냐에 달려 있다”고 말했다.

  
  

• 김정아 기자 [e-mail]

최신뉴스

Copyright ⓒ 디지틀조선일보&dizzo.com