생성형 인공지능이 실험실을 벗어나 현업에 투입되는 시대가 열렸다. 모델 성능보다 운영 안정성이 핵심 화두로 부상하고 있는 것이다. 연합뉴스에 따르면 중국 시안에 본사를 둔 이클릭테크가 자사의 에이전틱 AI 개발 방법론을 최근 공개하며 업계의 주목을 받고 있다.
전 세계 230여 개 국가와 지역을 대상으로 서비스를 제공하는 이 기업은 특정 벤더 의존도를 낮추기 위해 독자적인 멀티 클라우드 체계를 구축했다. AWS, 구글 클라우드, 알리바바 클라우드, 텐센트 클라우드, 화웨이 클라우드 등 복수의 인프라를 통합한 Cycor 플랫폼이 그 결과물이다. 대규모 쿠버네티스 클러스터 운영과 AI 워크로드 조율이 한층 효율적으로 이뤄진다는 설명이다.
초기 에이전트 구축 과정에서 이클릭테크가 얻은 결론은 명확했다. 프롬프트 설계만으로는 기업 현장의 요구를 충족할 수 없다는 점이었다. 이에 따라 회사는 컨텍스트 엔지니어링이라는 새로운 접근법을 채택했다. 제한된 토큰 예산 내에서 적시에 필요한 정보를 공급하는 데 역량을 집중하는 방식이다.
6개 레이어로 설계된 컨텍스트 관리 체계가 이 프레임워크의 핵심을 이룬다. 활성 세션부터 단기 메모리, 장기 시맨틱 저장소, 지식 그래프, 운영 경험 데이터, 재활용 가능한 조직 역량까지 포괄한다. 민감한 작업 수행 전 관련 이력과 위험 요소가 자동으로 표시되는 사전 컨텍스트 주입 기능도 탑재됐다.
추론 효율 향상을 위한 장치도 마련됐다. 계층형 토큰 거버넌스와 점진적 도구 로딩 메커니즘이 도입되어 필요한 순간에만 정보와 도구가 동적으로 불러와진다. 복잡한 업무 흐름에서 도구 선택 정확도가 높아지고 토큰 낭비가 줄었다고 회사 측은 전했다.
보안 설계 역시 아키텍처 전체에 걸쳐 관통한다. 네임스페이스 격리, 모의 실행 검증, 인간 승인 워크플로, 규칙 기반 점검, 롤백 메커니즘 등이 거버넌스 체계에 내장되어 AI 자동화에 수반되는 운영 리스크를 완화한다.
이클릭테크는 향후 기업 AI 경쟁력이 모델 우수성에만 달려 있지 않다고 강조한다. 엔지니어링 신뢰성, 인프라 조율 능력, 컨텍스트 관리 수준, 조직 지식 체계가 함께 성패를 좌우할 것이라는 전망이다.
본 내용은 이클릭테크가 공개한 내부 기술 사례를 기반으로 하며, 업계 참고용으로 제공된다.
Copyright ⓒ 나남뉴스 무단 전재 및 재배포 금지
