생성형 인공지능이 실험 단계를 벗어나 기업 현장에 본격 투입되면서 업계의 관심사가 달라지고 있다. 연합뉴스에 따르면, 중국 시안에 본사를 둔 이클릭테크(eclicktech)가 자사의 에이전틱 AI 엔지니어링 방법론을 최근 공개했다.
더 똑똑한 AI를 만드는 것만으로는 충분치 않다는 인식이 확산되고 있다. 복잡한 운영 환경에서 AI 시스템이 안전하고 일관되게 작동할 수 있느냐가 새로운 과제로 떠올랐기 때문이다. 이클릭테크는 컨텍스트 엔지니어링, 멀티클라우드 인프라, 다층 보안 체계를 통해 이 문제에 접근하고 있다고 밝혔다.
전 세계 230여 개국에서의 글로벌 운영을 뒷받침하기 위해 동사가 구축한 Cycor 플랫폼은 AWS, 구글 클라우드, 알리바바 클라우드, 텐센트 클라우드, 화웨이 클라우드 등 복수의 클라우드 서비스를 통합한 아키텍처를 채택했다. 특정 벤더에 대한 종속 위험을 낮추고, 대규모 쿠버네티스 클러스터와 AI 워크로드의 효율적 조율이 가능해졌다는 것이 회사 측 설명이다.
초기 에이전트 개발 과정에서 얻은 핵심 교훈 중 하나는 프롬프트 엔지니어링만으로 기업급 배포 요건을 충족하기 어렵다는 점이었다. 이에 따라 제한된 토큰 자원을 최적화하면서 적시에 적절한 정보를 전달하는 컨텍스트 엔지니어링으로 방향을 전환했다고 한다.
해당 엔지니어링 프레임워크는 6개 계층으로 구성된 컨텍스트 관리 체계를 갖추고 있다. 활성 세션, 단기 기억, 장기 시맨틱 저장소, 지식 그래프, 운영 경험, 재사용 가능한 조직 스킬이 이에 해당한다. 민감한 작업 실행 전에 관련 운영 이력과 위험 정보가 자동으로 표면화되는 선제적 컨텍스트 주입 기능도 지원된다.
추론 효율성 향상을 위해 계층화된 토큰 거버넌스와 점진적 도구 로딩 메커니즘이 도입됐다. 필요한 시점에만 도구와 정보를 동적으로 불러오는 방식이다. 복잡한 운영 워크플로우에서 불필요한 토큰 소모가 줄고 도구 선택 정확도가 개선되는 효과가 있었다고 회사는 전했다.
보안은 전체 아키텍처를 관통하는 핵심 요건으로 유지되고 있다. 네임스페이스 격리, 드라이런 검증, 인간 승인 워크플로우, 규칙 기반 검증, 롤백 메커니즘 등이 거버넌스 프레임워크에 포함되어 AI 기반 자동화의 운영 리스크를 저감하도록 설계됐다.
이클릭테크는 엔터프라이즈 AI 경쟁의 다음 국면이 모델 역량뿐 아니라 엔지니어링 신뢰성, 인프라 조율 능력, 컨텍스트 관리, 조직 지식 시스템에 의해 좌우될 것이라고 전망했다.
Copyright ⓒ 나남뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
