앤트로픽, AI가 로봇팔·현미경 직접 조작하는 ‘MHS’ 공개했지만 속임수엔 취약

앤트로픽, AI가 로봇팔·현미경 직접 조작하는 ‘MHS’ 공개했지만 속임수엔 취약 / AI 생성 일러스트(삽화)

앤트로픽이 로봇팔과 현미경 같은 물리 장비에 인공지능(AI)을 직접 연결하는 새로운 표준을 내놨다. 회사는 8월 27일(현지시각) ‘모델 하드웨어 표준(Model Hardware Standard, MHS)’을 연구 프리뷰(제한적 시험판) 형태로 공개했다. MHS는 클로드(Claude) 같은 대형언어모델(LLM)을 제조 장비, 액체 취급 장비, 양자컴퓨팅 하드웨어, 로봇팔 등 물리 시스템에 연결하는 규칙 체계다. 회사에 따르면 기존에는 장비에 AI를 연동하려면 전문 인력이 수주에서 수개월 걸려 맞춤 구축해야 했지만, MHS를 쓰면 몇 시간에서 몇 분 만에 가능해진다. 앤트로픽은 이를 통해 사람 개입 없이 하루 종일 돌아가는 자율 실험과 작업 흐름을 구현할 수 있다고 설명했다. MHS는 특정 모델에 종속되지 않아 오픈AI 모델이나 오픈소스 모델에서도 쓸 수 있다.

MHS는 어떻게 작동하나

MHS는 앤트로픽이 2024년 선보인 오픈 표준 모델 컨텍스트 프로토콜(Model Context Protocol, MCP)을 기반으로 만들어졌다. 알렉 케메니(Alek Kemeny) 앤트로픽 기술스태프는 포춘(Fortune)에 MCP를 “AI와 소프트웨어를 잇는 USB 같은 것”이라고 설명했다. MHS는 이 개념을 물리 장비로 확장한 버전이다. 여러 장비를 서로 연결해 ‘읽기(read)’ 같은 공통 명령어 체계로 소통하게 만드는 것도 핵심 기능 중 하나다.

엘리자베스 켈리(Elizabeth Kelly) 앤트로픽 유익한 배포 담당 총괄은 CNBC에 “과학을 위해 만들었지만 기업과 산업에도 큰 이점이 있다”며 MHS를 USB-C 케이블에 비유했다. 다만 기존 장비 전부가 곧바로 연결되는 것은 아니다. 케메니는 일부 장비에 프로그래밍 인터페이스가 없어 즉시 호환되지 않는다고 밝혔다. 앤트로픽은 여러 장비 제조사와 협력해 MHS가 미리 탑재된 신제품을 개발 중이며, 기존 제품에 MHS 연결 기능을 추가하는 작업도 돕고 있다. 케메니는 “우리가 그리는 미래는, 과학자가 장비를 사면 별도 작업 없이 바로 작동하는 것”이라며 “표준을 채택하는 과정일 뿐”이라고 말했다.

물리 세계로 나가는 AI 에이전트, 안전장치는 / AI 생성 이미지

물리 세계로 나가는 AI 에이전트, 안전장치는

와이어드(Wired)에 따르면 MHS는 AI 에이전트(자율 실행 프로그램)가 하드웨어와 상호작용할 때 지켜야 할 규칙과 하지 말아야 할 행동을 함께 규정한다. 앤트로픽은 일반에 공개하기 전 신뢰할 수 있는 파트너들과 협력해 안전성을 극대화하는 방법을 찾겠다고 밝혔다. 생물무기 개발 같은 악용 우려에 대해서는 AI 모델 자체에 내장된 안전장치가 나쁜 의도의 사용을 막아줄 것이라고 설명했다.

케메니는 개발 배경에 대해 “문헌 검토와 데이터 분석을 가속하는 것과 실험 세계에 그 힘을 가져오는 것 사이의 고리를 어떻게 닫을 것인가가 출발점”이라고 말했다. 그는 양자물리학자로 이 표준 개발을 공동 주도했다. 다만 위험도 함께 지적됐다. 앤트로픽과 오픈AI 등은 최근 사이버보안 문제 해결을 맡긴 AI 에이전트가 몰래 외부 시스템에 침입하고 사용자를 속이려 한 사례를 확인했다고 와이어드는 전했다. AI 모델이 속임수에 넘어가 로봇을 오작동시키도록 유도된 실험 결과도 있었다. 앤트로픽은 새 표준을 통해 과학자와 엔지니어가 AI 모델이 특정 장비를 사용하지 말아야 할 조건을 직접 지정해 사고를 막을 수 있게 했다고 밝혔다.

제약사부터 로봇기업까지, 초기 파트너 명단

MHS는 버지니아에 있는 생물의학 연구기관 HHMI 재넬리아 리서치 캠퍼스(HHMI Janelia Research Campus)와 협력해 개발됐다. 개발 과정에서 생물공학, 로봇공학, 양자컴퓨팅 분야의 소수 연구실과 장비 제조사가 조기 접근 권한을 받았다. 공개된 파트너는 제넨텍(Genentech), 카네기멜런대학교, 양자컴퓨팅 기업 큐에라(QuEra), 유니버설로봇(Universal Robots), 아마존웹서비스(AWS), 두산로보틱스, 다나허(Danaher), 허깅페이스(Hugging Face) 등이다.

조나 쿨(Jonah Cool) 앤트로픽 과학 부문 파트너십·배포 총괄은 “과학 장비는 대개 매우 취약하고 과학자의 필요를 충분히 채우지 못하는 독자적(proprietary) 솔루션에 의존한다”며 “우리는 과학자들이 특정 업체에 종속되는 것을 막고 싶다”고 말했다. MHS는 현재 과학·로봇공학·제조업 분야의 선별된 조직에만 연구 프리뷰 형태로 제공된다. CNBC에 따르면 앤트로픽은 향후 MHS를 오픈소스로 전환해 어떤 산업의 장비 제조사든 자유롭게 도입할 수 있게 할 계획이다. 앞서 2024년 오픈소스로 공개한 MCP와 같은 경로를 밟는 셈이다.

로봇공학 경쟁 속 앤트로픽의 위치

같은 날 허깅페이스도 첫 물리AI 제품인 로봇 오리를 선보였다. 다만 이 제품은 MHS 기반이 아니라고 앤트로픽은 밝혔다. 엔비디아(Nvidia)는 허깅페이스를 130억 달러(약 18조 원, 1달러 1,385원 기준)에 인수하기로 했다. 젠슨 황(Jensen Huang) 엔비디아 최고경영자는 지난 3월 “미래에는 모든 산업 기업이 로봇 기업이 될 것”이라고 내다봤다.

CNBC는 이번 발표가 앤트로픽이 하드웨어 영역에 더 깊이 발을 들이는 신호라고 짚었다. 오픈AI와 아마존 등 경쟁사들은 이미 AI 전용 기기와 제조 도구 설계에 수십억 달러를 투입한 상태다. 앤트로픽은 자체 모델용 맞춤 칩을 설계하는 실리콘 팀을 꾸리고 있으며, 오픈AI·메타·애플에서 일한 하드웨어 임원 케이틀린 칼리노프스키(Caitlin Kalinowski)를 영입했다고 링크드인 프로필을 인용해 CNBC가 전했다.