인공지능(AI) 보안 전문기업 에임인텔리전스(AIM Intelligence)가 LG전자, 그리고 미국 로봇 OS 기업 오픈마인드(OpenMind)와 손잡고 '피지컬 AI(Physical AI)'의 안전성을 극대화하는 새로운 차원의 기술 개발에 착수했다. 물리적 환경에서 작동하는 로봇 AI의 오작동 및 외부 위협을 근본적으로 막기 위한 '피지컬 AI 안전 레이어(Physical AI Safety Layer)'를 세계 최초로 공동 개발하는 것이 목표다.
이번 협력은 현재 피지컬 AI의 안전 기준이 아시모프의 '로봇 3원칙' 수준에 머물러 있어, 실제 환경에서의 판단 오류나 외부 공격에 취약하다는 지적에 대한 선제적인 대응으로 풀이된다. 세 기업이 개발하는 안전 레이어는 로봇의 자체적인 판단 오류인 '환각(Hallucination)'을 차단할 뿐 아니라, 외부 침입 및 은밀한 공격까지 방어하는 차세대 안전 표준을 제시할 전망이다.
특히, 최근 연구에서는 인간이 인지하기 어려운 초음파 신호나 의류·헬멧 등에 부착된 미세한 이미지 패치만으로도 AI를 교란하여 로봇의 명령을 조작하는 공격 방식이 현실화되고 있음이 확인됐다. 이 신기술은 시각, 청각, 센서 데이터 등 로봇이 수집하는 모든 정보를 통합적으로 분석해 이러한 은밀한 공격으로부터 로봇이 안전하게 작동하도록 보호하는 방어 체계를 갖출 예정이다.
협력 구조를 살펴보면, 오픈마인드는 범용 로봇 운영체제(OS)인 'OM1'을 제공하며, LG전자는 개발된 기술을 실제 로봇 하드웨어에 적용하고 실증하는 단계를 담당한다. 에임인텔리전스는 자체 AI 보안 기술을 로봇 OS에 통합하여 모든 로봇의 움직임이 인간의 통제 하에 이뤄질 수 있도록 안전 체계를 설계하는 핵심 역할을 맡는다.
에임인텔리전스의 박하언 CTO는 "단순히 오작동을 방지하는 수준을 넘어, 고도화되는 외부 공격까지 원천적으로 차단하는 견고한 체계를 구축할 것"이라며, "이번 기술은 산업 전반에 걸쳐 적용 가능하며, 자율 환경에서도 신뢰할 수 있는 로봇 운영의 새로운 기준을 제시할 것으로 확신한다"고 밝혔다.
한편, 에임인텔리전스는 AI 리스크 탐지 및 차단 기술을 전문적으로 개발하는 기업으로, ACL, ICML 등 권위 있는 국제 학회에서 기술력을 인정받은 바 있다. 현재 KT, LG, BMW, Meta, KB국민카드, 한국신용정보원 등 국내외 주요 기업 및 기관들과 AI 안전 기술의 산업화를 추진하며 활발한 행보를 이어가고 있다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
