“로봇 해킹돼도 위험 행동 칼차단”…피지컬 AI 보안 해법은 ‘락다운’

[이데일리 권하영 기자] 지난 2021년 미국 테슬라 기가팩토리에서 산업용 로봇이 소프트웨어 오류로 기술자를 밀어 부상을 입힌 사건은, 피지컬 AI 시대 보안의 위험성을 단적으로 보여준 사례다. 기존 IT 보안 사고가 주로 정보 유출에 그쳤다면, 로봇·자율주행차 등 현실 세계에서 움직이는 AI는 오류나 해킹이 곧 인명 사고로 직결되기 때문이다.

한태수 안랩 컨버전스개발실장(상무)이 최근 경기 성남시 분당구 본사에서 이데일리와의 인터뷰를 진행하고 있다. 사진=안랩

한태수 안랩(053800) 컨버전스개발실장(상무)은 최근 경기 성남시 분당구 본사에서 이데일리와 만나 “피지컬 AI 환경에서는 사이버 영역의 왜곡이 곧 물리적 결과로 이어진다”며 “단순히 침입 차단을 넘어, 설령 해킹을 당하더라도 로봇이 위험한 행동을 하지 못하도록 통제하는 ‘회복탄력성(Resilience)’ 중심의 보안 설계가 필요하다”고 강조했다.



◇침해를 전제로 한 보안 설계…핵심은 ‘락다운’ 통제

피지컬 AI에서 가장 위험한 상황은 단순히 시스템이 멈추는 것이 아니라, ‘잘못 움직이는 것’이다.

예를 들어 공격자가 센서 신호를 조작해 카메라나 라이다 데이터 값을 왜곡하거나, 로봇운영체제 통신 경로를 통해 비정상 명령을 주입할 경우 로봇의 판단 자체가 흔들릴 수 있다. 겉으로는 정상 작동처럼 보이지만, 내부 판단 로직이 오염돼 위험한 행동으로 이어질 가능성이 높아지는 것이다.

특히 AI는 대량 데이터를 기반으로 확률적으로 의사결정을 하기 때문에, 정상적인 오류와 외부 공격을 구분하기가 쉽지 않다. 이 점이 피지컬 AI 보안 리스크를 더욱 키운다.

한태수 안랩 컨버전스개발실장은 “피지컬 AI는 데이터, 모델, 센서, 제어, 통신, 운영 등 보호해야 할 영역이 전방위로 확대된다”며 “기존 IT 시스템보다 공격 면이 훨씬 넓고 복잡하다”고 설명했다.

이에 따라 인지-추론-계획-제어-행동으로 이어지는 전 과정을 단계별로 지키는 다층 보안 구조가 필요하다는 진단이다.

그 핵심이 바로 ‘락다운(Lockdown)’ 기술이다. 이는 로봇이 사전에 허용된 범위를 벗어난 동작을 아예 수행하지 못하도록 시스템을 걸어 잠그는 방식이다.

한 실장은 “락다운은 허락되지 않은 실행이나 수정, 삭제를 원천 차단하는 가장 강력한 정책”이라며 “외부 시스템이 공격을 받더라도 로봇 내부에서 직접 통제해 임계값을 넘는 위험 행동을 하지 못하도록 개발하고 있다”고 말했다.

◇“0.1초 지연도 치명적”…가용성과 보안의 균형이 관건

아울러 산업용 로봇이나 생산 설비 환경에서는 보안 못지 않게 중요한 것이 ‘가용성(정상 작동 유지)’이다. 단 0.1초만 지연돼도 생산 공정의 효율과 수율에 영향을 줄 수 있기 때문이다. 이 때문에 현장에서는 무거운 보안 솔루션 도입을 꺼리는 경우가 많지만, 락다운 방식은 가용성 측면에서도 효율적인 보안을 제공한다.

한 실장은 “일단 안전한 룰셋으로 락다운을 걸어두면 이후에는 이상 행위가 감지될 때만 알림을 주는 방식으로 운영할 수 있어 주기적인 전수 점검 부담이 줄어든다”며 “이러한 경량 구조를 통해 보안과 가용성을 동시에 확보할 수 있다”고 설명했다.

안랩은 로봇의 작업 상태에 따라 보안 활동을 조절하는 ‘스마트 에이전트’ 기술도 함께 개발 중이다. 로봇이 바쁘게 작업할 때는 알아서 보안 모듈 개입을 최소화하고, 유휴 시간에 집중 점검을 수행하는 방식이다.

그는 “상시적으로 돌아가는 보안 모듈은 막대한 스템 자원을 소모할 수밖에 없는데, 1분 1초가 중요한 생산 설비 환경에서는 이것이 오히려 리스크가 된다”며 “가용성을 해치지 않으면서 위협을 탐지하는 동적 보안 구조를 ROS 기반 환경에 최적화하고 있다”고 언급했다.



◇기계적 안전 중심 규제 한계…“사이버 보안 내재화 필요”

안랩은 현재 정보통신기획평가원(IITP)이 추진하는 ‘지능형 서비스 로봇의 사이버 회복탄력성 확보를 위한 보안기술 개발’ 과제에 참여해 로봇 보안 기술을 고도화하고 있다. 2027년까지 기술 실증(PoC), 통합 보안 프레임워크 구축, 로봇 보안 솔루션 상용화를 단계적으로 추진할 계획이다.

다만 기술 발전 속도에 비해 제도적 기반은 아직 미흡하다. 현재 로봇 관련 국제 표준(ISO/CD 22166-1)은 기계적 안전 기준에 초점을 두고 있으며, 사이버 보안은 상대적으로 비중이 낮은 수준에 머물러 있어서다. 한태수 안랩 컨버전스개발실장은 “피지컬 AI 환경에서는 사이버 보안 사고가 곧 물리적 재난으로 이어질 수 있다”며 “설계 단계부터 보안이 안전을 뒷받침하는 기본 인프라로 자리 잡아야 한다”고 강조했다.

안랩은 연구개발에 그치지 않고 사업화에도 속도를 낼 방침이다. 서버·네트워크를 보호하는 IT 보안과 설비 시스템을 지키는 OT 보안을 융합한 사이버물리시스템(CPS) 보안 역량을 기반으로, ‘안랩 CPS 플러스’ 등 플랫폼을 출시해 온 경험을 토대로 로봇 특화 제품을 준비하고 있다.

한 실장은 “올해 말 상용 출시를 목표로 로봇 환경에 최적화된 설치형 소프트웨어 패키지를 개발 중”이라며 “고객이 실제 현장에서 사용하며 피드백을 주면 이를 반영해 기술을 지속적으로 확장해 나가겠다”고 밝혔다.