“독서등 꺼줘” AI 음성명령했더니 中 전기차에서 벌어진 끔찍한 일

음성 인식 기능이 오작동하면서 차량의 모든 등이 꺼지는 위험한 상황이 실제 고속도로에서 발생했다. 음성 명령을 잘못 인식한 차량이 주행 중 헤드램프와 테일램프까지 모두 끄면서 운전자가 완전한 암흑 속에서 주행하는 상황이 벌어진 것이다.

사건은 지난 2월 25일 한밤중 중국 광시성의 한 고속도로에서 발생했다. 당시 링크앤코 전기차 Z20 운전자는 차량에 “독서등 꺼줘”라고 음성 명령을 내렸다. 그러나 차량의 인공지능 음성 시스템이 이를 “차량의 모든 등을 꺼줘”라고 잘못 인식하면서 헤드램프와 테일램프까지 동시에 꺼졌다.

블랙박스 영상에는 당황한 운전자가 “불 켜!”라고 외치는 장면이 담겼다. 하지만 차량 시스템은 “해당 기능은 일시적으로 사용할 수 없습니다”라고 응답하며, 즉시 복구되지 않은 것으로 알려졌다.

주행 중 차량의 외부 조명이 모두 꺼질 경우 운전자는 도로 상황을 제대로 인식하기 어렵고, 주변 차량에서도 해당 차량을 식별하기 어려워 대형 사고로 이어질 가능성이 있다.

# 긴급 업데이트…그러나 문제는 업계 전반

사건 이후 중국 전기차 업계는 빠르게 대응에 나섰다. 사고 발생 약 24시간 만에 링크앤코 부총경리 무준은 중국 SNS 웨이보를 통해 공개 사과문을 발표했다.

회사는 곧바로 주행 중 헤드램프 음성 제어를 제한하는 OTA 업데이트를 긴급 배포했다.

하지만 문제는 특정 차량에만 국한되지 않았다. 이후 지커와 딥알 차량 소유자들이 “모든 등을 꺼”와 같은 명령을 시험한 결과 일부 안전 제한을 우회할 수 있는 사례가 확인됐다.

두 브랜드 역시 소프트웨어 업데이트 조치를 발표했다. 이는 단순한 코딩 오류라기보다 최근 전기차 업계에서 확산되고 있는 ‘차량 인터페이스 설계 방식의 문제’라는 지적이 나온다.

# ‘무버튼 콕핏’ 설계가 원인 지목

전문가들은 이번 사건의 근본 원인으로 물리 버튼을 최소화한 무버튼 콕핏(No-Button Cockpit) 설계를 지목한다.

최근 자동차 제조사들은 실내 디자인을 단순화하기 위해 물리 버튼을 줄이고 음성 인식이나 터치 인터페이스에 의존하는 추세다. 그러나 핵심 차량 기능까지 음성 인공지능이 직접 제어할 경우 오작동 시 위험성이 커질 수 있다는 지적이다.

특히 음악 재생이나 공조 장치와 같은 기능은 음성 명령으로 제어해도 큰 문제가 없지만, 고속 주행 중 헤드램프와 같은 안전 관련 기능까지 음성 제어에 의존하는 것은 위험할 수 있다는 것이다.

# 다시 주목받는 물리 버튼

이번 사건은 차량 인터페이스 설계 방향에 대한 논쟁을 불러일으켰다.

자동차 제조사들은 미니멀한 실내 디자인을 위해 물리적 조작 장치를 줄이고 음성 인식 기술을 확대하고 있다. 그러나 현재 기술 수준에서는 “실내등을 꺼라”와 “차량의 모든 등을 꺼라” 같은 명령을 완벽하게 구분하지 못하는 사례도 나타나고 있다.

전문가들은 차량용 인공지능 기능이 확대되는 만큼 관련 안전 기준과 규제 마련이 필요하다고 지적한다. 규제 체계가 마련되기 전까지는 핵심 기능에 대한 물리적 조작 장치의 필요성이 강조될 가능성도 제기된다.

더드라이브 / 조윤주 기자 [e-mail]