GIST, 자율차 인식 시스템 취약점 드러내는 새 알고리즘 개발…안전성 개선 활용 기대
광주과학기술원(GIST, 총장 임기철)은 AI융합학과 김승준 교수 연구팀이 자율주행차에 활용되는 시각 인식 시스템의 보안 취약점을 진단할 수 있는 새로운 ‘적대적 공격’ 알고리즘을 개발했다고 밝혔다.
이번 연구는 자율주행차가 의미 분할 모델에 가해질 수 있는 공격을 사전에 파악해, 더욱 안전하고 신뢰성 높은 자율주행 시스템을 구축하는 데 기여할 것으로 기대된다.
특히 자율주행 상황을 모사한 테스트에서는 신호등·보행자·차선 등 핵심 객체의 인식률을 95.3%에서 3.23%로 급감시켜, 의미 분할 모델의 취약성을 실증했다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “AI포스트” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
