‘AI 속이는 적대적 공격 방어’…단국대 김선오 교수팀, AI 판단 신뢰성 향상 기술 개발
단국대는 김선오 교수(AI융합대학 컴퓨터공학과)팀과 엄대호 교수(서울시립대)가 공동으로 인공지능(AI)의 신뢰도를 저하시키는 ‘적대적 공격(Adversarial Attack)’을 효과적으로 방어하는 기술을 개발했다고 20일 밝혔다.
기존 AI 모델은 하나의 입력된 이미지에 의존해 판단을 내리는 방식으로 작은 교란에도 쉽게 잘못된 결과를 산출할 수 있는 한계가 있었다.
‘MAC’는 하나의 입력된 이미지로 결과를 판단하는 기존 AI 모델과 달리 여러 이미지를 동시에 분석해 변형 및 오염 정도를 추정하고 이에 맞춰 결과를 보정하는 방식이다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “경기일보” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
