'설명 가능한 AI' 선구자 이수인 교수 "AI 실수했다면 왜 그랬는지 파악하는 게 중요"

이른바 '설명 가능한 AI(XAI)'를 통해 왜 AI가 제대로 동작하지 않는지를 밝혀내고 그 실수를 보완할 수 있습니다." 뉴시스 보도에 따르면, 이수인 워싱턴대학교 컴퓨터공학과 교수는 9일 서울 양재동 과학기술회관에서 열린 세계한인과학기술인대회 기조강연에서 이같이 말했다.

◆XAI, '블랙박스'에 감춰진 AI의 결론 도출 과정 설명해줘…의료 분야 활용도 기대 XAI는 AI가 '왜 그런 결론을 내렸는지'를 설명해주는 기술이다.

이 교수는 이같은 XAI 기반 시스템 활용 결과에 대해 "다수 의료진이 의료자료를 보고 저산소혈증 발생 여부를 판단한 것보다 XAI 시스템을 활용했을 때 약 240만건의 저산소혈증 데이터 발생 여부를 더 정확하게 예측할 수 있었다"고 설명했다.