AI는 어떻게 생각하고 판단할까…의사결정 내부구조 시각화 성공

한국과학기술원(KAIST)은 '김재철AI대학원' 최재식 교수 연구팀이 인공지능(AI) 기술이 어떤 판단을 거쳐 결과물을 만들어 내는지 의사 결정 과정 구조를 시각화하는 기술을 개발했다고 26일 밝혔다.

AI 딥러닝 모델 내부에는 인간의 뇌처럼 뉴런(Neuron)이라는 기본 계산 단위가 존재하는데, 뉴런 여러 개가 서로 연결돼 하나의 개념을 함께 인식하는 구조를 회로(circuit)라고 최 교수는 설명했다.

기존에는 AI 의사결정 구조를 설명할 때 '특정 뉴런을 통해 특정 개념을 본다'는 단일 뉴런 중심의 접근이 많았지만, 최 교수팀은 각 뉴런이 감지한 정보가 순차적으로 작동·협력하며 하나의 개념(회로)을 이루는 것을 확인했다.