AI를 행정에 이용할 때 주의 점은?…“기계사용 반드시 밝혀야”

제리 카플란 스탠퍼드대 교수가 지난 14일부터 15일까지 수원컨벤션센터에서 열린 경기도와 경기콘텐츠진흥원 주최 ‘인공지능과 확장된 문화기술의 세계’를 주제로 열린 ‘2023년 문화기술 콘퍼런스’에서 챗GPT 같은 생성형 인공지능을 행정에 접목했을 때 주의점 등에 대해 강연하고 있다.

행사에 참석한 장 가브리엘 가나시아(Jean-Gabriel Ganascia) 소르본느 대학 교수는 경기도의 인공지능 도정 활용에 대해 “우선 기계를 사용해서 행정을 하고 있다는 것을 반드시 밝혀야 한다.개인정보 침해를 조심해야 하고, 오답을 마치 정답처럼 말하는 환각(Hallucination) 문제를 경계해야 한다”며 “기계가 자동으로 무엇을 계속 생성하더라도 모든 것을 맡기지 말고, 대응 인력을 제대로 활용해야 한다”고 조언했다.

그러면서 “생성형 인공지능을 두려워하기보다 이용할 수 있어야 한다”며 “인공지능은 생성형 인공지능에 국한되지 않으며, (경기도의 문화기술 콘퍼런스에서 다루는) 문화산업 곳곳에 활용할 수도 있다”고 덧붙였다.