챗GPT 오류 검증, 전 국민이 나선다

[이데일리 김아름 기자] 과학기술정보통신부는 인공지능안전연구소(AI안전연구소)와 함께 국민이 안심하고 AI를 활용할 수 있도록 ‘정보 오류 없는 찐 AI 챌린지’를 오는 22일 부터 2026년 1월 21일까지 실시한다고 21일 밝혔다.

국민들이 생활·업무 영역에서 생성형 AI 활용을 빠르게 확대하고 있으며, AI가 제공하는 정보의 정확성에 대한 국민적 관심이 높아지고 있다. 특히, 교육·의료·법률·경제 등 정확성이 핵심인 분야에서의 정보 오류는 이용자에게 혼란을 초래하고 피해를 줄 수도 있어, 신뢰가능한 AI 이용 환경을 조성하기 위해 국민과 함께 ‘정보 오류 없는 찐 AI 챌린지’ 캠페인을 추진한다.

이번 캠페인은 상용화된 생성형 AI 모델이 사실과 다른 결과를 제공하는 경우, 국민이 이를 파악하고 그 정보 오류를 제출하게 되면, AI안전연구소가 분야별 전문가와 함께 그 내용을 전문적으로 검증한 뒤 관련 AI 개발사나 AI 서비스 제공업체에 개선을 요청하는 방식으로 운영되는 국민 참여형 AI 안전·신뢰 캠페인이다.

대한민국 국민이면 누구나 네이버폼 또는 이메일을 통해 의견을 제출할 수 있다. 참여자는 AI가 생성한 정보 오류 내용에 대한 화면을 캡처해 개인 SNS에 AI팩트체크 해시태그와 함께 게시하고 그 링크를 제출하면 된다. 제출된 의견은 유효성 검증(적격성 검토, 검증 시점 기준 재현 검증, 최종 판정 등)→오류 사례 개선 권고안 작성→AI 기업 통보를 거치게 된다. 관련 AI 기업과의 협의를 통해 정보 오류 결과가 알고리즘 개선이나 데이터 정비 등으로 이어지도록 조치할 예정이다.

과기정통부 이진수 인공지능정책기획관은 “AI가 일상이 되는 AI 기본사회로 가기 위해서는, 국민이 AI를 안심하고 정확하게 사용할 수 있는 환경이 매우 중요하다”며 “이번 캠페인이 국민과 함께 신뢰할 수 있는 AI 환경을 만들기 위한 중요한 첫걸음이 될 것”이라고 밝혔다.