“유해 AI로부터 아이들 지킨다”…조인철 의원, ‘우리아이 AI 안심 패키지법’ 발의

[이데일리 김현아 기자] 생성형 인공지능(AI)이 아동·청소년의 일상 속 대화 상대이자 상담 창구로 자리 잡으면서, 유해 정보 노출을 막기 위한 법적 안전장치 마련이 추진된다.

더불어민주당 조인철 의원(광주 서구갑)은 아동·청소년이 안전한 환경에서 AI 서비스를 이용할 수 있도록 국가 책임과 사업자 의무를 강화하는 내용의 이른바 ‘우리아이 AI 안심 패키지법’을 대표 발의했다고 23일 밝혔다.

이번 법안은 국가 AI 정책 수립 과정에 아동 보호를 의무화하는 ‘인공지능기본법’ 개정안과 생성형 AI 서비스 제공자의 보호 조치를 강화하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률’ 개정안으로 구성됐다.

조인철 의원(더불어민주당)

법안 발의 배경에는 생성형 AI의 급속한 확산이 자리하고 있다. 아동복지 전문기관 초록우산의 최근 조사에 따르면 아동·청소년의 94.4%가 생성형 AI 챗봇을 이용한 경험이 있으며, 49.5%는 “AI로부터 자신을 이해받는다고 느낀다”고 응답했다.

반면 자살·자해·약물 오남용·성적 착취 등 위험한 주제에 대해 AI가 적절한 차단 없이 답변을 제공하는 사례도 보고되면서 아동 보호를 위한 제도적 장치가 필요하다는 지적이 제기돼 왔다.

인공지능기본법 개정안은 아동·청소년을 ‘인공지능 취약계층’으로 명시하고, 국가가 수립하는 AI 기본계획에 피해 예방과 보호 정책을 반드시 포함하도록 했다.

정보통신망법 개정안은 생성형 AI 및 대화형 AI 서비스 사업자에게 보다 구체적인 보호 의무를 부과하는 것이 핵심이다. 주요 내용은 △이용자 연령 및 본인 확인 △아동·청소년 이용 시 법정대리인 동의 의무화 △요청 시 이용 시간 및 사용 방식 제한 △대화 이력 정보 제공 △자살·자해·마약·성착취 등 위험 콘텐츠 신고 체계 구축 및 신속한 제거 조치 등이다.

조 의원은 “이제 아이들은 사람뿐 아니라 AI와도 관계를 맺고 고민을 털어놓는 시대를 살고 있다”며 “AI가 일상에 깊숙이 들어온 만큼 서비스 설계 단계부터 아동의 발달 수준과 안전을 최우선으로 고려해야 한다”고 말했다.

이어 “이번 법안은 AI 기술 발전을 막기 위한 것이 아니라 아이들이 보다 안전하고 건강하게 AI의 혜택을 누릴 수 있는 환경을 만들기 위한 것”이라며 “디지털 환경에서 아동의 권리와 안전을 보호하는 것은 더 이상 미룰 수 없는 과제”라고 강조했다.

조 의원은 플랫폼 위험평가 의무화 등 아동·청소년 보호 관련 입법을 지속적으로 추진해 왔으며, 오는 7월 1일 국회에서 초록우산과 함께 ‘AI 시대 아동·청소년 권리 보장 정책토론회’를 열고 관련 전문가들과 제도 개선 방안을 논의할 예정이다.