[2025 국감] 최형두 의원 "AI 윤리 없는 시행령… 국민 안전과 산업진흥 동시에 담아야"

국회 과학기술정보방송통신위원회 소속 국민의힘 최형두 의원. [사진=이준수 폴리뉴스 PD]

국회 과학기술정보방송통신위원회 소속 최형두 의원(마산합포구)이 29일 열린 국정감사에서 "AI 기본법 시행을 앞두고도 하위법령에는 'AI 윤리원칙'과 '고위험 대화형 서비스 안전의무'가 빠져 있다"며 조속한 보완을 촉구했다.

최 의원은 이날 발언에서 "미국 등 해외에서는 AI 서비스의 라벨링, 연령 보호, 위기 대응, 보고 의무까지 법으로 규정하고 있으며, 기업들도 청소년 전용·야간 제한 등 자율적 안전장치를 강화하는 추세"라며 "우리도 시행령에 최소 안전기준과 책임 체계를 명시해, 청소년 모드, 장시간 사용 경고, 위험 키워드 탐지, 사고 보고 의무화를 법적으로 뒷받침해야 한다"고 강조했다.

AI 기본법 제27조에는 윤리원칙이 명시돼 있으나, 과학기술정보통신부가 준비 중인 시행령에는 구체적인 내용이 담기지 않은 것으로 확인됐다. 법은 2024년 12월 국회를 통과해 2025년 1월 공포, 2026년 1월 22일 시행 예정이다.

최 의원은 "AI 윤리 기준과 전략 고도화 발표 시점도 명확히 해야 한다"고 지적하며, 법적 구속력이 없는 행정지침만으로는 기업 투자와 안전 장치 마련을 기대하기 어렵다고 강조했다.

오픈AI는 18세 미만 전용 계정을 운영하고, 민감 콘텐츠 제한과 야간 사용 제한 등 과몰입 예방 장치를 강화했다. 자·타해 위기 감지 시 부모 알림 체계와 전문기관 연계를 추진 중이다. 구글도 Gemini 전반에 걸쳐 청소년 보호와 자해·자살 위험 대응을 강화하며 가드레일 정책을 고도화하고 있다.

최 의원은 "글로벌 사업자들이 사실상 자율 기준의 하한선을 끌어올리고 있다"며 "우리도 시행령에 청소년 보호, 과몰입 예방, 위기 대응 최소 기준을 명시해야 한다"고 강조했다.

최 의원은 "국내외 이용자는 품질과 윤리를 동시에 갖춘 챗봇을 선택한다"며 "국산 서비스가 기준을 따라가지 못하면 글로벌 시장에서 사용자 이탈은 불가피하다"고 지적했다. 이어 "최저 안전 기준과 책임 체계를 명확히 해야 기업이 예산과 인력을 배정할 수 있다"고 말했다.

또한 국내외에서 생성형 AI 활용이 늘면서 정서적 의존으로 인한 피해가 발생하고 있다며, 미국 플로리다의 14세 소년 사례를 언급하며 "이런 비극이 국내에서도 재현될 우려가 크다"고 경고했다.

전문가들은 AI 윤리 기준과 안전 의무를 하위법령에 반영하고, 국제 기준을 검토·반영해야 한다고 강조한다. 도입이 필요한 제도로는 △AI와 사람의 차이 상시 라벨링, 청소년 모드 의무화 검토 △장시간·심야 이용 시 휴식 안내 등 과몰입 예방 장치 △자해·자살 위험 키워드 탐지, 전문 상담 연계, 사고 보고 체계화 △고위험 대화형 서비스 안전 의무 및 사고 보고 법적 근거 명문화 △기업 자율 개선과 제도 연동 등이 꼽힌다.

최 의원은 "산업진흥과 국민 보호는 선택 과제가 아니라 필수 과제"라며 "AI 서비스 과몰입·과의존으로 단 한 명의 국민 목숨도 잃어서는 안 된다"고 정부에 강력히 촉구했다.

[폴리뉴스 이상명 기자]