【투데이신문 권신영 기자】아동·청소년의 인공지능(AI) 이용이 빠르게 일상화되는 가운데 생성형 AI 챗봇으로부터 미래세대의 권리를 보호하기 위한 법·제도 개선 방향을 모색하는 자리가 마련됐다.
2일 취재에 따르면 국회의원 조인철·최형두·이해민 의원실과 초록우산은 전날 오후 2시 서울 국회의원회관 제1소회의실에서 ‘인공지능 환경에서의 아동·청소년 권리 보장을 위한 국회 정책토론회’를 개최했다. 토론회에는 학계, 법조계, 정부·국회 관계자 등이 참여해 AI 윤리정책의 방향과 아동권리 보호 방안, 관련 법·제도 개선 과제를 폭넓게 점검했다.
토론회에 앞서 초록우산은 지난 3월 14세 이상 아동·청소년 3300명을 대상으로 AI 사용 실태조사를 진행했다. 조사 결과 국내 아동·청소년의 94.4%가 ‘AI를 사용한 경험이 있다’고 답했으며, 이 가운데 19.3%는 거의 매일 생성형 AI를 사용하는 것으로 나타났다.
특히 이번 실태조사에서는 생성형 AI와 아동·청소년 사이에서 발생하는 정서적 교류 양상에 주목했다. 응답자 중 35.1%는 ‘생성형 AI 챗봇을 실제 사람처럼 느낀다’고 답했으며 ‘생성형 AI 챗봇이 자신을 이해해 준다고 느낀 경험이 있느냐’는 질문에는 절반에 가까운 49.5%가 ‘그렇다’고 응답했다.
유해 정보 노출 가능성도 확인됐다. 전체 아동·청소년 중 자해·자살, 불법적 내용, 폭력적 내용, 성적 내용, 타인 비하 내용 등을 AI 챗봇에 물어본 응답자는 약 6% 수준이었다. 그러나 이들 가운데 평균 약 52%는 AI 챗봇으로부터 해당 질문에 대한 답변을 받은 것으로 조사됐다.
초록우산은 이에 대해 “생성형 AI 챗봇이 일부 대화 상황에서 부적절하거나 위험한 정보를 충분히 제한하지 못할 가능성을 보여주며 이러한 답변이 아동·청소년의 행동 및 정신건강에 부정적인 영향을 미칠 수 있음을 시사한다”고 설명했다.
아동·청소년의 AI 사용이 보편화되면서 정서적 교류와 의존이 늘고 유해 정보 노출 우려가 커지는 현상은 세계적인 흐름으로 나타나고 있다. 이에 유럽연합의 ‘인공지능법’, 미국 캘리포니아주의 ‘동반자 챗봇법’ 등 주요 국가와 지역에서는 국가 차원의 법적 보호 기반을 마련하는 움직임이 이어지고 있다.
이날 ‘AI 윤리정책의 미래와 아동권리’를 주제로 기조강연에 나선 서울교대 윤리교육과 박형빈 교수는 AI 사용이 보편화된 사회에서 AI 윤리정책이 아동·청소년의 권리와 발달을 보호하는 방향으로 재설계돼야 한다고 강조했다.
박 교수는 “생성형 AI는 이미 행정, 교육, 산업, 복지, 보안 등 우리 삶의 전 영역으로 확산됐고 단순한 도구를 넘어 예측과 분류, 추천, 의사결정 보조를 통해 인간의 생각과 선택에까지 영향을 미치고 있다”며 “기업의 자율규범이나 윤리 선언만으로는 이러한 변화에 충분히 대응할 수 없다”고 짚었다.
아동·청소년의 인지발달과 정신건강 측면에서도 우려가 제기됐다. 박 교수는 “AI 기본법과 시행령에서 취약계층을 단순히 기술 접근성의 문제로만 바라봐서는 안 된다”며 “AI가 미치는 영향과 부작용의 측면에서 아동·청소년, 유아, 심리적 취약계층을 보호해야 하며 이를 위해 아동·청소년 보호 조항과 특화된 안전 의무를 신설할 필요가 있다”고 말했다.
이어 “AI 리터러시 교육 의무화, 아동 중심 영향평가와 고위험 평가, 발달 단계별 인터페이스 설계, 사고 보고와 감사·대화 내역 보존 의무, 부처별 책임 체계 마련을 통해 아이들이 AI의 실험 대상이 아니라 권리의 주체로 보호받을 수 있도록 해야 한다”고 덧붙였다.
‘아동·청소년의 권리 보장을 위한 입법 개선 방안’을 주제로 발표한 초록우산 강영은 사내변호사는 AI 피해가 즉각적·유형적 피해가 아니라 시간이 지나며 누적되는 양상을 띤다는 점에 주목했다. 그는 기존 법체계가 이러한 AI 환경의 피해를 충분히 다루고 있는지 점검해야 한다고 지적했다.
강 사내변호사는 특히 미국의 AI 챗봇 규제 동향을 소개하며 국내법 개선 방향을 제시했다. 발표에서 언급된 바에 따르면 해외 AI 챗봇 규제는 ▲정보 공개와 투명성 제고 ▲연령 확인과 미성년자 접근 통제 ▲콘텐츠 안전과 위험 예방 ▲전문가 사칭 제한 ▲아동 데이터 보호를 중심으로 전개되고 있다.
강 사내변호사는 특히 AI와 대화 중이라는 사실을 이용자에게 알리는 ‘디스클로저’와, 자살·자해·성적 내용·혐오·차별 등 위험 콘텐츠를 차단하는 위험 예방 프로토콜을 해외법의 핵심 규제 축으로 꼽았다.
국내법의 한계로는 AI 생성물을 실제 활용·배포하는 주체에 대한 규제 공백이 지적됐다. 현행 인공지능 기본법은 개발 사업자와 이용 사업자 중심으로 규율하고 있어 언론사·광고마케팅 회사·유튜버 등이 AI 생성물을 활용하거나 워터마크를 삭제하더라도 제재 수단이 미약하다는 것이다.
이에 강 사내변호사는 국내 AI법에도 유럽연합의 인공지능법처럼 ‘콘텐츠 배포자’ 개념을 도입하고 이들을 표시·고지 의무의 수범자로 명시할 필요가 있다고 제안했다.
또 “정보통신망법상 대화형 정보통신서비스 규정 역시 사람 간 대화와 14세 미만 보호에 머무는 선언적 규정에 그치고 있다”며 ▲보호 연령 상향 ▲연령 확인 ▲법정대리인 동의 ▲이용 시간·방법 설정권 ▲대화 기록 보존 ▲위험 노출 증거 확보 ▲디스클로저와 위험 예방 프로토콜 제도화 등 실질적 보호 장치로 개정해야 한다고 강조했다.
이어진 종합토론에서는 국민일보 이슈탐사팀 김판 기자, 계명대 교육학과 조수현 교수, 서울남부지방검찰청 신혜진 부장검사가 토론자로 나서 각각 취재 과정에서 확인한 AI 윤리 문제, 교육 현장에서 바라본 학생들의 AI 이용 실태, 범죄 사건을 통해 드러난 AI·딥페이크 문제를 중심으로 의견을 제시했다.
뒤이어 국회입법조사처 과학방송통신과 김나정 입법조사관보, 국가인공지능전략위원회 사회분과 김하나 위원, 방송미디어통신위원회 인공지능이용자보호과 김혜숙 과장, 과학기술정보통신부 인공지능안전신뢰지원과 최우석 과장이 AI 챗봇 규제와 아동·청소년 보호를 둘러싼 입법 방향성과 제도적 전망을 논의했다.
이들은 토론회에서 제기된 문제의식에 공감하며 향후 관계 부처와 국회 차원에서 안전한 AI 이용 환경 조성을 위한 제도 개선 방안을 검토해 나가겠다는 취지로 발언했다. 이에 따라 AI 기술 확산 속도에 맞춰 아동·청소년의 권리를 실질적으로 보호할 수 있는 법적 기준과 사회적 안전망 마련이 향후 주요 과제로 떠오를 전망이다.
Copyright ⓒ 투데이신문 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
