【투데이신문 박효령 기자】생성형 인공지능(AI) 비롯한 관련 기술이 빠르게 성장·확산하면서 이에 걸맞은 윤리 기준을 정립하고 제도적으로 뒷받침하는 입법 논의가 조속히 이뤄져야 한다는 목소리가 나온다. 이에 국회와 정부, 현장 전문가 등이 한 자리에 모여 AI 윤리 정책과 AI 기본법 개정 방향을 논의하는 자리가 마련됐다.
국회의원연구단체인 ‘국회 인공지능(AI) 포럼’이 주최하고 서울교육대학교 신경윤리가치AI융합교육연구소가 주관한 초청 특별강연 ‘AI 윤리 정책의 미래와 AI 기본법 개정 방향’이 31일 국회의원회관에서 열렸다.
이날 국회 AI 포럼 대표의원인 이인선 의원은 “최근 인공지능 기술은 행정, 교육, 산업, 복지 등 우리 사회 전반으로 빠르게 확산되며 인간의 판단과 의사결정 영역까지 깊숙이 영향을 미치고 있다”며 “그러나 기술의 발전 속도를 법과 제도, 그리고 윤리가 충분히 따라가지 못하면서 ‘입법 공백’을 메우는 것이 중요한 과제로 떠오르고 있다”고 말했다.
이어 “이제 AI 윤리는 선택의 문제가 아니라 국가 경쟁력과 직결된 중요한 과제가 됐다. 기술발전과 함께 신뢰와 기준도 함께 마련돼야 한다”며 “국회 AI 포럼은 앞으로도 국민들을 보호할 수 있는 AI 법체계를 마련하는 데 앞장서겠다”고 강조했다.
이날 특별강연으로 서울교육대학교 신경윤리가치AI융합교육연구소 소장이자 서울교육대학교 윤리교육과 박형빈 교수가 ‘이중 트랙의 국가 전략 : 입법의 공백에서 권리의 설계로’라는 주제로 나섰다.
박 교수는 법, 제도, 윤리의 정비 속도보다 기술 확산이 더 빠르게 이뤄지고 있다며 AI 윤리 정책이 필요하다고 강조했다.
그는 “AI는 행정·교육·산업·복지·보안 등 전 영역으로 침투하고 있으며 예측·분류·추천·생성·의사결정 보조로 자율성을 침해하고 있다”며 “또 기업 자율 규범·선언적 원칙만으로는 대응이 불충분하다”고 지적했다. 이어 “특히 청소년 52.1%는 생성형 AI를 사용한 경험이 있다”며 “이용률이 성인보다 높은 만큼 인지·학습·창의력 저하부터 정신건강까지 위협받고 있는 상황”이라고 짚었다.
취약계층별 법적 공백을 살펴보면 청소년은 AI 동반자 정서 조작, 자살·자해 신호 미탐지 위험, 우울·불안 환자는 AI 심리상담 앱 의존, 전문가 개입 없이 증상 심화 위험, 노인·고립자는 돌봄 AI 정서 과의존, 금융 사기 AI 노출, 장애인은 보조 AI 오작동 시 생활 직접 영향 등이다.
이에 박 교수는 이중트랙 국가 전략을 제시했다. 트랙 1은 ‘혁신 전략’으로 △연구 개발·인재 양성 △공공 인프라 지원 △산업 적용 확산이며 트랙 2는 ‘권리 보호 전략’으로 △위험 기반 규율 △책임성·설명 가능성 확보 △시민 보호·교육 윤리 기준이다.
AI 기본법 8대 개정 과제로는 △아동·청소년 특화 안전설계 △교육AI 고영향 핵심기능 명시 △AI 검인증 체계 법제화 △AI 영향평가(AIA) 법제화 △AI 동반자·정서지원 서비스 규율 △플랫폼·피지컬 AI 책임구조 △AI 리터러시 교육 법제화 △국가 AI 윤리위원회 실효성 강화 등을 꼽았다.
그는 신경과학이 ▲취약성의 측정 가능성 ▲취약 집단의 과학적 정의 ▲새로운 권리 범주의 예측에 기여할 수 있다는 점에서 입법 논의 과정에 함께 포함돼야 한다고 강조했다. 아울러 “이제는 선언적 수준을 넘어 ‘미시적 AI 윤리’에 대한 접근이 필요하다”며 “교육·의료·노동·돌봄 등 영역별 특성과 아동·노인·장애인 등 대상별 차이를 반영해 구체적 위험을 식별하고 이에 맞는 세분화된 설계를 마련해야 한다”고 진단했다.
또한 정책 추진 체계와 관련해서는 “과학기술정보통신부를 중심으로 범정부적 대응이 이뤄져야 한다”며 “교육부는 교육 AI 기준과 리터러시를 마련하고 보건복지부는 정서 지원 및 AI 위기 연계 체계를 구축하며 법무부는 책임 법리와 피해 구제 기준을 정립해야 한다”고 설명했다.
이어 “AI 정책은 진흥과 안전·신뢰를 병행하는 ‘이중 트랙’으로 추진돼야 한다”며 “AI가 침범할 수 없는 영역과 한계를 법 조문으로 명확히 규정할 필요가 있다”고 꼬집었다. 그러면서 국회에는 개정 방향의 구체적 명시를, 기업에는 AI 윤리의 내재화를 각각 주문했다.
이어진 토론 시간에서 과학기술정보통신부 최우석 인공지능안전신뢰지원과장은 “이중 규제와 법 간 충돌을 막기 위해서는 AI 기본법과 기존 개별 법률 간 역할을 명확히 구분하고 통합적·분야별 거버넌스를 병행할 필요가 있다”고 했다.
이어 “새로운 법은 기존 체계로 포섭하기 어려운 영역에 한해 신중히 도입해야 하며 AI 기본법은 AI 사업자와 새로운 서비스 규율에 초점을 둔 점에서 의의가 있으며 동시에 AI 확산에 맞춰 기존 법률도 함께 고도화하는 ‘이중 접근’이 필요하다”며 “특히 투명성 등 핵심 규제는 목적·대상·방식을 구체화해 국민 요구에 맞게 정교하게 설계해야 한다”고 언급했다.
교육부 이지현 인공지능융합인재양성과장은 “AI 확산 속에서 아동·청소년의 발달과 보호를 위한 법적 안전망 마련이 시급하다는 점에 공감하며 관련 법·정책 정비를 추진 중”이라며 “특히 AI 기본법을 중심으로 교육·복지 등 부처 간 통합적 법령 체계를 구축하는 한편, ‘교육기본법’ 개정을 통해 AI 활용 역량과 윤리 교육 의무화를 추진하고 있다”고 밝혔다.
그러면서 “현재 과학기술정보통신부와 협력해 학생·교사·개발자 등 대상별 생성형 AI 활용 가이드라인과 대학의 책임 있는 AI 활용·공정한 평가 기준 마련을 추진 중”이라며 “또 빠른 기술 변화에 대응하기 위해 법률뿐 아니라 가이드라인·지침을 병행하고 AI 리터러시 교육 확대와 현장 맞춤형 기준 마련에도 힘쓰겠다”고 약속했다.
지디넷코리아 방은주 선임기자는 “‘아동·청소년 특화 안전장치’ 등 개정 과제에 대해 국회 차원의 구체적 입법 논의로 발전시킬 필요가 있다”며 “다만 AI 정책은 윤리·규제와 산업 발전 간 균형이 핵심 과제라며 규제가 산업 혁신을 저해하지 않도록 조율이 필요하다”고 지적했다. 이어 “정책·입법에 앞서 기술에 대한 충분한 이해와 사회적 신뢰(트러스트) 형성이 선행돼야 한다”고 덧붙였다.
Copyright ⓒ 투데이신문 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
