국회에서 정부의 인공지능(AI) 진흥 정책과 함께 적절한 윤리 규제가 필요하다는 우려가 나왔다. AI를 활용한 조작 등이 사회문화적, 정치적 영역에서까지 악용될 수 있는 만큼 대응이 필요하다는 것이다.
뉴시스 보도에 따르면, 이상휘 국민의힘 의원은 13일 열린 국회 과학기술정보방송통신위원회 국정감사에서 '모달 AI(영상합성형 AI)'의 심각한 위험성을 직접 시연하며 정부의 AI 정책 방향이 산업 육성 일변도에 치우쳐 있음을 강하게 지적했다.
이 의원은 이날 과학기술정보방송통신부 국정감사에서 박장범 KBS 사장의 음성 파일과 사진·영상 일부를 활용해 실제 인물처럼 조작 영상을 만들어내는 과정을 실시간으로 시연했다.
그는 AI 기술이 악용될 경우 가짜뉴스 생성, 허위정보 확산, 여론 조작 등 민주주의 질서를 위협할 수 있다고 경고했다.
과기정통부가 2026년도 AI 관련 과학기술 혁신 예산으로 5조원 이상을 편성했지만, 정작 가짜 영상·조작 콘텐츠·윤리 문제 등 AI 리스크를 통제하고 대응하는 분야에 투입되는 예산은 극히 제한적이고 불투명한 것에 대해서도 언급했다.
이 의원은 "정부가 지금처럼 'AI는 기회다'라는 슬로건만 반복한다면 머지않아 'AI는 재앙이었다'는 비명이 터져 나올지도 모른다"며 "AI 기술 자체에는 선악이 없으나 인간의 윤리와 책임이 뒷받침되지 않을 때는 혼란을 야기할 수 있다"며 AI 리스크 관리 문제를 지적했다.
이어 "AI 투자가 중요한 시기인 것은 분명하지만, 가짜 영상과 조작콘텐츠, 허위정보 확산, 선거 여론 조작 등으로부터 국민을 보호하기 위한 예방과 방어 투자가 반드시 병행돼야 한다"며 대책마련을 촉구했다.
이에 대해 배경훈 부총리 겸 과기정통부 장관은 "말씀 주신 내용에 충분히 공감하고 있다. 기술 (악용) 방지를 위한 제도적 장치도 필요하고, AI 기술 발전에 대한 노력도 동시에 필요할 것"이라며 "AI 기본법에도 AI 안전과 신뢰에 대한 부분을 충분히 담기 위해 노력하고 있고, AI 안전연구소에서도 딥페이크 방지 기술 등에 대한 R&D 연구도 진행 중"이라고 설명했다.
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
