[2025 국감_과방위] 이상휘 의원 "AI 기회이자 재앙… 조작 콘텐츠 통제 없는 혁신 혼란 불러"

이상휘 의원 [사진=이상휘 의원실]

[폴리뉴스 이상명 기자] 국회 과학기술정보방송통신위원회(과방위) 국정감사 현장이 한순간 술렁였다.

13일 열린 2025 국감 자리에서 국민의힘 이상휘 의원(포항 남·울릉)이 '모달 AI(영상합성형 AI)'의 위험성을 실시간으로 시연하자, 장내가 조용해졌다. 가짜뉴스나 조작 영상이 얼마나 정교하게 만들어질 수 있는지, 의원들이 눈앞에서 목격했기 때문이다.

이 의원은 박장범 KBS 사장의 음성 파일과 일부 영상, 사진을 결합해 실제 인물처럼 말하는 가짜 영상을 즉석에서 생성했다. 불과 몇 초 만에 만들어진 조작 영상이었다.

그는 "이 영상이 방송을 통해 유포된다면, 국민은 진짜와 가짜를 구분할 수 있겠느냐"며 "AI 기술이 민주주의의 신뢰 기반을 무너뜨릴 수 있다"고 경고했다.

이 의원은 이날 질의에서 정부의 AI 정책이 산업 육성과 투자 확대에만 치중하고 있다고 지적했다. 과학기술정보통신부는 내년도 AI 관련 연구개발(R&D) 예산으로 5조 원 이상을 책정했지만, 조작 콘텐츠 대응이나 딥페이크 방지 기술, AI 윤리 감시 체계에 대한 투자 비중은 미미하다는 것이다.

그는 "정부가 지금처럼 'AI는 기회'라는 말만 되풀이한다면 머지않아 'AI는 재앙'이란 현실을 마주하게 될 수도 있다"며 "기술은 가치 중립적이지만, 그 기술을 사용하는 인간의 윤리와 책임이 결여될 때는 사회적 혼란이 불가피하다"고 강하게 경고했다.

이상휘 의원의 질의는 단순한 기술 시연을 넘어 'AI 정책의 근본 방향'을 묻는 문제 제기였다.

그는 "AI는 산업 경쟁력의 핵심이지만 동시에 사회적 리스크의 진원지이기도 하다"며 "투자 확대만으로는 국민의 안전과 신뢰를 확보할 수 없다"고 강조했다.

특히 이 의원은 딥페이크 기술의 악용 가능성을 거듭 경고했다. "가짜 영상 하나가 여론을 뒤흔들고, 선거 결과에 영향을 미치는 시대가 이미 도래했다"며 "AI 조작 콘텐츠를 방지하기 위한 법·제도적 장치가 시급하다"고 밝혔다.

그는 "정부가 추진 중인 AI 산업 육성 로드맵에는 '윤리와 규제'라는 축이 사실상 비어 있다"며 "AI 정책의 핵심은 기술 개발이 아니라 인간 중심의 관리 체계를 세우는 것"이라고 덧붙였다.

이상휘 의원의 이런 문제 제기는 이번이 처음이 아니다.

그는 지난해 국정감사에서도 자신의 얼굴을 활용해 미국 배우 드웨인 존슨('더 락')의 얼굴과 합성한 이른바 '드웨인 상휘' 영상을 직접 시연해 화제를 모았다. 당시에도 그는 "기술의 놀라운 진보보다, 그 기술이 얼마나 쉽게 악용될 수 있는지를 국민에게 보여주고 싶었다"고 말했다.

이처럼 2년 연속 이어진 시연은 기술의 발전 속도에 비해 제도적 대응이 여전히 늦다는 현실을 드러낸다. AI 기술이 하루가 다르게 진화하는 반면, 법과 윤리, 행정의 대응은 여전히 초기 단계에 머물러 있다는 것이다.

이 의원은 "AI는 기회이자 재앙"이라며 "정부가 산업 육성 중심 정책만 반복한다면 조만간 그 부작용의 대가를 국민이 치르게 될 것"이라고 경고했다.

AI 기술은 의료, 교육, 제조, 교통 등 사회 전반을 혁신하고 있다. 하지만 동시에 조작 영상, 허위정보, 선거 개입 등 새로운 사회적 위협의 중심에 AI가 서 있다.

이 의원은 "정부와 국회가 AI를 단순한 산업 성장의 도구로만 볼 것이 아니라, 사회적 리스크와 함께 관리해야 한다"며 "AI 혁신의 속도를 따라잡기 위해 제도와 윤리 체계부터 강화해야 한다"고 강조했다.

그는 "기술은 멈추지 않지만, 제도와 윤리는 지금이라도 그 속도를 따라가야 한다. 그렇지 않으면 AI가 만들어낼 미래는 혁신이 아니라 혼란이 될 것"이라고 말했다.