“기술이 윤리의 울타리를 넘는 것을 더 이상 방관할 수 없습니다.” 생성형 AI와 딥페이크 기술이 사법 정의를 뒤흔들고 평범한 시민의 인격을 말살하는 독극물로 변질되자, 대한민국 국회가 전방위적 입법 대응에 나섰습니다.
AI포스트 핵심 요약
- ✅ [사법 질서 교란 방지] AI로 조작된 가짜 증거를 제출해 재판을 방해하거나 타인을 무고할 경우 형량을 1.5배 가중함. 사법부의 판단을 흐리는 디지털 범죄에 강력한 경고장을 날림.
- ✅ [인격권 및 재산 범죄 가중 처벌] 명예훼손, 사기 등 일상적인 AI 악용 범죄에 대해서도 가중 처벌을 명시함. SNS를 통해 퍼지는 딥페이크 영상 등 회복 불가능한 피해로부터 시민을 보호하겠다는 의지.
- ✅ [글로벌 규제 흐름 동참] 이탈리아, 미국 등 주요 선진국들이 딥페이크에 대해 징역형을 부과하는 등 강경 대응에 나선 가운데, 한국 역시 기술의 지속 가능성을 담보할 ‘최소한의 안전장치’ 마련에 속도를 냄.
인공지능(AI) 기술의 폭발적인 진화가 산업과 일상에 전례 없는 편의를 가져다주고 있지만, 그 이면에서 자행되는 기술 악용 범죄는 이미 임계점을 넘어섰다. 실제와 구분하기 어려울 정도로 정교한 딥페이크 영상과 음성이 사법부의 판단을 흐리고 평범한 시민들의 인격을 말살하는 독극물로 변질되고 있기 때문이다.
이에 대한민국 대표 인공지능 중심도시인 광주광역시에 지역구를 둔 양부남 의원(더불어민주당·서구을)이 AI 범죄에 대한 무관용 원칙을 천명하며 형량을 대폭 강화하는 전방위적 입법 조치에 나섰다.
양부남 의원은 11일, 생성형 AI와 딥페이크 등 고도화된 정보처리 기술을 악용해 범죄를 저지를 경우 해당 범죄가 규정한 형의 2분의 1까지 가중하여 처벌할 수 있도록 하는 '형법 일부개정법률안' 등 관련 법안을 대표 발의했다. 기술의 진보가 윤리의 울타리를 넘지 않도록 사법 체계의 근간을 전면 재구축하겠다는 선언으로 풀이된다.
"공격자는 법원을 속인다"…사법정의 흔드는 가짜 증거 원천 차단
이번 개정안의 핵심 골자 중 하나는 수사나 재판 과정에서 AI로 조작된 가짜 증거를 제출해 국가 형벌권의 정당한 행사를 방해하는 행위를 무겁게 다스리겠다는 점이다. 개정안의 상세 조항을 뜯어보면, 제155조(증거인멸 등)와 제156조(무고)에 명확한 가중처벌 조항이 신설됐다.
인공지능 기술 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 이용해 증거를 위조하거나 무고의 죄를 범한 경우, 기존 형량의 2분의 1까지 형을 더하게 된다. 고도로 위조된 AI 증거물은 수사기관의 합리적 판단을 저해하고 법원의 오판을 유도할 위험성이 치명적이기 때문에, 이를 사법 질서 교란 행위로 규정하고 가중처벌의 칼날을 들이댄 것이다.
SNS 타고 순식간에 인격 말살…명예훼손·사기 범죄 가중처벌 명시
디지털 공간에서 평범한 개인을 타깃으로 삼는 '인격권 침해'와 '재산 범죄' 역시 법안의 핵심 타깃이다. 개정안은 허위 사실을 유포하여 타인의 명예나 신용을 훼손하는 명예훼손죄(제307조, 제308조, 제309조)와 신용훼손 및 업무방해죄(제313조, 제314조), 타인을 기망해 재산을 편취하는 사기죄(제347조)에 대해서도 AI 기술을 악용했을 시 형의 2분의 1을 가중하도록 규정했다.
특정인의 목소리와 얼굴을 정교하게 따내 유포하는 허위 영상은 정보통신망의 휘발성을 타고 순식간에 확산되어 피해자에게 회복 불가능한 고통을 안긴다. 나아가 일반 국민이 자신의 감각과 인지 능력만으로는 도저히 방어하기 힘든 AI 기반 사기 범죄가 급증함에 따라, 법이 먼저 개입해 가해자에게 무거운 법적 리스크를 지우겠다는 의지다.
국경 없는 딥페이크 재앙…해외 주요국은 어떻게 대처하나
딥페이크의 위협은 이미 전 세계적인 재앙으로 확산된 상태다. 미국 랭커스터 컨트리 데이 스쿨에서는 남학생들이 여학생 59명의 일상 사진을 AI 성착취물로 변질시켜 유포한 충격적인 사건이 발생했다.
국내에서도 "졸업앨범 사진이 딥페이크 표적이 된다"는 공포감이 확산되면서, 중·고교 현장에서 '졸업 사진 제외' 요청이 빗발치고 '사진 조작 금지 서약서'가 등장하는 서글픈 풍경이 연출되고 있다.
이에 글로벌 주요국들 역시 무관용 법제화에 속도를 내고 있다. 이탈리아는 유럽연합(EU) 최초로 인공지능 사용 규제법을 승인하며, 딥페이크 제작을 포함해 AI 기술로 타인에게 해를 끼치는 자에게 강력한 '징역형'을 부과하고 아동의 접근을 원천 제한했다. 미국 펜실베이니아주 역시 AI 기반 아동 포르노를 성학대 자료로 명시하며 사법적 테두리를 촘꼼히 강화하고 있다.
물론 입법 과정에서 잡음이 없는 것은 아니다. 일각에서는 "기술 기업과 초기 벤처 스타트업에게 거대한 가중 처벌 리스크를 지우게 되면, 생성형 AI 시장의 투자 자본이 법적 불확실성에 짓눌려 유동성을 잃을 수 있다"며 과도한 기술공포증에 기반한 입법이라는 비판을 제기하기도 한다.
그러나 기술의 발전 속도가 법과 윤리의 진화 속도를 아득히 추월한 지금, 최소한의 안전장치 없이는 기술의 지속 가능성마저 담보할 수 없다는 목소리가 압도적이다. 양부남 의원은 "기술의 발전 이면에는 이를 악용하려는 시도가 늘 존재하기 마련"이라며 "이러한 폐해를 최소화하고 선량한 국민을 보호할 수 있는 확실한 방편이 필요해 이번 개정안을 발의하게 됐다"고 강조했다.
결국 누구나 표적이 될 수 있는 AI 시대에는 강력한 법적 규제와 더불어, 학교 현장에서의 AI 오남용 예방 교육, 글로벌 소셜 미디어 플랫폼의 신속한 삭제 조치를 강제하는 복합적인 제도적 장치가 시급하다는 것이 전문가들의 한결같은 지적이다.
한편, 이번 형법 일부개정법률안과 정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안에는 이광희, 정진욱, 김문수, 이강일, 김동아, 이훈기, 전진숙, 박민규, 한민수, 김남희, 이상식, 윤준병 의원이 공동발의자로 참여했다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
