AI 허위정보 규제 첫 시행···플랫폼 책임 강화, 표현의 자유는 숙제

국민의힘 장동혁 대표가 6일 국회에서 열린 최고위원회의에 검은색 마스크를 쓴 채 입장하고 있다. 장 대표는 내일부터 시행되는 개정 정보통신망법의 부당함을 알리기 위해 검은색 마스크를 썼다고 밝혔다.[사진=연합뉴스]

[이뉴스투데이 박강규 정치전문기자] 유명인을 사칭한 AI 딥페이크 투자 사기부터 실제와 구분하기 어려운 선거 허위영상까지. 생성형 인공지능(AI)이 만든 허위조작정보가 사회적 문제로 확산되는 가운데 이를 체계적으로 관리하기 위한 개정 정보통신망법이 7일부터 시행됐다.

일정 규모 이상의 온라인 플랫폼은 허위조작정보 신고·처리 체계와 투명성 보고서를 의무적으로 운영해야 한다. AI 시대 플랫폼의 사회적 책임을 제도화한 첫 제도라는 평가가 나오지만, 허위정보 차단과 표현의 자유 사이의 균형을 어떻게 확보할지가 제도 안착의 핵심 과제로 떠오르고 있다.

이번 제도는 정부가 게시물의 진위를 직접 판단하는 방식이 아니라 플랫폼이 자체 운영정책과 사실확인(팩트체크) 등을 바탕으로 1차 대응하는 구조를 채택했다. 직전 3개월간 하루 평균 이용자가 100만 명 이상인 플랫폼은 허위조작정보 대응 정책을 마련하고 신고 접수와 처리 절차, 이의신청 제도를 운영해야 한다. 처리 결과와 사유를 이용자에게 통지하고 운영 현황을 담은 투명성 보고서도 정기적으로 공개해야 한다.

적용 대상은 이용자 규모를 고려할 때 유튜브, 인스타그램, 엑스(X), 페이스북, 디시인사이드 등 국내외 주요 플랫폼이 될 것으로 예상된다. 기존에는 허위정보 유통에 대한 사후 대응이 중심이었다면, 앞으로는 플랫폼이 자율적인 관리 체계를 통해 예방과 신속한 조치에 나서도록 책임을 강화한 것이 이번 제도의 핵심이다.

법 개정의 배경에는 AI 기술 발전으로 허위정보 제작 비용과 시간이 크게 줄어든 현실이 자리하고 있다. 생성형 AI를 활용하면 실제와 구별하기 어려운 이미지와 영상, 음성을 누구나 손쉽게 제작할 수 있고, 이를 이용해 광고나 후원 수익을 노리는 허위 콘텐츠 유통도 빠르게 늘고 있다. 정부는 기존의 사후 처벌만으로는 이러한 변화에 대응하는 데 한계가 있다고 보고 플랫폼의 관리 의무를 법제화했다.

더불어민주당 국민소통위원회 위원장인 김현 의원이 7일 국회 소통관에서 이날부터 시행된 개정 정보통신망법과 관련해 기자회견을 하고 있다.[사진=연합뉴스]

더불어민주당 국민소통위원회 위원장인 김현 의원은 이날 국회 소통관에서 기자회견을 열고 "이번 개정안은 일반 국민의 표현의 자유를 제한하기 위한 법이 아니라 생성형 AI를 활용해 허위조작정보를 반복적으로 유통하며 경제적 이익을 얻는 행위를 막기 위한 제도"라고 설명했다. 이어 "정부가 게시물을 직접 검열하거나 삭제하는 것이 아니라 플랫폼이 자율적인 운영정책과 사실확인 절차를 통해 책임 있게 관리하도록 한 것이 핵심"이라며 "AI 시대에 맞는 최소한의 사회적 안전장치를 마련한 것"이라고 강조했다.

정부는 이번 제도가 일반 이용자의 표현을 제한하기 위한 것이 아니라 반복적으로 허위조작정보를 유통해 경제적 이익을 얻는 행위를 억제하는 데 목적이 있다고 설명한다. 과징금과 징벌적 손해배상 역시 법원에서 불법 또는 허위조작정보로 확정된 내용을 반복 유통해 수익을 얻은 일정 규모 이상의 정보 게재자를 대상으로 한다. 단순한 의견 표명이나 정치적 주장, 비판, 풍자, 사적 메신저 대화 등은 적용 대상이 아니라는 입장이다.

다만 시장에서는 법 시행 자체보다 실제 운영 과정에 더 관심을 보이고 있다. 가장 큰 쟁점은 '허위'와 '의견'의 경계를 누가 어떤 기준으로 판단하느냐다. 사회적 논란이 큰 사안일수록 사실관계와 가치판단이 혼재하는 경우가 적지 않아 플랫폼마다 서로 다른 판단이 내려질 가능성이 있다.

법적 책임을 우려한 플랫폼이 위험을 최소화하기 위해 게시물을 선제적으로 삭제하는 이른바 '오버 컴플라이언스(과잉 준수)' 현상이 나타날 수 있다는 우려도 제기된다. 정치·사회적 갈등 과정에서 특정 게시물을 집중 신고하는 '신고 폭탄'이 새로운 분쟁 수단으로 악용될 가능성과 플랫폼의 자의적인 운영 기준이 표현의 자유를 위축시킬 수 있다는 지적도 나온다.

전문가들은 허위정보 규제의 필요성에는 공감하면서도 예측 가능한 심사 기준과 투명한 운영 원칙이 마련돼야 한다고 강조한다.

김정재 국민대학교 행정대학원 특임교수는 "허위정보를 줄이기 위한 제도적 필요성에는 공감하지만 '허위'와 '조작'의 기준이 불명확할 경우 언론과 창작자, 일반 국민 모두 법적 분쟁을 우려해 스스로 표현을 자제하는 '위축 효과(Chilling Effect)'가 나타날 수 있다"며 "투명한 심사 기준과 실효성 있는 이의신청 절차가 함께 마련돼야 제도가 사회적 신뢰를 얻을 수 있을 것"이라고 말했다.

결국 이번 제도는 AI 시대 온라인 허위정보 대응 체계의 출발점이라는 의미를 갖는다. 허위정보 유통을 줄이면서도 표현의 자유를 침해하지 않는 운영 기준과 일관된 심사 원칙을 마련할 수 있을지가 제도의 성패를 가를 것으로 전망된다.