가짜 보다 나쁜 의도된 진실…당하는 것조차 모르는 '알고리즘 세뇌'

실시간 키워드

2022.08.01 00:00 기준

가짜 보다 나쁜 의도된 진실…당하는 것조차 모르는 '알고리즘 세뇌'

르데스크 2026-07-09 17:15:35 신고

3줄요약

허위·조작정보 유통 방지와 피해자 권리구제를 강화하는 내용의 정보통신망법 개정안(이하 가짜뉴스 처벌법) 시행에 따른 '풍선효과' 가능성이 고개를 들고 있다. 가짜뉴스가 사라지더라도 특정 대상을 깎아내리거나 사실을 호도하기 위한 또 다른 수단이 등장할 수밖에 없다는 논리다. 특히 하나의 사실을 편향적으로 유통시키는 행위가 가장 먼저 등장할 것으로 점쳐진다. 사실을 반복 노출하는 행위 자체는 법에 명시된 처벌 기준에서 벗어나 있기 때문이다.

 

말 많고 탈 많았던 가짜뉴스 처벌법 시행, 경우에 따라 최대 10억 과징금 철퇴

 

방송미디어통신위원회에 따르면 올해 초 공포된 정보통신망법 개정안이 7일부터 시행에 돌입했다. 개정안의 주요 내용은 ▲허위조작정보 유통 시 손해액의 최대 5배까지 배액배상 책임을 부과하는 가중 손해배상제 도입 ▲대규모 정보통신서비스 제공자에게 허위조작정보에 대한 자율규제 정책 수립 및 시행 의무 부과 ▲방송미디어통신위원회가 불법정보 반복 유통 시 최대 10억원의 과징금 부과 가능 ▲사실 확인 활동을 지원하기 위한 정보통신서비스 투명성 센터 설립 등이다. 허위·조작 정보의 무분별한 제작·유통으로 인한 사회적 폐해를 최소화하겠다는 게 개정안의 취지다.

 

▲ 올해 초 공포된 정보통신망법 개정안이 7일부터 본격 시행됐다. 사진은 지난해 12월 서울 여의도 국회에서 열린 제430회 국회(임시회) 제2차 본회의에서 정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부개정법률안(정보통신망법 개정안) 가결된 직후의 본회의장 모습. [사진=연합뉴스]

 

대상, 기준 등을 구체화 한 시행령도 국무회의를 통과했다. 허위조작정보 유통을 방지할 의무가 있는 정보통신서비스 제공자 기준은 전년도 말 기준 직전 3개월 동안 하루 평균 이용자수(DAU)가 100만명 이상으로 설정했다. 네이버, 카카오, 구글 등이 여기에 포함된다. 최대 5배 징벌적 손해배상 책임을 질 수 있는 게재자 범위는 구독자수 10만명 이상이거나 직전 3개월 동안 게시한 정보의 월별 합산 조회수 평균이 10만회 이상이다.

 

불법·허위조작정보를 대형 플랫폼에 신고할 때는 ▲신고 대상 정보의 구체적 위치 ▲해당 정보의 내용 및 불법정보 또는 허위조작정보인 이유 ▲증빙자료 ▲신고자의 연락처 ▲신고자의 성명 등을 기재하도록 했다. 팩트체크를 담당할 사실 확인 단체는 국제적으로 통용되는 사실 확인 원칙에 부합하고 사실 확인 활동의 중립성·공정성·투명성 및 책임성 확보에 필요한 기준을 지키도록 규정했다. 또 법원에서 불법 혹은 허위조작정보로 인정돼 판결이 확정됐는데도 2회 이상 유통하고 직전 3개월간 3개 이상 정보를 올려 광고 등 수익을 얻은 사람에겐 최대 10억원의 과징금을 메기고 위반 중대성에 따라 가중·감경 조치하기로 했다.

 

가짜뉴스 흡사한 편향적 정보 유통 행위엔 무방비…처벌 근거 마련도 사실상 불가능

 

심각한 사회 문제로 지목돼 온 가짜뉴스 제작·유통 대한 구체적인 처벌 근거가 마련됐지만 아직까지 우려의 목소리는 사라지지 않고 있다. 가짜뉴스 제작·유포 행위와 유사한 의도를 지닌 다른 행위들에 대해서는 여전히 무방비로 방치돼 있다는 이유에서다. 결국 가짜뉴스 제작·유포 행위에 대한 처벌 근거 자체는 목적달성 수단 중 하나를 없앤 것에 불과하다는 주장이다. 대부분의 가짜뉴스에는 ▲특정 개인·단체의 명예나 사회적 위신을 훼손 ▲타인을 상대로 특정 정치 성향 주입 ▲특정 개인·단체에 대한 반감 유발 등의 의도가 실려 있다.

 

▲ 정보통신망법 개정안은 허위·조작 정보의 무분별한 제작 및 유통으로 인한 사회적 폐해를 최소화하는 것을 취지로 한다. 사진은 지난달 열린 김종철 방송미디어통신위원장 기자간담회 현장. [사진=연합뉴스]

 

결국 개인·단체가 이익을 얻거나 상대방의 손해·피해를 유발하기 위한 수단으로 가짜뉴스가 활용된 것이다. 그런데 이러한 결과는 굳이 가짜뉴스가 아니더라도 한 쪽으로 편향된 정보만을 반복적으로 제작·유포하는 이른바 '알고리즘 세뇌' 행위로도 달성 가능하다. 특정 온라인 커뮤니티나 SNS 등을 통해 특정 개인·단체에 대해서는 부정적 정보나 뉴스를 반복적으로 노출시켜 부정적 인식이 생기게끔 유도하는 식이다. 같은 방식으로 정반대의 결과를 내는 것도 가능하다.

 

주목되는 점은 한 쪽으로 치우친 편향 정보만을 제공하는 '알고리즘 세뇌' 행위는 일찌감치 가짜뉴스 만큼이나 심각한 문제로 지적돼 왔다는 사실이다. 제공하는 정보 자체가 사실에 기반을 두고 있기 때문에 옳고 그름을 따지는 것 자체가 모호하기 때문에 오히려 더욱 악질 행위로 여겨지기도 했다. 제품에 하자가 있으면 제품을 만든 사람에게 책임을 물으면 되지만 멀쩡한 제품을 한 종류만 유통한다고 책임 운운할 수 없는 것과 같은 개념이다.

 

세계 각국에서 SNS 플랫폼의 '알고리즘 편향성'에 대해 문제의식을 갖고 있으면서도 이렇다 할 조치를 취하지 못한 것도 같은 이유다. 지난 2021년 한국콘텐츠학회지에 실린 '텍스트 마이닝 기법을 이용한 유튜브 추천 알고리즘의 필터 버블 현상 분석' 논문 내용에 따르면 새로운 유튜브 계정 2개를 개설해 하나는 보수 성향의 콘텐츠만을, 다른 하나는 진보 성향의 콘텐츠만을 시청했는데 시간이 지날수록 각 계정에 노출되는 콘텐츠는 하나의 정치 성향만을 띄었다. 보수 계정은 개설 첫날 보수 성향 콘텐츠가 14%에서 6일째에는 86%로 증가했다. 진보 계정 역시 진보 성향의 콘텐츠 비율이 첫날 8%에서 6일째 84%로 높아졌다.

 

▲ 전문가들은 특정 방향으로 치우친 편향 정보를 반복 제공하는 이른바 '알고리즘 세뇌'가 가짜뉴스만큼 심각한 사회적 문제로 일찌감치 지목돼 왔다는 점을 주목하고 있다. 사진은 스마트폰 화면에 표시된 인스타그램, 틱톡, 스냅챗, 유튜브, 페이스북, 트위치, 레딧 애플리케이션. [사진=로이터/연합뉴스]

 

특정 정보의 반복적 노출은 이용자의 인식이나 성향에도 상당한 영향을 미치는 것으로 나타났다. 정보통신정책연구원이 발표한 '2024 지능정보사회 이용자 패널조사' 보고서 내용에 따르면 설문조사에 참여한 응답자의 50.6%는 '알고리즘 추천 내용이 사람들의 의견 형성에 큰 영향을 미친다'고 답했다. '알고리즘 추천 서비스가 자극적인 내용을 보여줌으로써 사람들의 생각이나 행동에 영향을 준다'는 응답 비율도 50.8%나 됐다. '알고리즘 추천 서비스는 사람들의 기존 생각을 더 강하게 만드는 내용을 주로 보여준다'고 생각하는 응답자도 전체의 49.9% 비율을 차지했다.

 

다수의 전문가들은 정보의 편향적 유통 행위는 가짜뉴스 제조·유포와 같은 결과를 유도할 가능성이 높다는 점에서 가짜뉴스 처벌법의 실효성 확보를 위해서라도 결코 간과해선 안 되는 문제라고 입을 모았다. 임명호 단국대 심리학과 교수는 "사실을 선별적으로 노출해 특정 사고방식을 주입하는 알고리즘 세뇌는 훨씬 더 본질적이고 위험한 문제다"며 "특히 사고체계가 유연한 청소년들에게 이는 더욱 치명적이다"고 분석했다. 이어 "알고리즘이 제공하는 편향된 정보에 갇히게 되면 반대되는 의견이나 객관적 사실은 아예 존재하지 않거나 틀린 것으로 치부해버리는 확증편향이 극대화될 수 있다"며 "정보의 편향적 유통 행위는 개인의 판단력을 마비시키고 사회적 갈등을 깊게 만드는 만큼 이에 대한 사회적 차원의 대책이 시급하다"고 강조했다.

Copyright ⓒ 르데스크 무단 전재 및 재배포 금지

실시간 키워드

  1. -
  2. -
  3. -
  4. -
  5. -
  6. -
  7. -
  8. -
  9. -
  10. -

0000.00.00 00:00 기준

이 시각 주요뉴스

알림 문구가 한줄로 들어가는 영역입니다

신고하기

작성 아이디가 들어갑니다

내용 내용이 최대 두 줄로 노출됩니다

신고 사유를 선택하세요

이 이야기를
공유하세요

이 콘텐츠를 공유하세요.

콘텐츠 공유하고 수익 받는 방법이 궁금하다면👋>
주소가 복사되었습니다.
유튜브로 이동하여 공유해 주세요.
유튜브 활용 방법 알아보기