새로운 연구 결과, 유해한 온라인 콘텐츠를 근절하기 위한 새로운 규정이 도입된 지 1년이 지난 이후에도 여전히 유튜브가 청소년 사용자에게 섭식장애 관련 동영상을 추천하고 있는 것으로 나타났다.
온라인 유해 콘텐츠를 연구하는 비영리 단체인 '디지털혐오대응센터(CCDH)'는 안전하지 않은 다이어트 및 신체 이미지 관련 콘텐츠를 처음 접해본 13세 소녀를 가정한 가상 계정을 개설해 실험을 진행했다.
그 결과, 지난 2년 동안 상황이 개선되기는 했으나, 유튜브의 '다음 영상 추천' 알고리즘이 추천한 동영상은 10개 중 1개꼴로 마른 몸에 대한 비정상적인 동경을 부추기거나, 극단적인 칼로리 제한을 권장하는 등의 유해한 내용을 담고 있는 것으로 나타났다.
이에 대해 유튜브를 소유한 구글은 유해 콘텐츠의 확산을 막겠다는 의지는 "변함없다"며, 이번 연구 보고서에 언급된 동영상들은 이미 삭제됐다고 밝혔다.
이번 조사 결과는 영국의 방송 통신 규제 기관인 '오프콤'이 유튜브와 틱톡이 청소년의 안전을 지키는데 충분한 조치를 취하지 않고 있다며 더 강력한 보호 조치를 촉구한 가운데 나왔다.
영국에서는 지난해 7월 통과된 '온라인 안전법'의 핵심 조항에 따라, 유튜브와 같은 사이트들은 자살·자해·섭식장애를 조장하는 동영상 등 위험한 콘텐츠로부터 18세 미만 청소년을 보호할 법적 의무를 진다.
또한 사용자에게 새로운 콘텐츠를 추천하는 알고리즘이 청소년에게 어떤 해를 끼칠 수 있는지 검토하고, 이에 따른 위험을 낮추고자 노력해야 한다.
기업들이 이를 이행하지 않을 경우 전 세계 매출의 최대 10%에 달하는 벌금을 부과받을 수 있으며, 구글의 경우 벌금 규모가 수십억파운드에 이를 수도 있다.
'계속 휴대전화만 들여다보게 됐습니다'
잉글랜드 레스터 출신의 재즈민 카우르(22)는 13세 때 거식증 진단을 받았으며, 그 후 6년 동안 영국국민보건서비스(NHS)를 통해 치료를 받았다.
"모든 건 우연히 시작됐다"고 한다.
"몸매를 가꾸고, 더 건강해지고 싶어서 인터넷을 찾아보기 시작했는데, 사실을 제대로 이해하지 못한 채 SNS에 올라온 내용을 그대로 믿어버렸습니다."
물론 섭식장애의 원인은 복잡하며, 온라인 콘텐츠만으로는 이 같은 질환을 앓게 됐다고 단정 지을 수는 없다.
재즈민은 유튜브나 다른 온라인 사이트에서 접한 콘텐츠 중 도움이 되는 것들도 있었으나, "대부분 자신을 더 힘들게" 했다고 말한다.
"병원에서 나올 때마다 휴대전화를 챙겨 끊임없이 들여다보았다"는 그는 "마지막 무렵에는 너무나 극단적인 콘텐츠에 노출됐고, 내 취약한 마음에 그대로 파고들었다"고 덧붙였다.
이에 재즈민은 대학 진학 이후 SNS 계정을 완전히 삭제하기로 결심했다.
현재 그는 소아간호학 석사 과정을 밟으며, 주말에는 성인 정신건강 병동에서 일하고 있다.
'영상 한 개도 여전히 너무 많다'
'온라인 안전법'이 시행되기 전과 후의 유튜브 동영상 추천 내용을 비교하기 위해, CCDH는 영국에 거주하는 13세 소녀를 가정한 계정을 만들었다.
연구진은 다이어트와 신체 이미지에 초점을 맞춘, 잠재적으로 유해한 동영상 10개를 시청하며 이러한 콘텐츠에 관심을 보이는 신규 사용자의 행동을 모방했다.
그런 다음 유튜브의 '다음 영상 추천' 알고리즘이 추천한 영상 100개를 분석했다.
그 결과, 2026년에는 추천 영상 10개 중 1개가 유해한 섭식장애 콘텐츠로 분류할 만한 영상이었다. 이는 CCDH가 2024년에 진행한 동일한 실험에서 확인된 4개 중 1개에 비하면 개선된 수치다.
연구진은 미국과 유럽연합(EU)의 청소년 계정도 개설해 진행됐는데, 결과는 비슷하게 나타났다.
- '자유를 느껴요'...호주 소셜미디어 금지 조치, 시행 한 달
- 한국 청년들이 감염 우려가 아닌 외모 때문에 마스크를 쓰는 이유
- 아시아 여성들이 섭식 장애를 겪을 수밖에 없었던 이유
CCDH의 알렉산드라 존슨 수석 연구관리자는 이번 연구는 규제가 실제로 효과가 있음을 보여주기에 "어느 정도 희망적"이라고 설명했다.
"다만 1개도 여전히 많다"며 "우리는 이러한 콘텐츠가 아예 (알고리즘을) 통과할 수 없길 바란다. 특히 심리적으로 취약한 사용자들에게는 알고리즘이 아주 미세하게만 영향을 미치기만 해도 매우 위험한 상황으로 치달을 수 있다"고 덧붙였다.
유튜브가 여전히 추천하고 있는 콘텐츠에는 극단적인 마른 체형을 이상화하는 소녀들의 영상을 모은 계정, 하루에 청소년의 권장 섭취량보다 훨씬 적은 양인 170칼로리만 섭취하는 다이어트를 권장하는 영상, 잠재의식을 통해 체중 감량을 할 수 있다며 '역대 가장 앙상하고 수척하며 왜소한 몸'을 약속하는 문서로 연결되는 영상도 있었다.
한편 연구진은 '위기 상담 리소스 패널'도 조사했다. 이는 민감한 주제의 동영상 아래에 표시되는 유튜브의 파란색 안내 상자로, 사용자를 신뢰할 수 있는 지원 서비스로 안내하는 기능이다.
올해 실시한 연구에서 유튜브 알고리즘이 추천한 영상 중 유해한 섭식장애 관련 영상 중 위기 상담 리소스 패널이 표시된 것은 없었으나, CCDH가 잠재적으로 위험한 것으로 분류하지 않은 다른 다이어트 및 신체 이미지 동영상에는 이러한 경고가 표시됐다.
구글은 "사람들이 (섭식장애 등에서) 회복한 이야기는 공유할 수 있게 하면서도" 섭식장애를 조장하거나 이에 대한 지침을 제공하는 유튜브 콘텐츠는 금지하고 있다고 밝혔다.
이어 CCDH 보고서에 언급된 동영상들은 커뮤니티 가이드라인 위반으로 판단해 현재는 모두 삭제됐다고 밝혔다.
유튜브 대변인은 "시청자의 웰빙이 우리의 최우선 과제이며, NHS·Mind(영국의 정신건강 전문 비영리 기구) ·The Mix(청소년 디지털 지원 단체) 등의 전문가들과 협력해 정신건강에 대한 접근방식을 개선하고 있다"고 밝혔다.
아울러 유튜브는 청소년 계정이 우울증이나 섭식장애와 같은 주제를 검색할 때, 전문가들이 특별히 선별한 영상이 표시되도록 조치하고 있다.
CCDH는 어린이와 청소년 사이에서 유튜브의 인기가 높다는 점을 고려해 연구 대상으로 유튜브에 집중했다. 실제로 오프콤의 통계에 따르면 3~17세 아동 및 청소년의 88%가 유튜브를 사용한다고 응답했다.
조언 및 지원
전문가들은 SNS와 섭식장애 간의 관계는 복잡하다고 말한다.
섭식장애 지원 단체 '비트'의 빅토리아 롱글리 대표는 정부의 공식적인 치료를 받고자 많은 이들이 노력하고 있는 이 상황에서, 서로를 지지하는 온라인 커뮤니티와 긍정적인 콘텐츠가 환자들의 고립감을 줄이는 데 도움이 될 수 있다고 말했다.
이어 자신들이 상담한 사람들의 약 90%가 온라인에서 유해한 콘텐츠를 접한 적이 있다고 답했다고 덧붙였다.
'비트'는 사용자들에게 알림을 끄거나, 온라인 사용 시간을 제한하는 앱을 사용하거나, 보고 싶지 않은 콘텐츠에 대해 '관심 없음' 옵션을 선택할 수 있다고 조언한다.
유해한 정보를 공유하는 계정은 차단하거나, 알림을 끄거나, 필요한 경우 신고할 수도 있다.
하지만 롱글리 대표는 플랫폼의 안전을 보장할 궁극적인 책임은 SNS 사이트에 있다고 강조한다.
한편 지난 6월, 영국 정부는 16세 미만 청소년의 유튜브·틱톡·인스타그램·스냅챗·페이스북·X 등 주요 SNS 사용 접속을 차단하는 규제 계획을 발표했다. 이 조치는 내년 봄부터 시행될 예정이다.
- 스킨케어 집착에 빠진 어린 소녀들… '코스메틱오렉시아'란 무엇인가
- 미 법원 'SNS 중독성' 첫 인정...메타와 유튜브 유죄 판결 받아
- 영국, '16세 미만 SNS 이용 금지' 추진… 구체적인 시행 방식은 여전히 의문
- '내 외모가 정말 싫었던 나, 이제는 받아들이게 됐다'
Copyright ⓒ BBC News 코리아 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
