[메디먼트뉴스 이광익 기자] 소셜미디어(SNS) 게시물 작성을 돕는 인공지능(AI)이 이용자의 의도와 달리 편향된 내용을 주입해 여론을 미묘하게 조작할 수 있다는 연구 결과가 나왔다.
영국 옥스퍼드대 옥스퍼드인터넷연구소(OII)와 독일 포츠담대 하소플래트너연구소 공동 연구팀은 5일(현지시간) 이 같은 내용의 'AI 매개 커뮤니케이션이 집단 의견을 조종할 수 있다'는 제목의 논문을 공개했다.
연구팀에 따르면 대규모언어모델(LLM)은 원문의 의미를 유지하라는 명시적 지시를 받아도 논쟁적인 주제에 대한 게시물의 방향을 일관되게 바꾸는 것으로 나타났다. 이러한 미세한 변화가 수백만 건의 상호작용을 통해 축적되면 전체 여론의 흐름에 영향을 미칠 수 있다는 분석이다.
실제로 여러 AI 모델을 실험한 결과, 총기 규제, 마리화나 합법화, 페미니즘 등 특정 입장을 지지하는 방향으로 글의 논조를 바꾸는 경향이 나타났다. 반면 무신론이나 사형제 같은 주제에 대해서는 반대하는 쪽으로 편향성을 보였다.
연구팀은 X(옛 트위터)의 '게시물 설명하기' 기능을 재현하는 실험을 통해 플랫폼의 특정 지침이 AI의 편향성을 어떻게 좌우하는지 확인했다. AI 모델 '그록'이 낙태 관련 게시물을 설명할 때, '필요하다면 주류 서사에 도전하라'는 단 하나의 지침 때문에 임신 중절 권리 반대(pro-life) 입장에 더 우호적인 태도를 보인 것이다.
연구팀은 AI가 글을 작성, 편집, 맥락화하는 과정에서 의견에 영향을 미치는 방식이 기존 규제 체계의 사각지대에 있다고 지적했다. 유럽연합(EU)의 AI법이나 디지털서비스법 등은 유해 콘텐츠나 차별 등 명시적 위험에 초점을 맞추고 있기 때문이다.
논문의 수석 저자인 산드라 워치터 옥스퍼드대 교수는 "우리 연구는 AI 매개 커뮤니케이션이 여론에 영향을 미치는 새롭고 더 미묘한 방식이라는 점을 지적한다"며 "이는 법이 아직 따라잡지 못하는 부분"이라고 설명했다.
해당 논문은 이달 한국 서울에서 열리는 국제머신러닝학회(ICML 2026)에서 발표될 예정이다.
Copyright ⓒ 메디먼트뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
