[이뉴스투데이 백연식 기자] 오는 3일 제9회 전국동시지방선거를 앞두고 우리나라 플랫폼 업계도 ‘선거 체제’에 돌입했다. 생성형 인공지능(AI) 확산으로 허위정보와 조작 콘텐츠 우려가 커지면서 플랫폼들은 AI 생성물 탐지와 공식 선거 정보 제공을 강화하는 등 대응 수위를 높이고 있다. 과거 실시간 검색어와 댓글 관리가 핵심 과제였다면 이번 선거에서는 AI가 새로운 변수로 떠오른 모습이다.
2일 업계에 따르면 네이버와 카카오, 다음은 중앙선거관리위원회와 협력해 후보자 정보와 투·개표 현황 등 공식 선거 정보를 제공하고 있다. 네이버는 언론사 픽, 지역별 선거 뉴스, 여론조사, 선거 주요 일정·상식·역대 투표율 등을 안내한다. 선거 당일에는 방송 3사 공동 출구조사와 언론사별 예측조사 결과를 함께 제공하는 ‘선거 특집 라이브 코너’를 운영할 예정이다.
네이버는 AI 기반 탐지 시스템 ‘클린봇’을 3.0으로 고도화해 댓글 내용뿐 아니라 기사 제목과 본문을 종합 분석하는 방식으로 악성 댓글 탐지 정확도를 높였다. 한국인터넷자율정책기구(KISO), 선관위와 협력해 후보자 관련 댓글 삭제 요청을 처리하고 24시간 모니터링 체계와 핫라인도 운영한다.
댓글 어뷰징 방지에도 나선다. 지난 3월 19일부터 선거일인 6월 3일까지 정치·선거 섹션 기사의 본문 하단 댓글을 제공하지 않는다. 지난 4월 23일부터는 악성 댓글이 일정 기준을 초과한 기사의 댓글 서비스를 자동으로 비활성화하는 정책도 시행 중이다.
카카오톡에서는 선거 일정과 투표 참여 안내, 공식 정보 연결 기능 등을 제공하며 이용자들의 정보 접근성을 높이고 있다. 카카오맵에서는 사전 투표소와 본 투표소 위치를 검색할 수 있으며 길찾기 기능도 지원한다.
이번 선거에서 카카오가 특히 신경 쓰는 부분은 허위정보와 AI 생성 콘텐츠 대응이다. 생성형 AI 기술 발전으로 딥페이크 영상과 조작 콘텐츠 확산 우려가 커지면서 플랫폼 사업자의 책임도 함께 확대되고 있다. 카카오는 선관위 등 공신력 있는 기관의 정보를 우선 노출하는 방식으로 이용자들이 정확한 정보를 확인할 수 있도록 지원하고 있다. 또한 서비스 내 신고 체계를 운영하며 선거 관련 허위정보 확산을 최소화하는 데 집중하고 있다.
업스테이지가 최근 인수를 확정한 포털 다음은 특집 페이지를 통해 섹션을 AI 키워드, 인터뷰, 여론조사, 심층, 화제지역, 재보궐, 광역, 기초·의원·교육감, 타임라인, 지역판세 등으로 구성해 정보를 제공하고 있다.
‘AI 키워드’는 기초지자체 언급 지수 상위 20곳을 매주 발표해 지역별 정책 키워드를 AI로 분석해 제공한다. ‘타임라인’은 후보자의 주요 발언·핵심 이슈·과거 이력을 시간순으로 시각화해 이용자가 한 화면에서 선거 국면의 맥락을 파악할 수 있도록 했다. 지난 달 29일 사전투표 시점부터 다음 첫 화면과 모바일 홈·뉴스탭에 특집 페이지를 열고 있다.
허위정보·어뷰징 탐지에는 AI 악성댓글 필터링 시스템 ‘세이프봇’을 적용한다. 급격한 트래픽 집중, 동시다발적 반응 패턴, 어뷰징 계정 탐지, 집단 답글 어뷰징, 시간대별 이상 패턴 등 5가지 조건을 감지해 조직적 개입이 의심될 경우 노출 가중치를 실시간으로 낮추는 ‘동적 가중치 제어’를 실행한다. 실시간 트렌드에서는 선거 영향 행위 금지 기간 중 후보자 및 연관 인물 키워드를 제외해 여론 조작 가능성을 최대한 줄였다.
업계에서는 과거 허위뉴스나 댓글 조작이 주요 문제였다면 이번 선거는 AI 생성 콘텐츠가 새로운 위험 요인으로 부상했다고 보고 있다. 실제 해외 주요 선거에서도 AI로 제작된 가짜 음성이나 영상이 유권자 혼란을 유발한 사례가 잇따라서다. 이에 플랫폼들은 자체 모니터링 체계를 강화하는 한편 AI 생성 콘텐츠 여부를 식별할 수 있는 기술 적용도 확대하는 모습이다. 일부 서비스에서는 AI 생성 이미지 표시 기능이나 출처 표기 기능을 도입해 이용자 판단을 돕고 있다.
전문가들은 이번 선거가 국내 플랫폼의 AI 대응 역량을 시험하는 무대가 될 것으로 보고 있다. 생성형 AI가 정보 생산 비용을 크게 낮추면서 허위정보 확산 속도 역시 빨라졌기 때문이다.
플랫폼 업계 관계자는 “과거에는 허위정보를 사람이 직접 생산했다면 이제는 AI가 대량으로 만들어낼 수 있는 환경이 됐다”며 “플랫폼 입장에서는 신속한 탐지와 함께 공식 정보 노출을 확대하는 것이 가장 현실적인 대응책”이라고 말했다.
다만 일각에서는 플랫폼의 과도한 개입에 대한 우려도 제기된다. 허위정보 차단과 표현의 자유 사이 균형을 유지해야 하는 만큼 플랫폼의 역할이 더욱 중요해진 시점이다. 업계에서는 이번 지방선거를 계기로 플랫폼 운영 원칙도 한 단계 진화할 것으로 전망한다. 검색·뉴스 배열 논란 중심이었던 과거와 달리 앞으로는 AI 생성 콘텐츠 검증과 정보 신뢰성 확보가 플랫폼의 핵심 책무로 자리 잡을 가능성이 크다는 평가다.
플랫폼 업계 다른 관계자는 “선거 기간, 플랫폼은 단순 정보 유통 창구가 아니라 신뢰할 수 있는 정보를 연결하는 관문 역할을 하게 됐다”며 “AI 시대 선거의 성패는 플랫폼의 대응 역량에도 달려 있다”고 말했다.
Copyright ⓒ 이뉴스투데이 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
