AI·LLM 기반 위험 감지 시스템 도입…모니터링·신고 체계 고도화
(서울=연합뉴스) 오지은 기자 = 지역 기반 구인·구직 서비스 당근알바가 보안관 제도를 도입하고 게시글 모니터링을 강화한다고 1일 밝혔다.
당근알바 보안관이 되려면 정해진 기간 신고 8건 이상, 신고 승인율 70% 이상을 충족해야 한다.
이후 내부 심사를 거쳐 보안관이 되면 게시글 중 이용 정책에 어긋나는 공고를 발견하고 이를 플랫폼에 알리는 역할을 한다.
현재 보안관 1기 489명이 활동 중이고 2기는 내달 선정될 예정이다.
당근알바는 또 인공지능(AI) 기반 자동 감지 시스템, 전담 운영팀 실시간 모니터링, 신고·필터링 시스템, 경찰청 사기 이력 데이터베이스(DB) 연동 등을 구축하고 있다.
당근알바는 최근 대형언어모델(LLM)을 활용해 업종·직종별 게시글을 모니터링하고 제재하는 시스템을 강화했다.
당근알바는 신고된 게시글 데이터로 게시글 위험도를 판단한 뒤 위험 가능성이 감지되면 실시간으로 경고 메시지를 발송한다.
해당 게시글을 즉시 검토 대상에 오르고 한 번이라도 범죄 정황이 있다면 영구 제재된다.
한편 올해 초 하반신 마비인 여동생을 돌봐주면 60만원을 주겠다는 당근 구인 공고로 범행 대상을 물색해 성폭행한 사건이 있었다.
최근 틱톡이 플랫폼 이용자의 안전을 강화하기 위해 연간 20억 달러(약 2조8천억원)를 사용한다고 발표하는 등 플랫폼 업계는 이용자 안전을 위한 방침을 내놓고 있다.
built@yna.co.kr
Copyright ⓒ 연합뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
