AI 추천 믿었더니 취향까지 바뀐다?…반복 학습의 함정
AI가 과거 추천 결과를 다시 학습하면서 인기 상품에 대한 쏠림을 강화하고, 잘못된 정보까지 반복적으로 활용할 수 있다는 것이다.
(b) 추천 단계: 기존 추천 모델이 LLM이 생성한 정보를 활용하거나, LLM이 직접 상품을 추천해 사용자에게 최종 추천 목록을 제공하는 과정을 보여준다.
연구팀이 추천 결과를 다시 학습시키는 과정을 5차례 반복하자 일부 시스템에서는 인기 항목에 대한 쏠림이 더욱 커졌다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “이데일리” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
