"상품 추천 AI, 잘못된 결과 재학습하며 편향·오류 증폭"
대형언어모델(LLM) 기반 상품 추천 인공지능(AI)이 자신이 과거에 생성한 추천 결과를 다시 학습하면서 특정 상품에 대한 쏠림이 나타나거나 잘못된 추천을 반복할 수 있다는 연구 결과가 나왔다.
LLM은 직접 추천 목록을 만드는 것뿐만 아니라, 추천 AI 모델이 더 정확한 추천을 할 수 있도록 사용자의 취향이 반영된 가상 프로필을 생성하는 역할을 한다.
연구팀은 에코트레이스를 이용해 이 3가지 방식에서 LLM이 만든 정보와 최종 추천 목록을 점검하고, 추천 결과가 다시 학습에 반영될 때 편향과 오류가 어떻게 이어지는지 분석했다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “연합뉴스” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
