우리는 이제 인공지능(AI)이 선별한 뉴스를 읽고, AI가 추천한 상품을 구매하는 진정한 AI 시대에 살고 있다. AI가 '효율'의 상징이 된 셈이다. 그러나 알고리즘 이면에 숨겨진 '편향'은 우리 사회의 새로운 갈등의 씨앗이 되고 있다.
이에 AI포스트(AIPOST)는 한국지능정보사회진흥원(NIA) 디지털포용본부 고현지 선임의 심층 보고서 'AI 편향으로 인한 사회적 갈등과 정책적 대응'을 바탕으로 알고리즘이 초래한 사회적 균열의 실태를 파헤치고 디지털 상생을 위한 정책적 해법을 제시하고자 시리즈를 기획했다. <편집자주>
"옛날옛적에 모험심 강한 소년과 아름다운 소녀가 살았습니다."
AI에게 아이들을 위한 동화를 써달라고 부탁하면 흔히 보게 되는 문장이다. 이 문장은 과연 공정할까? 인공지능이 수학적 알고리즘을 바탕으로 설계됐기 때문에 객관적일 것이라는 믿음은 이제 '환상'을 넘어 '위험'한 수준에 도달했다는 지적이 나온다.
AI 동화 속 소녀에게선 ‘꽃향기’만 난다?
AI는 인간의 데이터를 먹고 자라며, 우리가 감추고 싶어 하는 사회적 편견과 불평등을 가장 정교하게 복제해내고 있기 때문이다. NIA 보고서가 인용한 보코니 대학교 연구팀의 분석은 AI 편향이 얼마나 뿌리 깊은지를 보여주는 서늘한 증거다. 연구팀은 생성형 AI가 쓴 5,531개의 아동 동화를 분석했다. 그 결과 성별에 따른 묘사의 격차는 극명했다.
주인공이 여자아이일 경우 '머리카락', '부드러운', '아름다운' 등 외모와 감성적 특성에 대한 묘사가 남자아이보다 55.26%나 더 많았다. 반면 남자아이는 '용기', '모험', '열망' 등 진취적인 행동과 성취를 강조하는 표현이 주를 이뤘다. AI가 전 세계의 문학 데이터를 학습하며 인류가 수 세기 동안 쌓아온 고정관념을 '최신 기술'의 이름으로 아이들에게 대물림하고 있는 셈이다.
중국판 틱톡 알고리즘은 여성의 ‘야망’을 지운다
이러한 편향은 성인이 되어서도 계속된다. 정보 소비의 주류가 된 추천 알고리즘은 이용자를 '취향의 감옥'에 가두고 있는 것으로 보인다. 보고서에 따르면 중국의 숏폼 플랫폼 도우인(틱톡)의 알고리즘은 여성 계정에게 추천되는 영상의 84%를 가정, 라이프스타일, 패션에 집중시켰다.
반면 남성 계정에는 엔터테인먼트와 물질적 성공(72%) 관련 주제가 우선적으로 노출됐다. 사용자가 직접 검색하지 않아도 알고리즘이 '성별에 맞는 정보'를 선별해 제공함으로써, 개인의 잠재적 가능성을 탐색할 기회를 원천적으로 차단하는 '알고리즘 유리천장'이 형성되고 있다고 평가된다.
미국인 평균 이용자보다 더 진보적인 챗GPT…정치적 양극화의 불씨인가?
이념의 영역도 예외는 아니다. 보고서가 인용한 연구에 따르면, 챗GPT는 미국 평균 이용자보다 약 73% 더 진보적인 성향을 띠는 것으로 분석됐다. 특히 정부 규모, 인종 평등, 공격적 발언 등 19개 주요 정치 주제 중 68%에 해당하는 항목에서 특정 진보 진영에 편향된 응답을 내놓았다.
이는 AI 모델이 학습 과정에서 특정 언론사나 온라인 커뮤니티의 데이터를 과도하게 수집했거나, 정교하지 못한 정제 과정을 거쳤음을 시사한다. 문제는 이러한 정치적 편향이 개별 사용자의 신념과 만나 '확증 편향'을 강화하고, 우리 사회의 대화 가능성을 차단하는 갈등의 증폭기로 작동한다는 점이다.
보고서를 작성한 NIA 고현지 선임은 AI 편향이 단순한 기술적 오류를 넘어 사회적 구조와 맞물린 복합적인 문제라는 점을 짚었다. 따라서 데이터 학습 단계부터 발생하는 편향이 알고리즘을 통해 고착화되는 악순환을 끊어내기 위한 정책적 노력이 시급하다고 강조했다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
