소비자 10명중 7명, AI 유료화 새로운 소비자 불평등 야기할 것 우려

[사진=한국소비자연맹] 

[이뉴스투데이 백연식 기자] 인공지능(AI)은 이제 소비자의 일상이 됐지만 AI에 대한 소비자 신뢰는 아직 따라가지 못하고 있는 것으로 나타났다.

한국소비자연맹이 16일 AI 이용 경험이 있는 전국 소비자 1000명을 조사한 결과, 70% 이상이 AI 유료화가 새로운 소비자 불평등을 야기할 것이라고 우려했다. AI 기술 발전 자체에는 긍정적이지만 ‘설명 없는 AI’와 ‘책임 없는 AI’에 대해서는 매우 강한 우려를 갖고 있는 것으로 조사됐다.

전체 응답자의 82.5%는 AI 사고나 피해 발생 시 기업이나 기관이 ‘AI 자동 판단’을 이유로 책임을 회피하거나 책임 소재가 불분명해질 수 있다고 답했다. 기업이 AI의 기능과 한계, 위험성을 소비자에게 사전에 명확히 설명하도록 의무화해야 한다는 응답은 90.2%였다.

또한 AI 챗봇 상담으로 문제가 해결되지 않을 경우 실제 사람 상담원과 연결할 수 있는 권리가 필요하다는 응답도 85.4%를 기록했다.

조사 결과 소비자의 AI 이용률은 이미 상당한 수준에 도달했다. 응답자의 42.2%가 AI를 ‘거의 매일 사용한다’고 답했고, ‘주 2~3회 이상 이용한다’는 응답은 26.1%였다. 전체의 68.3%가 상시적으로 AI 서비스를 이용하는 셈이다. 유형별로는 생성형 AI 이용률이 67.4%, AI 검색·요약 서비스 이용률이 57.8%로 집계됐다.

기술 발전 자체에 대해서는 긍정적인 평가(60.8%)가 우세했으나, AI가 내리는 판단과 결과물에 대해서는 불안감이 큰 것으로 나타났다.

소비자들은 가장 치명적인 AI 소비자 피해(중복응답)로 ‘AI 할루시네이션(환각·그럴듯한 거짓말)으로 인한 오인 및 선택 왜곡’(56.8%)을 첫손에 꼽았다. 이어 ‘책임 소재 불명확’(30.6%), ‘AI 시스템 오작동으로 인한 신체·재산 피해’(22.8%) 순이었다.

특히 응답자의 44.6%는 AI가 생성한 콘텐츠를 스스로 판별하기 어렵다고 답해 허위 정보 노출에 무방비한 상태인 것으로 나타났다. 소비자가 실제로 경험한 문제(중복응답) 역시 허위 정보·가짜뉴스(488건), 딥페이크 범죄 악용(465건), 개인정보 수집 및 유출(370건), AI 사고 시 책임 불명확(358건) 순으로 많았다.

AI 알고리즘을 활용한 맞춤형 서비스에 대한 거부감도 확인됐다. AI가 소비자의 구매 이력, 검색 기록, 소득 수준 등을 분석해 개인마다 다른 가격이나 광고를 제시하는 ‘알고리즘 가격차별’에 대해 응답자의 41.6%가 부정적인 반응을 보였다. AI 알고리즘의 편향된 판단 가능성을 우려한다는 응답도 57.9%에 달했다.

AI 서비스의 유료화 추세도 새로운 사회적 문제로 지적됐다. 응답자의 35.6%는 AI 유료 서비스 비용에 부담을 느끼고 있는 것으로 나타났다. 71.9%는 “AI 유료화 확대가 새로운 디지털 격차를 심화시킬 수 있다”고 우려했다.

소비자들은 AI 시대에 보장받아야 할 주요 권리로 정보 이용 투명성(72.2%), 정보 삭제·수정권 등 정보 통제권(55.6%), 피해보상권(53.6%), 개인정보 활용 여부 자율 결정권(51.3%) 등을 요구했다.

AI 자동화 의사결정과 관련해 우선 보장받아야 할 권리로는 개인정보 삭제 요구권(46.6%)과 더불어, AI의 판단을 사람이 다시 검토하도록 하는 ‘인간 재검토 요구권’(41.8%), 대규모 피해 발생 시 유용한 ‘집단구제권’(36.7%)을 꼽았다.

정부와 국회가 우선 추진해야 할 정책으로도 딥페이크·허위정보 규제(52.8%)와 함께 'AI 책임 기준 명확화'(50.1%)가 가장 높은 순위를 차지했다.

한국소비자연맹 관계자는 “이번 조사는 소비자들이 AI를 거부하는 것이 아니라 '책임 없는 AI'를 거부하고 있다는 점을 보여준다”며 “AI 시대 소비자보호 정책이 단순한 기술 확산을 지원하는 데 그쳐서는 안 된다”고 말했다. 이어 “소비자가 AI를 신뢰하고 안심하고 이용할 수 있도록 투명성, 책임성, 공정성을 제도적으로 보장하는 방향으로 정책의 정심이 전환돼야 한다”고 설명했다.