| 한스경제=박정현 기자 | 한국이 세계 최초 시행하는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 AI로 생성되는 저품질·위험 콘텐츠의 해법이 될 수 있을지 주목된다.
우리나라는 전 세계에서 'AI 슬롭(slop·오물)'을 가장 많이 소비하는 국가로 나타났다. AI 슬롭은 온라인에서 조회수 획득을 위해 생성형 인공지능(AI)으로 만들어내는 저품질 콘텐츠를 뜻한다.
최근 소셜네트워크서비스(SNS) X에서 그록(Grok) AI로 생성된 아동 성착취 이미지가 사회적 논란을 빚는 등 'AI 딥페이크'와 저품질 양산 콘텐츠인 'AI 슬롭'의 문제는 이에 대응하는 윤리적 보호장치의 필요성을 지속 제기해왔다.
오는 22일부터 시행되는 AI 기본법은 생성형 AI를 이용해 만든 이미지, 영상, 음성 등 콘텐츠 에 대해 AI가 만들었다는 사실을 의무적으로 표시해야 한다. 이는 AI 슬롭 소비 1위 국가인 우리나라에 막대한 영향을 미칠 것으로 전망된다.
◆ 韓 AI 슬롭 압도적으로 소비
글로벌 영상 편집 플랫폼 카프윙(Kapwing)이 지난해 11월 발표한 '국가별 인기 유튜브 채널 상위 100개 조사 결과'에 따르면 한국은 AI 슬롭을 가장 많이 소비하는 국가다. 한국 기반 AI 슬롭 유튜브 채널 11개의 누적 조회수는 약 84억5000만회로 3위인 미국(33억9000만회)을 가뿐히 눌렀다.
카프윙은 유튜브 신규 사용자에게 추천되는 영상 5개 중 1개가 이런 AI 슬롭이라고 분석했다. 실제로 한국인이 많이 쓰는 유튜브나 인스타그램에 접속하면 조회수를 올리기 위해 AI로 대량 복제한 영상들을 심심찮게 찾아볼 수 있다. 문제는 AI로 조작된 허위 바이럴, 진료확인서 및 영수증 조작, 딥페이크 성범죄 및 명예훼손 등도 크게 늘며 사회적 신뢰와 안전 문제로 확산된다는 점이다.
오는 22일 시행되는 AI 기본법은 이를 위한 해결책이 될 전망이다. AI 기본법은 고영향 AI 사업자의 책무 강화와 생성물 워터마크 표시 의무화를 핵심으로 담고 있다. AI 기본법 제 31조 1항에 따르면 AI 사업자는 고영향 AI나 생성형 AI를 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 AI에 기반해 운용된다는 사실을 이용자에게 사전에 고지해야 한다.
다만 AI 기본법이 시행돼도 구글·오픈AI·X 등 외국 기업이 만든 딥페이크물을 완벽히 차단하거나 처벌하기에는 현실적인 한계가 적지 않다. 한국 이용자의 미국 AI 의존도가 높은 만큼 정부는 해외 기업도 규제 대상으로 보고 국내 대리인을 지정해 법적 의무와 책임을 이행하도록 규정했다. 그러나 AI 생성물 표시 여부를 감시하고 책임지는 투명성 역할이 대리인의 업무 범위에 명확히 포함돼 있아 제지에 한계가 있다.
기본법 자체에도 최소 1년의 유예 기간이 적용될 예정이어서 AI 생성물 표시 의무를 즉각적으로 강제하기는 어렵다. 이에 방송미디어통신위원회는 AI 기본법과 별도로 ‘AI 서비스 이용자 보호법’ 제정을 검토하고 있다.
과학기술정보통신부의 AI 기본법이 산업 진흥과 시스템 안정성에 방점을 찍었다면 방미통위가 검토 중인 법안은 이용자 보호와 피해 구제, 콘텐츠 유통 과정의 책임성 강화에 초점을 맞출 것으로 보인다.
◆ 국내 AI 기업, ‘AI 기본법’에 회의론
국내 AI 산업계에서는 ‘국가대표 AI’ 프로젝트를 중심으로 기술 고도화와 산업 진흥에 속도를 내는 상황에서 AI 기본법 시행이 혁신 흐름과 엇박자를 낼 수 있다는 우려가 제기된다.
규제 주체인 정부에 사실조사권이 부여됐다는 점 자체가 개발 위축으로 이어질 수 있다는 시각이 적지 않다. 정부는 AI 기본법 위반에 대한 과학기술정보통신부 장관의 사실조사권 행사를 최소화하고 과태료 부과 등 제재는 1년 이상 계도 기간을 두고 단계적으로 시행하겠다고 밝혔지만 산업계의 불안은 여전하다.
AI 스타트업 관계자는 “실제로 제재가 들어가는 고위험 AI 적용 분야가 명확하지 않아 법적 불확실성이 크다”고 우려했다. 스타트업얼라이언스가 지난해 말 국내 AI 스타트업 101개 사를 대상으로 조사한 결과 응답 기업의 98%가 AI 기본법 시행에 대비한 실질적 대응체계를 갖추지 못했다고 답했다.
생성형 AI 산출물에 대한 표시 의무도 마찬가지다. AI 기본법의 표시 조항은 영화, 웹툰, 애니메이션, 소설 등 콘텐츠 산업에서 AI를 단순 보조 도구로 활용하는 경우까지도 한정하고 있다. 한국콘텐츠진흥원 조사에 따르면 이미 창작자들의 AI 활용은 범용화됐다. 진흥원에 따르면 생성형 AI를 활용하는 콘텐츠 기업 비율은 지난해 13.2%로, 2023년(7.8%) 대비 두 배 가까이 늘었다. 이용자의 98.8%는 향후에도 AI를 계속 활용하겠다고 응답했다.
AI가 아직 표준화가 완전히 이뤄지지 않은 산업인 만큼 불확실했던 기준과 법적 책임을 명확히 하는 것이 장기적으로는 산업 발전에 도움이 될 수 있다는 의견도 분명히 있다.
업계 관계자는 “AI 기본법은 유럽연합(EU)의 ‘AI Act’와 달리 규제뿐 아니라 진흥까지 함께 고려하고 있다는 점에서 차별성이 있다”며 "생성형 AI 워터마크의 경우 전시·향유를 저해하지 않는 방식의 고지·표시, 표시 면제 조항을 두는 등 사업자 부담을 최소화하려는 장치가 있다. 비가시성 워터마크도 허용돼 구글의 ‘SynthID’처럼 관련 기술 개발을 장려하는 측면도 있어 업계에서도 충분히 도전해볼 만하다는 인식이 있다”고 평가했다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
