정부가 인공지능(AI) 기반 딥페이크 허위영상 과장광고 근절을 위해 플랫폼 등에 대한 AI 생성물 표시제를 신설하고 광고 송출을 즉시 중단하는 대응체계를 마련했다.
뉴시스 보도에 따르면, 손해액의 최대 5배를 부과하는 징벌적 손해배상을 도입하고 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다.
정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 이러한 내용을 골자로 하는 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표했다.
최근 온라인 플랫폼에서 생성형 AI를 활용한 허위·과장 광고와 딥페이크 조작 영상이 급증하면서 소비자 피해 우려가 커지자 신속·강력한 대응체계를 구축하는 데 중점을 뒀다.
방송미디어통신위원회는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 돕기 위해 플랫폼 등에 대한 AI 생성물 표시제를 도입한다.
앞으로 AI 생성물을 제작·편집해 게시하는 자는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시하여야 하며, 플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다. 플랫폼사는 '직접 정보제공자'가 표시 의무를 준수하는지 관리하도록 했다.
신속한 차단에도 나선다. 방미통위·방미심위는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가하도록 추진한다. 이렇게 되면 해당 영역의 허위광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 기대된다.
국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우에는, 방미통위가 플랫폼사에 대해 긴급 시정 요청을 해 심의 완료 전에 차단조치가 이뤄질 수 있도록 할 방침이다.
위법행위자에 대한 금전제재도 강화한다. 이를 위해 정보통신망 등에서의 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상을 도입하고, 표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다. 공정위와 식약처는 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 정비한다.
김 총리는 "이번 대책을 통해 신기술의 부작용을 최소화하는 동시에, AI 시대에 걸맞는 시장 질서를 확립하겠다"고 밝혔다.
이어 "대책에 포함된 법령·제도개선 등을 조속히 추진하고 플랫폼 업계, 소비자 단체 등 이해관계자와도 긴밀하게 소통하겠다"고 덧붙였다.
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
