최근 AI로 만든 가짜 전문가나 유명인 딥페이크 등을 활용한 허위·과장 광고가 식·의약품 분야를 중심으로 급증하고 있다.
이러한 광고는 노년층 등 소비자들의 피해를 야기하고 시장 질서를 교란하고 있으며, SNS 등을 통해 빠른 속도로 유포되고 있어 신속한 대응이 필요한 상황이다.
이에 정부가 AI 기술을 악용한 가짜 전문가·유명인 허위광고에 대해 유통 전 사전 방지부터 유통 시 신속 차단, 제재 강화까지 전방위 대응 방안을 10일 발표했다.
식·의약품 분야를 중심으로 범람하는 AI 허위광고로 인한 노년층 등 소비자 피해를 조기에 차단하겠다는 방침이다.
김민석 국무총리는 10일 오전 제7회 국가정책조정회의를 주재하고 이같은 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 발표했다.
◆AI 생성물 표시제 전면 도입
정부는 우선 AI 허위·과장 광고의 생성과 유통을 사전에 차단하기 위해 AI 생성물 표시제를 도입한다.
방송미디어통신위원회는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 플랫폼 등에 대한 AI 생성물 표시제를 시행할 예정이다.
앞으로 AI 생성물을 제작·편집해 게시하는 직접 정보제공자는 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 하며, 플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다.
플랫폼 사업자는 직접 정보제공자가 표시 의무를 준수하는지 관리해야 한다. 표시 방법을 제공하고 표시 의무를 고지하는 등의 역할을 수행해야 한다.
과학기술정보통신부도 AI 사업자의 AI 생성물 표시 의무 이행과 투명한 사용을 돕기 위한 가이드라인을 마련한다. 내년 1월 시행 예정인 AI 기본법에 따른 표시 의무를 AI 사업자들이 충실히 이행할 수 있도록 구체적 적용 원칙을 제시한다는 계획이다.
◆24시간 내 신속 심의로 차단 속도 대폭 향상
정부는 유통 중인 허위·과장광고를 신속하게 차단하기 위해 방송미디어통신심의위원회의 심의 절차를 대폭 개선한다.
방송미디어통신위원회와 방송미디어통신심의위원회는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가하도록 추진한다.
이를 통해 해당 영역의 허위·과장광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 기대된다.
식품의약품안전처 전용 방송미디어통신심의위원회 심의신청 시스템인 패스트트랙도 이들 품목까지 확대 적용해 안건 상정 시간을 단축할 계획이다. 현재는 마약류만 적용되고 있다.
◆긴급 시정요청 절차 신설
국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우에는 방송미디어통신위원회의 플랫폼 사업자에 대한 긴급 시정요청 절차를 도입한다.
방송미디어통신심의위원회 심의 완료 전에 차단조치가 이뤄질 수 있도록 하는 것이다.
절차는 관계당국이 방송미디어통신위원회에 요청하면, 방송미디어통신위원회는 플랫폼 사업자에게 임시 시정을 요청하고, 플랫폼 사업자는 시정조치를 이행한 후 방송미디어통신심의위원회 심의결과에 따라 차단을 확정하거나 원상복귀하는 방식이다.
정부는 플랫폼 사업자 차원에서도 허위·과장광고 관련 자율규제가 확대·강화될 수 있도록 유도할 예정이다.
◆위법행위자 제재 수준 대폭 강화
공정거래위원회와 식품의약품안전처는 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 명확화한다.
AI 사용광고 일반의 경우 AI가 제품을 추천하는 광고에서 추천자가 ‘가상인간’임을 표시하지 않으면 부당한 표시광고에 해당한다. 식·의약품 분야의 경우 AI가 생성한 의사 등 전문가가 식·의약품을 추천하는 광고행위는 소비자를 기만하는 광고에 해당한다.
방송미디어통신위원회와 공정거래위원회는 위법행위자에 대한 금전 제재를 강화한다.
정보통신망 등에서의 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상을 도입해 손해액의 최대 5배까지 배상하도록 한다. 표시·광고법상 허위·과장 광고에 대한 과징금 수준도 대폭 상향한다.
식품의약품안전처와 한국소비자원은 AI 허위·과장 광고에 대한 신속한 차단을 위해 관계 부처 협의 등을 통해 감시·적발 기능 강화를 추진한다.
김민석 국무총리는 “이번 대책을 통해 신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞는 시장 질서를 확립해나갈 것”이라고 밝혔다.
정부는 대책에 포함된 법령·제도개선 등을 조속히 추진한다는 계획이며, 플랫폼 업계, 소비자 단체 등 이해관계자와도 긴밀하게 소통할 예정이다.
[메디컬월드뉴스 김영신 기자]
Copyright ⓒ 메디컬월드뉴스 무단 전재 및 재배포 금지
