오늘부터 생성형 인공지능(AI) 서비스를 통해 만들어져 외부로 유통되는 이미지·영상·음성에는 ‘AI 생성물’임을 알리는 표시를 붙여야 한다.
뉴시스 보도에 따르면, 실제와 구분하기 어려운 딥페이크 생성물은 보다 명확한 방식으로 AI 생성 사실을 고지해야 하며 표시 의무 책임은 결과물을 만든 이용자가 아니라 AI 제품·서비스를 제공하는 사업자가 진다.
22일 과학기술정보통신부에 따르면 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’ 시행에 따라 투명성 확보 의무가 적용된다.
AI 제품·서비스가 고영향 AI 또는 생성형 AI에 기반해 운용된다는 사실을 사전에 이용자에게 알리고, 생성형 AI로 만들어진 결과물이 외부로 유통될 경우 AI 생성물임을 표시해야 한다.
AI 기본법에 따른 투명성 확보 의무는 ▲고영향 또는 생성형 AI 기반 운용 사실의 사전 고지와 ▲AI 생성물이 생성형 AI로 만들어졌다는 사실의 표시로 나뉜다.
사전 고지 의무는 이용자가 AI 제품·서비스 이용 과정에서 고영향·생성형 AI 기술이 적용된 사실을 미리 인지하고 주의를 기울일 수 있도록 하는 데 중점을 두고 있다.
투명성 확보 의무를 이행해야 하는 주체는 이용자에게 AI 제품 및 서비스를 직접 제공하는 ‘인공지능사업자’다. 여기에는 국내 이용자를 대상으로 AI 제품·서비스를 제공하는 해외 사업자도 포함된다.
AI 기술이나 서비스를 단순히 업무나 창작의 ‘도구’로 활용하는 이용자는 의무 대상에 해당하지 않는다. AI 제품·서비스를 제공하는 인공지능사업자가 아니라, 제공받은 AI 제품·서비스와 생성물을 활용하는 입장이기 때문이다.
예를 들어 영상 생성 AI를 이용하여 영화를 제작·배급하는 제작사는 AI 제품·서비스를 제공하는 것이 아니라, AI를 업무에 활용한 ‘이용자’에 해당하므로 의무 대상에 해당하지 않는다.
사업자는 서비스 이용약관이나 계약서에 이를 명시하거나, 소프트웨어·앱 구동 화면에 고영향·생성형 AI 기반으로 운용된다는 사실을 알려야 한다. 오프라인 서비스의 경우 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시해야 한다.
과기정통부는 투명성 확보 의무 적용에 대한 판단을 돕기 위해 가이드라인으로 구체적인 이행 기준을 정리했다. 다음은 가이드라인에 따라 정리한 투명성 확보 의무 관련 일문일답이다.
-투명성 확보 의무는 누가 지는 것인가
"이용자가 아니라 AI 제품·서비스를 이용자에게 직접 제공하는 ‘인공지능사업자’가 의무 주체다. 국내 이용자를 대상으로 서비스를 제공하는 해외 사업자도 포함된다."
-AI를 도구로 활용하는 개인이나 제작사도 표시를 해야 하나
"아니다. AI를 업무나 창작의 도구로 활용하는 이용자는 의무 대상이 아니다. AI 제품·서비스를 제공하는 사업자가 아니라, 제공받은 서비스를 활용하는 입장이기 때문이다."
-사전 고지 의무란 무엇을 의미하나
"AI 제품·서비스가 고영향 AI 또는 생성형 AI에 기반해 운용된다는 사실을 이용자에게 사전에 알리는 의무다. 이용자가 AI 기반 서비스임을 인지한 상태에서 서비스를 이용하도록 하기 위한 취지다."
-어떻게 해야 하나
"서비스 이용약관이나 계약서에 명시하거나, 앱·소프트웨어 구동 화면을 통해 고지할 수 있다. 오프라인 서비스의 경우 이용자가 쉽게 볼 수 있는 장소에 안내문을 게시하는 방식도 허용된다."
-AI 생성물 표시 의무는 언제 적용되나
"생성형 AI로 만들어진 결과물이 다운로드·공유 등으로 서비스 환경 밖으로 유통될 때 적용된다."
-외부로 유통되는 AI 생성물은 어떻게 표시해야 하나
"사람이 인식할 수 있는 방법(가시·가청적 워터마크)이나 기계가 판독할 수 있는 방법(메타데이터 등) 중 하나를 적용해야 한다. 다만 기계 판독 방식만 사용할 경우 다운로드 단계 등에서 AI 생성 사실을 1회 이상 안내해야 한다."
-외부 유통은 어떤 때를 말하는가
"다운로드·공유 등으로 결과물이 서비스 외부로 반출되는 순간부터가 ‘외부 유통’에 해당된다."
-텍스트 생성물도 표시 의무 대상인가
"텍스트 결과물도 생성형 AI로 만들어져 외부로 유통되는 경우 표시 대상이 될 수 있다. 다만 텍스트 특성상 메타데이터 등 기계 판독 방식이나 다운로드·제공 시 안내 방식으로 표시할 수 있다."
-서비스 환경 내에서만 이용되는 경우에는 어떻게 해야 하나
"결과물이 서비스 환경(UI) 내에서만 제공되는 경우에는 결과물별 표시 의무는 적용되지 않는다. 서비스 이용 전 또는 이용 과정에서 AI 활용 사실을 안내하면 된다.
일례로 게임에서는 이용자가 상호작용하는 캐릭터나 NPC명에 AI 캐릭터나 NPC임을 알리거나, 혹은 초기 대화시 안내하면 된다. AI 기반 음성서비스는 게임 내 이용자가 로그인 등 플레이 활성화 할 경우 서비스 초기에 AI 기반 음성임을 안내하면 된다."
-AI로 만든 웹툰을 플랫폼에 연재하면 표시 의무는 누가 져야 하는가
"웹툰을 제작한 창작자는 AI 기본법상 의무 주체가 아니다. 해당 웹툰 제작에 사용된 AI 생성 서비스를 제공한 인공지능사업자가 표시 의무의 책임 주체가 된다."
-콘텐츠 유통 플랫폼이 표시 의무를 지는가
"플랫폼이 자체적으로 생성형 AI 기능을 제공해 결과물을 생성·제공하는 경우에는 인공지능사업자로서 표시 의무가 적용될 수 있다. 다만 단순 유통 플랫폼인 경우에는 해당 AI 생성 서비스 제공 여부에 따라 판단된다."
-웹툰·애니메이션과 딥페이크는 어떤 기준으로 구분하나
"실제 인물이나 현실과 구분이 어려운지 여부가 핵심 기준이다. 누가 보더라도 가상임을 인식할 수 있는 웹툰·애니메이션·일러스트는 딥페이크에 해당하지 않는다."
-딥페이크 생성물은 어떻게 표시해야 하나
"실제와 구분하기 어려운 딥페이크 생성물은 반드시 사람이 명확하게 인식할 수 있는 방식으로 AI 생성 사실을 표시해야 한다. 영상은 전체 재생 구간에서, 음성은 재생 초기에 가시적·가청적 방식으로 표시하는 것이 원칙이다. 다만 영화·드라마 등 예술 창작물의 경우에는 일부 비가시적 방식도 허용된다."
-딥페이크 피해는 주로 이용자 악용에서 발생하는데, 이에 대한 제약은 없나
"AI 기본법은 사업자를 규율하는 법으로, 이용자 행위는 성폭력처벌법·정보통신망법 등 개별 법률에서 규제하고 있다. 딥페이크 생성·유포 행위에 대한 처벌 체계는 이미 별도로 마련돼 있다."
-표시 의무를 위반하면 바로 제재를 받나
"투명성 확보 의무는 1년 이상 계도기간이 운영되며, 해당 기간 동안 사실조사와 과태료 부과는 유예된다. 초기에는 안내와 컨설팅 중심으로 운영된다."
-글로벌 생성형 AI 서비스와 비교해 국내 기업만 더 엄격한 의무를 지는 것 아닌가
"그렇지 않다. 오픈AI, 구글 등 주요 글로벌 생성형 AI 서비스들도 이미지·영상·일러스트 등 일반 생성물에 대해 가시적 또는 비가시적 워터마크를 이미 적용하고 있다. 투명성 확보는 국제적으로 확산되는 기준이며 국내 기업에만 추가적인 의무를 부과하는 구조는 아니다."
Copyright ⓒ 모두서치 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
