AI기본법, 22일 본격 시행…생성형 AI 결과물 표시 의무

[프라임경제] 과학기술정보통신부(이하 과기정통부)는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI기본법)이 오는 22일부터 시행된다고 21일 밝혔다.

ⓒ 과학기술정보통신부

AI기본법은 지난 2024년 12월 여·야 합의를 거쳐 국회를 통과했다. 세계에서 두 번째로 제정된 AI기본법은 국가 AI 거버넌스를 법제화하고, AI 산업 활성화와 인프라 조성, AI 혁신을 뒷받침하는 안전신뢰 기반에 관한 내용을 담고 있다. 

국가 AI 정책의 컨트롤 타워인 국가AI전략위원회의 구성·운영과 전략위원회 내 AI책임관 협의회, 분과·특별위원회, 지원단에 관한 세부 사항 등을 구체화해 국가 AI 정책의 추진 기반을 마련했다.

선도적인 AI 기술력 확보와 학습용데이터 구축을 위해 정부 지원 사업의 범위와 기준을 시행령에 반영했다. 

또 학습용 데이터의 제공을 위한 '통합제공시스템'을 과기정통부 장관이 구축·관리하되, 시스템이 갖춰야 하는 기능을 시행령에 규정했다.

기업·공공기관이 AI를 도입하고 그 활용을 확산하기 위해 정부의 지원 사항을 시행령에 규정하고, 지원 방안을 수립하도록 했다. 기업이 AI 기술을 실증 또는 성능시험할 수 있도록 공기업, 정부출연연 등이 보유한 시설을 기업에게 개방 가능하도록 행정적·재정적 지원 근거를 마련했다.

기업·기관 등의 인프라를 집적하는 AI집적단지 지정 시 △AI기본계획과의 부합 여부 △집적화 효과 △지역경제 발전의 기여 등을 종합적으로 고려하고, 집적단지를 지원할 수 있는 전담기관을 별도로 설치하거나 지정할 수 있다.

고영향 AI·생성형 AI를 활용하는 AI 제품 또는 서비스를 제공하는 AI 사업자는 해당 AI 활용 사실을 사전에 이용자에게 고지하도록 했다. 고지방법은 시행령을 통해 다양한 방법으로 할 수 있도록 했다.  

생성형AI의 결과물, 사회적 부작용이 우려되는 딥페이크 결과물에 대해서는 이용자의 연령 등을 고려해 명확하게 인식할 수 있는 방법으로 표시하도록 규정했다.

다만, 딥페이크 결과물이 아닌 AI 결과물에 대해서는 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크도 허용했다. AI 사업자가 알림창이나 UI 등을 통해 생성형 AI 결과물을 안내하도록 규정했다.

안전성 의무 확보 대상이 되기 위해서는 △학습에 사용된 누적연산량이 10의 26승 부동소수점 연산(FLOPs)이상이고 △최첨단 기술을 적용하며 △위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등을 모두 충족해야 한다. 

이 중 기준의 판단 방법은 가이드라인을 통해 상세하게 규정할 예정이다. 안전성 확보 의무는 고도로 발전한 AI가 통제 불가능한 상황을 가정해 사회적으로 큰 피해 발생을 사전에 예방하는 게 목적이다.

고영향 AI의 판단 기준과 고영향 AI 사업자의 책무는 시행령에 구체화했다. 판단 기준의 경우 AI가 법에서 정하는 영역에서 활용됐는지 여부, 위험의 중대성 등을 모두 고려함과 동시에 최종 의사결정 과정에 사람이 개입하는 경우는 통제 가능한 것으로 판단해 고영향AI 대상에서 제외된다. 

관련해 영역별 세부 고영향 AI 판단 기준과 사업자 책무의 이행 방법에 관한 내용은 가이드라인을 통해 더욱 세부적으로 구체화했다.

과기정통부는 기업의 혼란을 최소화하고, 현장에서 충분히 준비할 시간을 제공하기 위해 최소 1년 이상 규제를 유예한다. 

해당 기간 동안 사실조사, 과태료 관련 계도기간을 운영한다. 사실조사는 인명사고, 인권훼손 등 중대한 사회적 문제 발생하는 등 극히 예외적인 경우에만 실시할 예정이다. 

기업의 법 이행 준비 지원을 위해 하위법령 제정에 참여한 전문가로 구성된 'AI기본법 지원데스크'를 개설·운영한다. 

AI기본법과 관련된 기업의 문의와 애로사항을 해소하기 위해 전문가들이 검토·분석을 통해 기업에게 상세한 컨설팅을 제공할 예정이다.  영업비밀 유출 등을 우려하는 기업을 고려해 상담 내용은 비밀로 관리하고, 익명 컨설팅도 제공한다.

규제 유예 기간동안 제도가 합리적으로 운영되고, 기업의 불확실성을 해소할 수 있도록 관련 가이드라인을 보완해나갈 계획이다. 

현재까지 수렴된 의견을 바탕으로 보완된 가이드라인 수정본은 22일 법 시행과 함께 공개할 예정이다.

또 '제도개선 연구반'을 2월부터 운영하되, 산업계, 시민사회 등 이해관계자의 의견을 청취하여 제도 개선 사항을 발굴해 나갈 예정이다.

스타트업을 위한 AI기본법 현장 설명회도 진행한다. AI기본법 대비가 충분치 않은 스타트업과 지역 기업들을 대상으로 규제 유예 기간 중 현장 설명회를 통해 제도 안내와 함께 AI기본법이 국내 AI 산업의 발전과 AI 기본사회 수립을 위한 제도적 기반임을 홍보할 계획이다.

과기정통부는 AI가 경제·사회·문화·국방·안보 등 전 영역에 걸쳐 일상화되는 상황에서 해외 국가의 법 규범 동향, 기술 발전 추세를 면밀히 모니터링하면서 유연하게 대처할 계획이다. 

과기정통부는 "특히 AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자, 이미 주요 글로벌 기업들이 도입하고 있는 세계적인 추세"라고 강조했다.

이어 "이번 AI기본법 시행을 통해 현장에서의 법적 불확실성이 제거되고 건강하고 안전한 국내 AI 생태계가 조성되기를 기대한다"고 덧붙였다.