“AI 기본법, 스타트업에 과잉 규제 우려” 업계 반발

내년 1월 시행을 앞둔 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)에 대해 스타트업계에서 우려의 목소리가 나오고 있다./픽사베이

[한스경제=김종효 기자] 스타트업계가 내년 1월 시행을 앞둔 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)에 대해 거세게 반발하고 있다. 명확한 가이드라인이 되는 것이 아니라 오히려 과잉 규제로 작용할 우려가 있다는 지적이다.

28일 업계에 따르면 AI 기본법은 유럽연합(EU)의 AI 법(AI Act)에 이어 세계 두 번째로 제정된 인공지능 분야의 포괄적 법률로 AI 개발 및 활용 기본 원칙과 정부 지원 방향을 규정하고 있다. 

하지만 업계는 AI 기본법에 대해 “혁신을 촉진하기보다 과잉 규제로 작용할 수 있다”며 시행령 설계와 세부 규정 마련 과정에서 현장 목소리가 충분히 반영되지 않는다고 지적한다.

AI 기본법은 AI 시스템을 ‘일반 AI’와 ‘고영향 AI’로 분류하고 고영향 AI에 대해 보다 엄격한 규제를 적용한다. 법률상 고영향 AI는 ‘사람의 생명·신체 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템’으로 정의된다.

구체적으로는 대출 심사, 채용, 공공기관 의사결정 등 11개 기준 항목을 명시했지만 실제 현장에서는 이 기준이 지나치게 포괄적이고 모호하다는 평가가 잇따른다. 특히 기술 개발 초기 단계에서 자신들이 규제 대상에 해당하는지조차 판단하기 어렵다는 스타트업들 불만이 크다.

한 스타트업 관계자는 “EU AI Act가 고위험 AI 적용 분야를 명확히 규정한 것과 달리 한국의 AI 기본법은 하위 법령에서 조정할 계획이어서 법적 불확실성이 크다”고 지적했다. 또한 ‘고영향(High-Impact)’이라는 용어 자체가 긍정·부정적 영향을 모두 내포할 수 있음에도 규제는 위험성에만 초점을 맞추고 있어 현장 혼란을 키운다는 비판도 나온다.

또 다른 쟁점은 생성형 AI 산출물에 대한 표시 의무다. AI 기본법은 AI 사업자에게 생성형 AI를 이용한 제품이나 서비스가 AI 기반이라는 것을 사전 고지하고 생성형 AI 결과물이라는 것을 명확히 표시하도록 의무화했다. 딥페이크 영상 등 실제와 구분이 어려운 가상 산출물에 대해서는 이용자가 명확히 인식할 수 있도록 표시해야 한다는 조항이 포함됐다.

문제는 영화, 웹툰, 애니메이션, 소설 등 콘텐츠 산업에서 AI를 단순 보조 도구로 활용하는 경우까지도 일률적으로 표시 의무가 부과될 수 있다는 점이다. 업계는 “이런 경직된 규정이 창작 현장 자유를 위축시키고 콘텐츠 산업 혁신을 저해할 수 있다”고 우려한다. 

EU AI Act도 생성형 AI에 대해 정보 제공 및 투명성 확보 의무를 부과하면서도 콘텐츠 분야에서는 ▲이용자가 오해할 가능성이 있는 경우 ▲딥페이크 등 위험이 존재하는 경우로 한정해 규제를 적용한다.

AI 기본법이 개인정보 보호법, 전자금융거래법, 방송통신위원회의 인공지능 이용자 보호법 등 기존 법률과 중복 적용될 가능성도 업계 우려를 키우고 있다. 이미 여러 분야에서 AI 서비스 운영 기준이 마련돼 있는 상황에서 새로운 법률이 추가로 적용되면 기업이 과도한 규제 부담을 지게 되고 규제 당국 간 역할이 중첩되면서 해석과 집행에 혼란이 생길 수 있다는 것이다.

법제처 역시 AI 기본법과 기존 법령 간 충돌 가능성, 법 적용 범위의 불명확성 해소를 위한 전수 조사를 진행 중이다. EU의 경우 AI 법과 충돌할 수 있는 19건의 기존 법률을 사전에 조정해 조화 법률을 만들었지만 국내에서는 아직 명확한 기준이 마련되지 않았다.

AI 기본법은 AI 서비스에 대한 사실조사와 검·인증 권한을 특정 기관에 부여하는데 이 과정에서 사실조사 요건이 불명확해 무분별한 민원이나 신고로 인한 기업 부담이 커질 수 있다는 지적도 있다. 

과기정통부는 이해관계나 부적절한 목적에 따른 신고로 판단되면 조사를 실시하지 않겠다는 입장이지만 여전히 현장에서는 규제 불확실성에 대한 우려가 남아 있다.

AI 검·인증 권한이 특정 기관에 독점적으로 부여될 경우 기술 혁신과 시장 경쟁이 위축될 수 있다는 비판도 제기된다. 업계는 산·학계 의견을 폭넓게 반영해 검·인증 체계의 투명성과 공정성을 확보해야 한다고 주장한다.

스타트업얼라이언스 등은 “AI처럼 국내 산업이 뒤처진 분야를 제도권 안으로 유입시킬 경우 선진국 기준을 그대로 적용하면 국내 AI 산업이 고사할 가능성이 있다”고 경고한다. 

이들은 AI 기술의 빠른 발전 속도와 산업 현장 다양성을 반영한 유연하고 합리적인 규제 설계를 촉구하며 ▲고영향 AI의 정의와 적용 기준을 명확히 하고 산업별 특성을 반영한 세분화된 규제 도입 ▲생성형 AI 표시 의무 예외 조항 확대 및 콘텐츠 분야 등 창작 산업 특수성 고려 ▲기존 법령과 중복·충돌을 최소화하고 법 적용 일관성 확보 ▲사실조사 및 검·인증 권한 투명성 강화와 다양한 이해관계자 참여 보장 등을 포함한 개선안을 제시했다.

앞서 스타트업얼라이언스는 “AI 기본법 시행령 설계에 산업계 실질적 경험과 목소리가 적극 반영돼야 한다”며 혁신친화적 제도 설계를 촉구하는 정책 제안서를 주요 대선 캠프와 정부에 전달했다. 이기대 스타트업얼라이언스 센터장은 “AI 산업 성장은 규제가 아니라 진흥 중심 정책 환경에서 가능하다”고 강조했다.

과학기술정보통신부는 업계·학계·시민단체 등 의견수렴을 거쳐 AI 기본법 시행령을 마련하겠다는 방침이다. AI 기술·서비스 투명성이나 안전성 확보 관련 조항은 미국 등 글로벌 기준과 조화를 이루도록 설계하고 규제보다는 산업 진흥에 방점을 두겠다고 밝혔다. 또한 법률 시행에 따른 국내외 기업 간 역차별을 방지하는 조항도 포함할 계획이다.

하지만 업계에서는 “실제 AI 모델이나 서비스를 운영하는 기업 인사 등 산업 현장의 기술 전문가가 정책 설계에 충분히 참여하지 못하고 있다”는 불만이 여전하다. 규제 강도와 실효성은 시행령 세부 내용에 따라 크게 달라질 수 있는 만큼 앞으로도 시행령 설계 과정에서 산업계와의 소통과 협력이 더욱 중요해질 전망이다.

스타트업 관계자는 “AI 기본법은 국내 AI 산업 발전 방향과 규제 수준을 결정할 핵심 제도지만 여러 문제점으로 인해 스타트업을 비롯한 산업계 혁신 의지를 위축시키는 요인으로 작용하고 있다”며 “규제가 아닌 진흥 중심의 유연한 제도 설계가 요구되며 업계 의견을 반영한 시행령 보완도 필요하다”고 지적했다.