시행 눈앞인 ‘AI 기본법’ 두고 스타트업·시민사회 반발여론 격화

[사진제공=게티이미지뱅크]

【투데이신문 권신영 기자】유럽연합(EU)이 세계 최초의 포괄적 인공지능(AI) 규제 체계를 마련해놓고도 핵심 조항 적용 시점을 뒤로 미루면서 한국이 2026년 1월 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’을 실제 시행하는 첫 국가가 될 가능성이 커지고 있다.

16일 과학기술정보통신부(이하 과기부)에 따르면 정부는 시행령에 대한 입법예고 절차를 진행 중이며 2026년 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법) 시행을 목표로 제도 정비를 마무리한다.

EU 내부에서는 미국·중국과의 기술 경쟁이 격화되는 상황에서 과도한 규제가 기업 활동을 위축시켜 경쟁력 저하로 이어질 수 있다는 우려가 제기돼 왔다. 이에 EU 집행위원회는 2025년 11월 19일 ‘디지털 옴니버스(Digital Omnibus)’ 구상과 함께 AI 법(AI Act) 중 고위험(high-risk) AI 관련 의무 적용을 2027년 12월로 늦추는 방안을 제시했다. 당초 일정으로 거론되던 2026년 8월보다 1년 이상 연장되는 셈이다.

국내에서는 산업계와 시민사회의 의견 대립이 나타나고 있다. 스타트업 등 업계는 고영향 AI 판단 기준, 워터마크 등 의무 범위가 불명확한 상태에서 조사·제재 가능성만 열려 있어 “준비할 시간과 예측 가능한 기준 마련이 먼저”라고 주장한다.

반면 시민사회는 금지 AI 범주가 없고 고영향 AI 정의가 협소하다는 이유로 현행 AI 기본법에 대해 “안전·인권 보호 장치부터 촘촘히 마련해야 한다”고 맞서고 있다. 또한 EU의 적용 연기는 의무 체계가 구체화된 상태에서의 조정이라 한국의 유예 논리와 단순 비교하기 어렵다고 밝혔다. 

AI 기본법에 대해 AI 스타트업이 얼마나 준비돼 있는지 조사한 인지도및 준비 현황 설문조사 결과. [사진제공= 스타트업얼라이언스]

AI 스타트업 “법안 대응 불가...구체적 기준 마련해야”

국내에서는 시행이 한 달여 앞으로 다가오면서 산업계의 긴장감이 커지고 있다. 지난 3일 스타트업얼라이언스가 발표한 설문조사에 따르면 응답 기업(AI 스타트업 101곳)의 98%가 AI 기본법에 대한 실질적 대응 체계를 갖추지 못했다고 답했다.

기업들이 특히 부담으로 꼽은 항목은 신뢰성·안전성 인증, 데이터셋 투명성 요구, 고위험 AI 지정 시 등록·검증 의무, 생성형 AI 산출물 표시 의무 등이었다.

특히 이들 스타트업은 ‘기준의 불명확성’을 주요 부담 요소로 꼽았다. 시행령 제24조는 ‘고영향AI’에 대한 확인 절차를 규정하고 있지만 정작 고영향의 기준이 모호해 실제 기술적 위험성과 무관하게 규제 부담만 늘어날 수 있다는 것이다.

이들은 “기술 발전 속도와 사례의 복잡성, 업종별 다양성 등을 고려하면 사례 중심 가이드라인을 사전에 완벽하게 만드는 것은 한계가 있다”며 “차라리 고영향AI 여부는 자동 의사결정 개입 정도, 최종결정성, 사용자 통제 가능성과 같은 구체적인 기준으로 체계화하고 기업이 자가진단할 수 있도록 사전 안내 기준을 제공해야 한다”고 짚었다.

또 시행령 22조에서 명시하고 있는 생성형 AI 결과물 워터마크 표시에 대해서도 “모든 산출물에 일률적으로 표시 의무를 부과하는 것은 큰 부담 요인”이라면서 “실제 서비스 환경을 보면 매체 종류, 기술 구조, 이용 방식이 다 달라 같은 기준을 적용하는 것은 현실적으로 한계가 있다”고 꼬집었다.

민주사회를 위한 변호사 모임 디지털 정의 위원회, 디지털정의네트워크, 정보인권연구소, 참여연대 등 20여개 단체가지난 8일 오전 10시 30분 서울 종로구 참여연대 아름드리홀에서 기자설명회를 열고 인공지능기본법과 시행령·고시·가이드라인의 문제점을 짚었다. 기자설명회에서 발언자들이 최근 공개된 인공지능기본법을 규탄하는 손피켓을 들고 있다. ⓒ투데이신문

시민사회 “시민 못 지키는 반쪽짜리 법안” 비판

반면 시민사회에서는 AI 기본법 도입에 “산업진흥만 있고 시민 보호는 빠진 반쪽짜리 법제”라고 반발하고 있다.

민주사회를 위한 변호사 모임(이하 민변) 디지털 정의 위원회와 참여연대 등 20여개 단체는 지난 8일 서울 종로구에서 기자설명회를 열고 시행령·고시·가이드라인(안)이 권리 구제와 책임 구조를 충분히 담지 못했다고 지적했다. 단체들은 앞서 의견서를 제출했지만 반영이 미미했다고도 강조했다.

현장에서는 ▲취약계층 악용·잠재의식 조작 등 ‘금지 AI’ 범주 부재 ▲생명·신체·기본권에 큰 영향을 미치는 ‘고영향 AI’ 정의가 좁아 위험한 시스템이 규제 밖에 놓일 수 있다는 우려가 제기됐다.

특히 학생·환자·대출 신청자처럼 AI로 직접 영향을 받는 사람을 법이 ‘영향받는 자’로 부르면서도, 정작 이들이 이의제기·구제를 어디서 어떻게 받을지에 대한 규정이 부족하다는 점이 지적됐다.

참여연대 이지은 선임간사는 본보와의 통화에서 “기자설명회 이후 시행령안·고시안·가이드라인에 대한 의견서를 정부에 공식 접수했고 담당자와도 접수 사실을 확인했다”며 “현행안은 사업자 의무가 느슨한데도 추가 유예를 요구하는 흐름이 나타나 우려된다”고 말했다.

이어 “EU의 AI 기본법 유예는 한국의 시행 유예 논리와 단순 비교하기 어렵다”고 선을 그었다. EU는 위험 등급에 따라 의무·책무를 비교적 구체적으로 규정해 뒀고 ‘금지 인공지능’ 조항은 이미 시행 단계에 들어간 반면 한국 법 체계는 고영향(고위험) 범주와 책임·의무 설계에서 빠진 부분이 많고 규정 수준도 ‘권고’에 가깝다는 것이다.

[사진제공=게티이미지뱅크]

정부 “초기 1년은 계도 중심...과태료 유예”

정부는 AI 기본법의 제도 안착을 위해 시행 초기에는 처벌보다 안내·가이드 마련과 신뢰성 지원, 컨설팅 등 이행 지원에 집중하겠다며 과태료 부과를 최소 1년 이상 유예하겠다는 입장이지만, 이를 두고 업계와 시민사회의 의견이 첨예하게 갈리고 있다.  

스타트업얼라이언스는 시행령 제31조가 과기부 장관이 AI 사업자에 대해 사실조사를 착수할 수 있는 요건을 ‘위법 의심’ 수준으로 포괄적이고 추상적이게 규정하고 있다는 점을 언급하며, “법은 이미 시행된 상태고 시행령 해석이 불명확한 상황이다. 과태료 유예 방안으로는 기업들의 법적 리스크를 해소하긴 힘들다”고 지적했다.

그러면서 “과태료 유예 조항이 있어도 그 외의 모든 신고·제보는 여전히 조사 착수 가능성 아래 놓여 있고, 실제 조사 개시 여부는 정부 재량에 달려 있어 기업 입장에서는 항상 불확실성과 낙인 리스크에 노출돼 있는 셈”이라면서 “게다가 조사 과정에서 요구되는 내부 자료는 핵심 기밀을 포함할 수 있어 영업 기밀이 유출되거나 기술 경쟁력이 손상될 우려가 존재한다”고 비판했다.

반면 시민사회는 정부의 과태료 유예안에 대해 “국민을 대상으로 마음껏 실험해 볼 수 있는 위법지대를 만든 것”이라는 주장이다.

이들은 “인공지능 제품 및 서비스로 인한 안전 사고나 인권 침해가 발생해도 국가가 최소한의 행정 조사를 포기하거나 사실상 과태료를 부과하지 않겠다는 방침인 것”이라며 “과태료에 대해서는 기업들이 많은 민원을 제기한 바 있는 만큼 면제와 유예는 시민 안전이나 인권 보호보다 기업 민원을 중시한 결과가 아닌지 의심스럽다”고 했다.

과기부 관계자는 본보에 “유예 외에 추가로 정해진 방향이나, 별도로 더 검토가 진행되는 상황은 아닌 것으로 안다”며 “과태료 유예는 업계 애로사항도 있고 시행 초기인 점을 고려해, 과태료를 미루는 데 그치기보다 신뢰성 지원·컨설팅 등 보조적 지원을 통해 이행 준수를 돕는 방향으로 결정된 것”이라고 설명했다.