AI 기본법 D-DAY···규제보단 진흥에 초점

▲ 지난해 서울 여의도 국회에서 열린 과학기술정보방송통신위원회 국정감사에서 최민희 위원장이 AI 기본법 관련 이재명 대통령 연설 장면을 재생하고 있다. 사진=뉴시스

투데이코리아=김지훈 기자 | 세계 최초의 인공지능(AI) 기본법이 본격 시행되며 국내 IT 시장 전반의 이목이 집중되고 있다. 다만 업계에서는 첫 도입 사례인 만큼 보완이 필요하다는 목소리가 나오고 있는 상황이다.
 
22일 과학기술정보통신부에 따르면, AI 거버넌스를 법제화하고 AI 산업 활성화, 인프라 조성, 안전·신뢰 기반 구축 등을 담은 ‘AI 기본법’이 이날부터 시행된다.
 
이는 한국에서 세계 최초로 시행되는 것으로, 미국과 유럽연합(EU)의 경우 법제화를 추진했지만 현재는 도입을 미루고 있는 상태다.
 
AI 기본법은 국내 산업의 건전한 발전을 지원하는 동시에 사회적 위험이 예상되는 AI 활용에 대한 예방적 관리 체계를 마련하는 데 초점을 맞췄다.
 
특히 진흥 정책 측면에서는 과기정통부 장관이 3년마다 ‘AI 기본계획’을 수립·시행하도록 했으며, 국가인공지능전략위원회는 법정 위원회로 승격했다.
 
또한 법에는 AI 연구·개발(R&D) 및 학습용 데이터 구축·제공, AI 도입·활용 지원과 실증 기반 조성, 국제 협력과 해외시장 진출 지원, AI 집적단지 지정 등 산업 생태계 전반을 아우르는 지원 방안에 대한 내용이 포함됐다.

과기정통부는 “필요최소 규제 원칙 아래 AI 사업자에 대한 의무사항이나 제재는 최소화하고, AI 산업 진흥을 위한 사항은 폭 넓게 반영한 게 특징”이라고 밝혔다.
 
규제는 투명성 확보 의무, 안전성 확보 의무, 고영향 AI 등 크게 세 가지로 압축된다.
 
투명성 의무와 관련해 AI 기본법은 생성형 AI 결과물에 AI가 생성했음을 표시하도록 규정했다.
 
당초 시행령에는 기계만 인식 가능한 메타데이터 표시도 허용했으나, 이용자가 딥페이크물 등을 인지하기 어렵다는 우려가 제기되면서 1회 이상 안내 문구나 음성 등 표시를 병행하도록 시행령이 수정됐다.
 
과기정통부는 AI 생성물 표시 의무는 딥페이크 오용 등 부작용을 막기 위한 최소한의 안전장치로 글로벌 주요 기업들이 채택하고 있는 세계적 추세라고 설명했다.
 
이러한 투명성 의무는 AI 모델 개발 사업자와 해당 모델을 활용해 서비스를 제공하는 이용 사업자에게 적용되며 AI 결과물을 활용하는 일반 이용자는 규제 대상이 아니다.
 
안전성 확보 의무는 고도화된 AI가 통제 불능 상태에 빠질 가능성에 대비해 도입됐다.
 
기업은 AI 수명주기 전반에 걸쳐 위험을 식별·평가·완화하고, 안전사고에 대응하는 위험관리 체계를 갖춰야 한다.
 
대상은 학습에 사용된 누적 연산량이 10의 26제곱 플롭스(부동소수점 연산)를 넘는 초고성능 AI로, 현재 이 기준에 해당하는 모델은 전 세계적으로 존재하지 않는 것으로 전해진다.
 
고영향 AI는 생명과 신체 안전, 기본권에 중대한 영향을 미칠 우려가 있는 AI 시스템을 의미한다.
 
정부는 에너지, 의료, 원자력, 범죄수사, 채용, 대출심사, 교통, 공공서비스, 교육 등 영역에서 활용되는 AI를 중심으로 위험성, 사람의 개입 여부 등을 종합적으로 판단할 예정이며 현재로서는 완전 자율주행 레벨4 이상 차량 정도만 고영향 AI에 해당한다.
 
AI 기본법상 의무를 위반하면 최대 3000만원의 과태료가 부과된다. 이에 일각에서는 AI 산업이 발전하고 있는 시점에 규제법이 도입됐다는 점과 규제 기준이 미흡하다는 우려가 제기되고 있는 상황이다.
 
최성진 스타트업성장연구소 대표는 지난 7일 ‘AI 기본법 투명성·책임성 라운드테이블’에서 “스타트업 100개 이상을 조사했을 때 절반 가량은 내용도 잘 모르고 준비도 전혀 안되어 있는 상태”라며 “준비를 제대로 하고 있는 곳은 불과 1~2% 정도에 불과한 것이 현실”이라고 설명했다.
 
또한 실제와 구분이 어려운 결과물에 대해 AI에 의해 생성됐다는 표시를 하라는 요구에 대한 불명확성에 대해서도 지적했다.

최 대표는 “시행령을 보면 주된 이용자의 연령, 신체적·사회적 조건 등을 고려해 표시하라는 조건이 있다”며 “주된 이용자에 대한 가이드라인이 명확히 제시되고 있지 않는다”고 덧붙였다.
 
이에 정부는 기업의 혼선을 줄이기 위해 ‘AI 기본법 지원데스크’를 운영하고, 사실 조사권 행사와 과태료 부과를 1년 이상 유예할 방침이다.
 
아울러 2월부터 산업계를 포함한 시민단체, 학계가 참여하는 ‘제도 개선 연구반’을 구성해 보완 과제를 지속적으로 발굴한다는 계획이다.