AI 기본법 시행 한 달 앞두고…업계는 갑론을박 '여전'

[사진=아주경제 그래픽]

내년 1월 인공지능(AI) 기본법 시행을 한 달 앞두고 관련 업계가 분주하다. 카카오는 AI 기본법 시행에 대비해 서비스 약관을 일부 개정했다. 금융권은 금융 대출 심사와 같은 고영향 AI로 분류되는 서비스에 대응하기 위해 AI 거버넌스 체제를 개편하는 모양새다. 

이런 가운데 강력한 규제가 될 수 있는 고영향 AI 기준이 모호하고, 구체적인 시행령 및 가이드라인 일정 지연으로 준비 기간이 부족한 상황에서 법이 시행되면 업계의 혼란만 가중될 것이란 지적이 나온다. 

21일 업계에 따르면 카카오는 내년 신규 AI 서비스 출시와 AI 기본법 시행을 대비해 약관을 변경했다. 서비스 과정에서 맞춤형 콘텐츠나 광고를 제공할 수 있고, AI에 의해 생성된 결과물을 제공하는 경우 관련법(AI 기본법) 등에 따라 고지한다는 내용을 추가했다.

AI를 활용한 제품이나 서비스의 경우 이용자에 사전 고지해야 한다는 AI 기본법의 조항을 담았다. 내년 '카나나 인 카카오톡' 출시를 위해 서비스 이용기록과 이용패턴을 분석하고 활용할 수 있는 내용도 포함했다. 개정 약관은 내년 2월 4일부터 적용된다. 

카카오가 약관을 통해 더 넓은 범위의 개인정보를 수집하려 한다는 지적도 있지만 AI 기본법에 맞추기 위한 고육지책이라는 의견들이 지배적이다. 세계 최초로 시행되는 AI 기본법에 대한 우려가 그만큼 크고 법에 명시된 고영향 AI에 대한 기준이 구체적이지 않아, 추가 규제 등 법적 불확실성이 크기 때문이다.

고영향 AI로 분류된 금융권의 '대출 심사'가 대표적이다. 고영향 AI 판단 가이드라인에 따르면, 대출심사 과정에서 인공지능이 최종결정에 '상당한 영향'을 미치거나 최종결정을 하는 경우 고영향에 자동 해당된다. 여기에서 '상당한 영향'이라는 정의가 너무 주관적인 판단에 좌우된다. 대출 심사 모든 과정에 AI 시스템을 사용할 경우, 가이드라인에 따라 검토해야 하는 부담도 크다.

백연주 한국금융연구원 연구위원은 "AI 시스템을 활용한 프로파일링 결과를 은행원이 단순 참고만 하더라도 의사 결정에 간접적으로 영향을 미칠 수 있어 이를 '상당한 영향'으로 볼 여지가 있다"고 지적하면서 "고영향으로 지정될 수 있는 인공지능 활용 사례를 식별·관리하고 향후 부과될 수 있는 사업자 책무를 효과적으로 이행할 수 있도록 회사 내부 위험관리체계 및 모니터링 체계를 재점검할 필요가 있다"고 제안했다. 

법 시행 전 준비 기간이 부족하다는 지적도 나온다. 과학기술정보통신부는 지난달 12일 AI 기본법 시행령을 입법예고하고, 22일까지 의견을 수렴하기로 했다. 이를 바탕으로 내년 1월 시행 전까지 시행령을 확정하겠다는 방침이다. 정부는 당초 3개월 전 입법예고 하고 충분한 의견 수렴 기간을 가질 예정이었으나, 일정이 지연되면서 실제 입법 예고 기간은 40일 밖에 되지 않았다. 

스타트업·중소기업 등은 아직 대응 체계도 갖추지 못하고 있다. 스타트업얼라이언스가 최근 국내 AI 스타트업 101개 사를 대상으로 조사한 결과, 98%가 사실상 AI기본법 시행에 대비한 실질적 대응체계를 갖추지 못했다고 답했다. 조사 대상 AI 스타트업 다수(48.5%)가 '내용을 잘 모르고 준비도 안 돼 있다'고 응답했고, 다른 48.5%는 '법령은 인지하지만 대응은 미흡하다'(48.5%)면서 대부분 AI 기본법 시행에 대한 대응 체계를 갖추지 못하고 있다. 

IT 업계 관계자는 "고위험 AI를 규정한 AI 법안을 가장 먼저 만든 유럽연합(EU)도 최근 유럽 내부의 우려로 인해 법안 시행을 늦추고 규제를 완화하는 분위기가 형성되고 있다"면서 "대부분 기업들이 법안 내용도 잘 모르고 대응이나 준비가 안 돼 있는데, 정부가 현장의 의견을 충분히 수렴했는지 의문이 든다"고 밝혔다.