여야의 극한 긴장과 대치 속에서도 민생과 미래에 꼭 필요한 법안들이 지난해 12월26일 국회 본회의를 통과했다는 사실에 가슴을 쓸어 내렸다. 그 가운데 주목받는 법은 ‘인공지능기본법’이다. 인공지능기본법은 인공지능(AI)의 건전한 발전과 신뢰 기반 조성을 목적으로 한다. 이 법을 통해 국민 삶의 질을 향상하고 국가 경쟁력을 높이려는 궁극의 목표를 가지고 있다.
인공지능산업의 진흥과 국가경쟁력 강화를 위해 3년마다 ‘인공지능 기본계획’을 수립해야 한다. 사람이나 상황에 좌지우지되는 발전계획에서 벗어나 체계적이며 지속적인 인공지능 발전 기반이 마련된 셈이다. 그리고 주요 정책을 심의하고 의결하기 위한 조직으로 대통령을 위원장으로 45인 이내로 구성된 ‘국가인공지능위원회’를 설치하도록 했다. 인공지능 글로벌 전쟁에 대비한 일종의 국가 지휘소가 생겨난 셈이다. 막대한 자본과 기술력을 앞세워 인공지능의 흐름을 이끌어가는 외국 기업을 상대하는 데 있어 필요한 국가적 차원의 인프라 구축도 가능해졌다. 인공지능집적단지 지정, 인공지능실증기반 조성, 인공지능데이터센터 구축 등이 여기에 속한다. 우수한 전문인력 확보도 가능해졌다. 인공지능 기본계획 수립에 필요한 전문기술 지원을 포함해 종합적인 정책 연구를 담당할 ‘인공지능정책센터’, 인공지능사업자 중심의 진흥 기구인 ‘한국인공지능산업협회’도 설립 근거를 가지게 됐다.
반면 인공지능이 가지는 잠재적 위험을 찾아 제거해 안전성과 신뢰성을 담당할 조직으로 ‘인공지능안전연구소’가 명시돼 있다. 데이터 학습에 사용된 누적 연산량이 일정 기준 이상인 첨단인공지능(Frontier AI)에 요구된 안전성 확보 의무 관련 업무는 물론이고 인공지능 안전에 관련된 위험 정의부터 시작해 안전 정책 연구, 안전 평가, 안전 기술 개발 및 표준화, 국제협력까지 이 연구소가 담당한다.
유럽연합의 인공지능법이 ‘위험(risk)’을 중심으로 기술됐지만 우리나라 인공지능기본법은 ‘영향(Impact)’을 중심으로 기술돼 있다. 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능을 ‘고영향 인공지능’이라고 정의하며 10가지 대표적인 영역을 명시하고 있다. 다만 고영향 인공지능인지가 불분명한 경우 해당 사업자는 과학기술정보통신부 장관에서 문의하게 돼 있다. 고영향 인공지능의 경우 안전성과 신뢰성 확보를 위해 다양한 책무가 부과된다. 고영향 인공지능을 개발하려면 사전에 사람의 기본권에 미치는 영향평가를 실시해야 한다. 사전 영향평가를 한 경우 국가기관 등에 제품과 서비스를 제공하는 데 우선권이 주어진다. 고영향 인공지능은 생성형 인공지능과 더불어 ‘투명성’ 확보 의무가 특별히 명시돼 있다. 인공지능에 의해 생성됐거나 인공지능이 개입하고 있다는 사실을 이용자가 인식할 수 있도록 고지하거나 표시해야 한다. 딥페이크 사건을 연상하면 이해가 쉽다.
인공지능의 안전성과 신뢰성 확보를 위해 ‘인공지능 윤리원칙’을 과기부 장관이 제정해 공표하게 돼 있고 인공지능 관계자들이 윤리원칙을 잘 이행하도록 ‘민간자율인공지능윤리위원회’를 설치 운영하며 안전성과 신뢰성을 확보하기 위해 자율적으로 검증과 인증을 받도록 하고 있다. 고영향 인공지능의 경우 이러한 검증과 인증이 강하게 추천된다.
끝으로 몇 가지 주목할 부분이 있다. 인공지능 관련 외국 기업도 일정 규모 이상이면 국내 대리인을 지정하게 돼 있다. 챗GPT를 만든 오픈AI는 이미 개소한 일본 사무소 외에 한국에서도 공식 사무소를 열어야 한다는 뜻이다. 인공지능 사업자가 투명성 의무, 안전성 의무를 지켜야 하는 처지임에도 불구하고 만일 지키지 않았을 때 이에 대해 과기부 장관은 사실 조사를 실시할 수 있으며 위반행위 중지와 시정명령을 내릴 수 있다. 그리고 국가적 지휘소인 국가인공지능위원회는 법의 시행일로부터 5년간 존속한다는 제한조건도 가지고 있다. 이 조항은 아무리 길어도 5년 안에 인공지능에 관한 국가 경쟁력 확보 및 신뢰 체계 구축을 확실하게 수립해 내재화하라고 요구하는 메시지로도 볼 수 있다. 그만큼 국가적 역량 집중이 필요한 골드타임에 우리는 살고 있다.
Copyright ⓒ 경기일보 무단 전재 및 재배포 금지
