AI 스마트안경 부정행위 ‘무관용’…제조사 규제는 여전히 공백

지난 11일 서울 용산구 서울시교육청에서 서울 지역 수능 시험장에 배치될 스마트안경 전담요원을 대상으로 연수가 진행되고 있다. [사진제공=뉴시스]

【투데이신문 권신영 기자】정부가 인공지능(AI) 스마트안경을 활용한 시험 부정행위에 무관용 원칙을 내세우며 수험생에 대한 처벌과 시험장 감독을 강화하고 있다. 그러나 정작 부정행위에 악용될 수 있는 스마트안경을 제조·판매하는 기업에 대한 규제는 사실상 빠져 있어 책임을 수험생과 시험장에만 떠넘기는 것 아니냐는 지적이 나온다.

13일 경기연구원이 지난달 발표한 ‘AI 안경의 명암과 대응 방안’ 보고서에 따르면 일반 국민 600명을 대상으로 실시한 조사에서 응답자의 89.5%가 AI 안경을 통해 본인도 모르게 촬영될 가능성을 우려했다. 특히 92.2%는 AI 안경을 이용한 시험 부정행위가 심각한 문제가 될 수 있다고 인식한 것으로 나타났다.

수능을 앞두고서는 스마트안경과 일반 안경의 외관상 구분이 어려운 탓에 애꿎은 수험생들까지 불편을 감수해야 한다는 불만도 나온다. 온라인상에서는 평소 뿔테안경을 착용하던 학생들이 스마트안경으로 오해받을 가능성을 걱정해 안경 교체를 고민한다는 이야기도 다수 나오고 있다. 기업이 출시하는 제품의 안전성을 제도적으로 관리하기보다 일반 시민과 수험생에게 의심과 불편의 부담이 전가되고 있다는 것이다.

이러한 우려 속에서도 글로벌 빅테크 기업들은 스마트안경 시장 확대에 속도를 내고 있다. 이날 삼성전자와 구글, 젠틀몬스터가 공동 개발한 스마트안경도 한국과 미국에서 사전 예약판매에 돌입했다. 제품 무게가 41g에 불과한 데다 상대적으로 저렴한 가격을 앞세워 소비자 접근성을 높였다는 평가가 나온다.

제조사들도 불법촬영과 시험 부정행위 등 오남용 우려를 줄이기 위한 안전장치를 도입하고 있다. 사진이나 영상을 촬영할 때 외부 LED 표시등이 켜져 주변 사람들이 촬영 여부를 인지할 수 있도록 했으며 표시등이 정상적으로 작동하지 않을 경우 카메라 기능이 자동으로 비활성화되도록 설계했다.

다만 이 같은 조치는 제조사의 자체적인 안전장치에 가깝다. 기술적 우회 가능성을 완전히 배제하기 어려운 데다 제조사마다 안전 기준이 달라질 수 있다는 점에서 자율적인 조치에만 의존해서는 한계가 있다는 지적이다. 결국 정부가 수험생에게는 강력한 처벌을 예고하면서도 기업에는 그에 상응하는 예방 의무를 부과하지 않고 있다는 비판이 제기된다.

전문가들은 시험장 단속 강화만으로는 AI 스마트안경을 활용한 부정행위를 근본적으로 차단하기 어렵다며 제조·유통 단계부터 기업의 안전 책임을 명확히 하는 제도적 장치가 필요하다고 강조한다.

인공지능융합교육연구협회 신승인 회장은 본보와의 통화에서 “AI 안경의 제조·수입사는 포장과 온라인 상품 페이지에 촬영·녹음·무선통신·화면 표시·AI 질의 기능의 유무를 공통 양식으로 공개하도록 해야 한다”면서 “특히 안경테에는 전원을 켜지 않고도 제품을 식별할 수 있도록 모델명을 눈에 잘 띄게 표시한다”고 짚었다.

신 회장은 “교육·산업 당국은 시험기관과 기업, 소비자·장애인 단체 등과 협력해 스마트안경 제품의 기능과 시험장 반입 가능 여부를 제품에 명확히 표시하는 기준을 마련해야 한다”면서 “이를 시범 적용해 소비자의 혼동이나 장애인의 이용 불편, 기업의 비용 부담 등을 살펴본 뒤, 제품 기능을 허위로 표시하거나 시험장 반입이 허용된 것처럼 오해를 유발하는 광고를 바로잡을 수 있도록 제도를 개선할 필요가 있다”고 덧붙였다.

국제인공지능윤리협회 전창배 이사장은 본보에 “AI 윤리의 핵심은 사전 예방”이라며 “지난해 말부터 AI 안경이 시험 부정행위에 악용될 수 있다는 경고가 계속 나왔지만 심각성에 대한 인식이 부족해 선제적인 대응이 이뤄지지 못했다”고 지적했다.

전 이사장은 “AI 안경 제조 단계부터 안전장치를 마련하도록 규제해야 한다”며 “AI가 시험지나 문제를 인식하면 부정행위에 악용될 가능성이 있다고 판단해 기능을 중단하거나 동의 없이 타인의 얼굴을 촬영하려 할 경우 카메라 작동을 차단하는 기술도 충분히 구현할 수 있다”고 설명했다.

이어 “AI 윤리·안전을 전담할 컨트롤타워가 필요하다”며 “국무총리 직속의 국가인공지능윤리위원회와 같은 조직을 설치해 AI 기술의 역기능과 위험을 예방하고, 문제가 발생했을 때 관계 부처가 신속하게 대응할 수 있는 체계를 마련해야 한다”고 제안했다.

한편 정부는 오는 19일 치러질 수능을 앞두고 스마트안경을 활용한 부정행위에 강력히 대응하겠다는 방침을 밝혔다. 한성숙 국무총리는 이날 “시험장마다 스마트안경 전담인력을 배치하고 교육부·시도교육청 상황실과 연계해 신속히 대응하겠다”면서 “부정행위가 적발될 시 시험 무효와 응시 자격 박탈은 물론 고발·수사 의뢰까지 엄정하게 대응하겠다”고 강조했다.

이재명 대통령도 지난 5일 수석보좌관회의에서 “감독관들의 역량 교육을 강화하고 현장 대응 체계를 빈틈없이 정비해 부정행위 가능성을 원천 차단하라”고 주문했다. 이어 “국가와 공공, 또 각급 학교들이 주관하는 모든 종류의 시험에서 스마트 기기를 활용한 부정행위가 발생하지 않도록 종합대책을 마련해 달라”고 지시했다.

그러나 정부가 내놓은 대응 방침은 여전히 시험장 관리와 부정행위 적발·처벌에 집중돼 있으며 스마트안경을 제조·판매하는 기업의 안전 의무나 규제 강화에 대한 구체적인 언급은 이뤄지지 않았다.