인공지능(AI) 기술은 정치·경제·사회·문화 전반의 작동 방식을 바꿔놓고 있다. 효율과 편리함을 확장하는 동시에 그에 상응하는 새로운 위험과 윤리적 과제도 함께 드러내고 있다.
따라서 AI 논의의 핵심은 단순한 성능 경쟁이 아니라 올바른 사용과 책임 설계에 있다. 명확한 기준과 통제가 뒷받침되지 않는다면 AI는 효율이라는 이름 아래 불평등과 불신을 심화시킬 수 있다.
투데이신문의 [AI&윤리] 기획연재는 이 지점을 정면으로 다룬다. AI가 사회 곳곳에 남기는 여파와 영향력을 구체적으로 짚고, 책임·공정성·투명성 등 윤리 원칙이 왜 필요한지, 현장에서 어떻게 구현돼야 하는지를 살펴본다.
【투데이신문 권신영 기자】카메라와 인공지능(AI)을 결합한 스마트 안경을 이용한 시험 부정행위가 한국과 중국에서 잇따라 적발되면서 각급 시험 관리기관의 고심이 깊어지고 있다. 외관상 일반 안경과 구분이 거의 되지 않는 데다 문제를 촬영해 실시간으로 답을 받아볼 수 있는 기능까지 갖추고 있어 기존 감독 방식으로는 걸러내기 어렵다는 지적이 나온다.
14일 취재에 따르면 국내외 각종 시험에서 AI 안경을 활용한 부정행위 적발 사례가 잇따르고 있는 것으로 확인됐다. 지난 5월 토익(TOEIC) 정기시험에서는 AI 안경을 착용한 응시자 2명이 적발됐다. 이후 6월 시험에서도 추가 적발 사례가 나온 것으로 파악됐다.
AI 안경은 시험 문제를 촬영하거나 문자를 인식한 뒤 무선으로 음성을 주고받거나 외부 AI 서비스와 연결해 답을 제공받는 방식으로 악용될 수 있다. 기존 감독 체계는 휴대전화나 이어폰 등 눈에 띄는 전자기기를 중심으로 설계돼 있어 일반 안경과 흡사한 웨어러블 기기를 현장에서 즉시 식별하기 어렵다는 한계가 드러났다.
국가기술자격시험에서도 유사한 사례가 잇따라 적발됐다. 광주지검은 지난 5월 15일 소방설비기사 시험장에서 반입이 금지된 AI 안경을 착용한 40대 응시자를 국가기술자격법 위반으로 약식기소했다. 같은 달 서울과 목포에서 치러진 정보처리기사·전기산업기사 시험에서도 AI 안경을 착용한 20대 응시자들이 적발돼 경찰 수사를 받고 있는 것으로 조사됐다.
중국에서도 유사한 사례가 확인됐다. 지난 6월 광둥성 광저우시 화난농업대에서는 한 학생이 스마트 안경을 쓰고 기말시험을 치르다 감독관에게 적발됐다. 해당 안경은 초소형 렌즈가 내장돼 안경테를 건드리는 방식으로 시험지를 촬영해 문제를 실시간으로 전송할 수 있었고 AI가 문제를 분석해 렌즈에 정답을 띄워주는 기능까지 갖춘 것으로 파악됐다.
AI 안경의 촬영 여부를 외부에서 알아차리기 어렵도록 개조하는 사례도 시험 감독의 사각지대를 넓히는 요인으로 지목된다. 정식 유통 제품은 카메라가 작동하면 표시등이 자동으로 켜지도록 설계돼 있지만 표시등을 끌 수 있는 일부 해외 직구 제품도 유통되고 있다.
이에 메타(Meta) 등 주요 AI 스마트 안경 제조기업은 불법 개조 및 사생활 침해 논란에 대응해 카메라 작동 표시등을 가리거나 훼손할 경우 촬영 기능을 비활성화하는 시스템을 도입하고 불법 개조 서비스를 제공하는 업체를 상대로 법적 대응에 나설 방침이라고 밝혔다.
이처럼 기기 자체를 식별하기 어렵게 만드는 개조가 부정행위 적발을 한층 어렵게 하고 있다는 우려가 나온다. 업계에서는 표시등 등 기술적 장치만으로는 이 같은 개조와 불법 행위를 예방하기에 한계가 있다며 제도적 보완이 필요하다는 지적이 제기된다.
전문가들은 AI 기업이 제품 기획 단계부터 선제적인 안전장치를 마련하고 인간의 존엄을 중심에 둔 AI 리터러시 교육을 확대해야 한다고 입을 모았다.
국제인공지능윤리협회 전창배 이사장은 본보와의 통화에서 “AI 기업들은 제품을 기획하는 단계에서부터 불법촬영이나 시험 부정행위 등으로 악용될 가능성을 충분히 예측하고 촬영 시 불빛이나 소리로 주변에 촬영 사실을 알리는 등의 안전장치를 설계에 반영해야 한다”고 강조했다.
전 이사장은 “그러나 실제로는 기업들이 매출 확대를 위해 출시를 서두르면서 이 같은 안전장치 반영이 뒷전으로 밀리고 정작 규제가 생긴 뒤에야 대응하는 근시안적인 모습을 보이고 있다”고 짚었다.
이어 그는 “소비자들은 결국 안전하고 올바르게 활용될 수 있는 제품을 신뢰하고 선택하게 되는 만큼 장기적으로는 선제적으로 안전장치를 도입하는 것이 오히려 기업에도 유리하다”고 조언했다.
서울교육대학교 윤리교육과 박형빈 교수는 본보에 “시험 부정행위뿐 아니라 타인의 동의 없는 촬영, 개인정보 침해, 교실 내 신뢰 훼손이 동시에 발생할 수 있다”면서 “AI가 실시간으로 정보를 제공하거나 의사결정을 보조하면서 학생 스스로 사고하고 판단하는 과정을 약화시킬 우려가 있다. 기술이 인간의 정직성과 책임이라는 교육의 기본 가치를 흔들게 되는 것”이라고 지적했다.
박 교수는 “AI가 생성한 정보의 신뢰성, AI 의존과 책임, 무단촬영과 프라이버시, AI를 활용한 학업윤리 등은 앞으로 더욱 비중 있고 세심하게 다뤄야 할 주제이나 현재 학교의 디지털 시민교육이 생성형 AI와 AI 웨어러블이 가져오는 새로운 윤리적 문제까지 충분히 반영하고 있다고 보기는 어렵다”고 말했다.
그러면서 “AI 안경을 비롯한 웨어러블 기기의 악용을 근본적으로 줄이기 위해서는 결국 인간의 가치와 존엄을 중심에 둔 AI 리터러시 교육으로 나아가야 한다”면서 “AI가 시험 부정행위에 활용돼 인간과 인간 사이의 신뢰와 관계를 훼손하는 기제로 작동해서는 안 될 것”이라고 덧붙였다.
Copyright ⓒ 투데이신문 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.