생성형 AI가 교육 현장에 빠르게 침투하고 있지만, 정작 현장에서는 '믿고 쓸 수 있느냐'는 의구심이 여전하다. 인공지능이 그럴듯한 거짓말을 늘어놓는 '할루시네이션(환각)' 현상이나 저작권 침해 문제가 해결되지 않았기 때문이다. 교육 콘텐츠 플랫폼 '쏠북(SOLVOOK)'을 운영하는 에듀테크 기업 북아이피스가 이 문제를 정면으로 돌파하기 위해 강력한 통제 장치를 꺼내 들었다.
북아이피스(공동대표 윤미선·김관백)는 AI 생성 콘텐츠의 신뢰성을 체계적으로 관리하기 위해 '가드레일(Guardrail)'과 '피어리뷰(Peer Review)' 시스템을 본격 도입했다고 밝혔다. 단순히 AI를 활용해 콘텐츠를 대량 생산하는 수준을 넘어, 제작부터 유통까지 전 과정을 인간 전문가가 통제하는 '휴먼-인-더-루프(Human-in-the-loop)' 구조를 완성하겠다는 전략이다.
이번에 도입된 가드레일은 콘텐츠가 만들어지는 초기 단계부터 작동한다. AI가 학습하고 결과물을 내뱉는 과정에서 교육적으로 부적절하거나 법적 기준을 벗어날 가능성이 있는 요소를 사전에 차단하는 일종의 가이드라인이다.
학습 범위와 생성 기준을 엄격히 설정해 오해를 살 만한 내용이 생성되는 경로를 원천 봉쇄한다. 교육 콘텐츠는 작은 오류 하나가 학습자에게 치명적인 영향을 줄 수 있다는 점을 고려할 때, 기술적 방어막을 1차적으로 구축했다는 점에서 의미가 크다.
저작권 문제에 대한 해법은 투명성에서 찾았다. 북아이피스는 한국저작권위원회와 공동으로 구축한 UCI(Universal Content Identifier) 기반 관리 체계를 이번 시스템에 결합했다.
쏠북에서 생성되거나 유통되는 모든 콘텐츠는 원출처 정보가 일종의 '디지털 꼬리표'처럼 따라붙는다. 생성과 수정, 활용 이력이 실시간 데이터로 기록되기에 저작권 책임 소재가 명확해진다. 교육기관이나 공공 영역에서 요구하는 제도적 안정성을 확보했다는 평가가 나오는 지표다.
가장 눈에 띄는 대목은 동료 평가인 '피어리뷰' 도입이다. AI가 만든 콘텐츠를 동일 분야 교육 전문가들이 직접 검증하는 구조다. AI는 문법적으로 완벽하고 논리적으로 타당해 보이는 '할루시네이션'에 취약하다. 겉보기엔 멀쩡하지만 교육적 맥락에서 부적절하거나 학습 내용을 왜곡할 수 있는 미세한 오류는 기계가 잡아내기 어렵다.
북아이피스는 검증 주체를 일반 사용자나 단순 운영자가 아닌, 고도의 교육적 판단력을 갖춘 전문가로 한정했다. 전문가 간 상호 검증을 통해 콘텐츠의 정확성과 현장 적합성을 다층적으로 점검하며 판단의 정밀도를 높이겠다는 구상이다.
업계에서는 북아이피스의 시도가 AI 기술에 대한 맹목적인 과신보다 '관리 역량'에 집중했다는 점을 긍정적으로 보고 있다. 생성 속도 경쟁이 아닌, 검증과 책임의 구조를 만드는 것이 교육 콘텐츠의 본질이기 때문이다.
김관백 북아이피스 공동대표는 "생성형 AI 시대의 핵심은 제작 속도가 아니라 누가 어떤 기준으로 검증하고 책임을 기록하느냐에 있다"라며 "교육 전문가와 함께 신뢰를 기반으로 한 콘텐츠 구조를 설계해 건강한 생태계를 확장할 것"이라고 강조했다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
