욕설·편법·사기까지 걸러낸다···NC AI, ‘세이프가드’ 상용화

NC AI가 엔씨소프트 고객 상담 챗봇 서비스 ‘엔써(NCER)’에 자체 개발한 AI 안전성 기술 ‘세이프가드(Safeguard)’를 정식 적용했다. [사진=NC AI]

[이뉴스투데이 김진영 기자] 국내 게임사가 자체 AI 안전 기술을 상용 서비스에 본격 적용하며 글로벌 경쟁 구도에 새로운 변화를 예고했다. 전 세계적으로 인공지능(AI) 오남용에 대한 우려가 커지는 가운데 엔씨소프트 계열 NC AI가 선제 대응에 나서며 산업 맞춤형 안전성 확보에 속도를 내고 있다는 평가다.

NC AI는 엔씨소프트 고객 상담 챗봇 서비스 ‘엔써(NCER)’에 자체 개발한 AI 안전성 기술 ‘세이프가드(Safeguard)’를 정식 적용했다고 30일 밝혔다. 국내 AI 기업 중 최초로 종합적인 AI 안전 시스템을 상용 서비스에 도입한 사례다.

세이프가드는 레드팀·블루팀·퍼플팀으로 구성된 삼중 보안 체계를 기반으로 운영된다. 레드팀은 탈옥(Jailbreaking) 등 공격 패턴을 연구하고, 블루팀은 방어 기술을 개발한다. 퍼플팀은 결과를 종합해 정책에 반영하는 구조다. NC AI는 퍼블리싱 코디네이션 센터와 협업해 게임업계 특화 ‘챗봇 네거티브 규제 정책’을 마련, 유료 재화 편법·금지 행위 등까지 차단 기준에 포함했다.

엔써는 세이프가드 적용으로 국제 벤치마크 기준인 차별·혐오·욕설·외설 차단은 물론 게임 특유의 안전 요구까지 반영했다. ‘리니지W’와 ‘리니지2M’에서는 13개 언어 광고 패턴을 탐지·차단하는 스팸 필터링 시스템도 운영된다.

텍스트 중심 안전 기술을 이미지·영상까지 포괄하는 비전-언어 모델(VLM) 기반 멀티모달 탐지로 확장할 계획이다. 에이아이웍스와 협력해 전쟁·폭력·허위 정보 등 고위험 상황 대응형 AI 응답 시스템을 개발, 정부 주관 ‘독자 AI 파운데이션 모델 프로젝트’ 주관사로도 선정돼 ETRI·KAIST·서울대 등과 AI 안전 기술 개발을 이끌고 있다.

안전성 연구는 ‘NC AI 윤리 프레임워크’를 통해 데이터 프라이버시·편향 방지·투명성 확보를 원칙으로 삼아왔다. 기술은 게임 챗봇을 넘어 감정형 음성합성, 자연어 처리, 3D 비전 로보틱스 등으로 확장됐다. 신작 RPG ‘아이온 2’에서는 자연어 기반 애니메이션 생성과 감정 표현 TTS 기술도 적용됐다.

이연수 NC AI 대표는 “세이프가드 적용은 AI 안전성 분야에서 기술적 우위를 확보하고 책임 있는 AI 기업으로서의 위치를 공고히 하는 출발점”이라며 “기술 독립과 글로벌 공헌을 동시에 실현하는 대한민국 AI 전문 기업으로 도약하겠다”고 말했다.