소프트프릭, AI 프라이버시 취약점 진단 핵심 기술 5건 특허 출원

소프트프릭이 생성형 AI 모델의 학습 데이터 노출 위험과 악의적 프롬프트 기반 유출 가능성을 자동 진단하는 핵심 기술 5건을 특허 출원했다. 멤버십 추론, 멀티모달 공격, 프롬프트 자동 생성 등 AI 기반 개인정보 침해 시나리오를 체계적으로 검증하는 기술을 포함하며, API 보안 중심이던 기존 영역을 넘어 AI 프라이버시 보호 시장에서 선제적 대응 체계를 구축한다는 점에서 의미가 있다.

---

소프트프릭이 인공지능 모델에서 발생하는 프라이버시 취약점을 자동으로 진단하고 방어 조치를 수행하는 핵심 기술 5건을 특허 출원했다. 생성형 AI 도입이 확산되면서 학습 데이터와 응답 생성 단계에서 개인정보와 민감 정보가 무의식적으로 유출될 가능성이 커졌고, 이번 기술 출원은 이러한 위험을 사전에 차단하기 위한 대응 체계를 마련하기 위해 추진됐다.

출원된 기술은 인공지능 모델 프라이버시 취약점 진단 시스템 및 방법, 프롬프트 자동 생성, 멤버십 추론 공격, 멀티모달 공격, 공격 자동화 기술 등 총 5건이다. 해당 기술은 텍스트 기반 모델뿐 아니라 이미지·텍스트 멀티모달 모델까지 포함해 내부 정보 노출 여부, 학습 데이터 유출 가능성, 악의적 프롬프트 공격 취약성을 종합적으로 진단한다. 자동화된 공격 생성과 고도화된 분석 절차를 통해 실제 운영 환경에서 모델 취약점을 빠르게 식별할 수 있는 구조도 갖췄다.

소프트프릭은 특허로 AI 활용 과정에서 발생할 수 있는 개인정보 침해 리스크를 시스템 차원에서 사전에 예측하고 차단하는 기반을 확보했다고 밝혔다. 생성형 AI가 일상과 산업 전반으로 확장됨에 따라, 개인정보 보호는 필수 기준으로 부상하고 있으며 이러한 변화에 앞서 대응할 수 있는 보안 기술의 수요도 빠르게 증가하고 있다.

김동철 대표는 “AI 모델이 민감 정보를 포함할 위험은 계속 증가하고 있다”며 “이번 기술 출원은 API 보안을 넘어 AI 보안 분야에서 독자적인 경쟁력을 확보했다는 점에 의미가 있다”고 말했다. 이어 기업과 공공기관을 대상으로 안전한 AI 활용 환경을 제공할 수 있도록 프라이버시 진단 기술과 보안 자동화 역량을 더욱 강화할 계획이라고 밝혔다.

By 기사제보 및 정정요청 = [e-mail]
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 Ai 학습 포함 금지〉