빅데이터 기반 인공지능(AI) 보안 기업 에스투더블유(S2W, 대표 서상덕)가 생성형 AI 시대의 새로운 보안 위협을 공식 석상에서 제시했다. S2W는 8월 26일 서울 서초구 JW 메리어트 호텔에서 열린 ‘2025 국제사이버범죄대응 심포지엄(ISCR 2025)’에 참석해, AI 에이전트 및 멀티 에이전트 시스템의 취약점과 보안 위협을 주제로 발표를 진행했다고 27일 밝혔다.
경찰청 수사국이 주관하는 ISCR은 2000년부터 매년 열려온 국제 심포지엄으로, 올해 26회째를 맞았다. 올해 행사 주제는 “사이버세상 속 신뢰: 모두를 위한 안전”으로, 국내외 법집행기관, 학계, 기업 전문가들이 모여 사이버 치안 거버넌스와 보안 협력을 논의했다.
S2W 오펜시브연구팀 양종헌 팀장은 이날 발표에서 프롬프트 인젝션(Prompt Injection), 모델 포이즈닝(Model Poisoning), 악성도구 권한 상승(Malicious Tool Privilege Escalation) 등 대표적인 위협 8종을 제시했다.
또한 최근 실제 발생한 사례로 △랭스미스 랭체인 허브 악용(LangSmith Langchain Hub Abusing) △레노버 ‘레나’ 챗봇 XSS 취약점 △아마존 Q 개발자 플러그인 악용 등을 소개하며, 데이터 보호 정책 강화·정교한 접근 제어·체계적 모니터링의 필요성을 강조했다.
S2W는 단순한 위협 분석을 넘어 실제 적용 가능한 방어 체계 구축에 나서고 있다. 대표적으로, S2W는 ‘시큐리티 가드레일(Security Guardrail)’을 구현해 자사 AI 플랫폼 SAIP(S2W AI Platform)에 적용했다. 이를 통해 LLM 기반 서비스 운영 과정에서 발생할 수 있는 공격을 사전에 차단한다.
또한 위협 인텔리전스 센터 ‘탈론(TALON)’은 온톨로지 기반 지식그래프 기술을 활용, 악성코드·취약점·위협 행위자 간 연관성을 정밀 분석해 고객이 최적의 방어 전략을 수립할 수 있도록 돕는다.
전문가들은 이번 발표가 생성형 AI 보안 위협을 구체적으로 규명했다는 점에서 의미가 있다고 평가한다. 하지만 동시에, 발표된 ‘시큐리티 가드레일’이나 ‘탈론’과 같은 솔루션이 실제 산업 현장에서 얼마나 효과적으로 적용될지 검증이 필요하다는 지적도 나온다.
특히 글로벌 AI 플랫폼에서 발생하는 복잡한 공격 벡터를 국내 기업 단독 기술로 모두 대응할 수 있을지, 그리고 보안 투자가 상대적으로 부족한 중소·중견 기업에까지 적용 가능한 모델을 제시할 수 있을지에 대한 의문도 제기된다.
양종헌 팀장은 발표를 마치며 “생성형 AI 시대의 보안 위협은 더 정교해지고 있으며, 단순 분석이 아니라 현장 적용 가능한 고도화된 방어 체계가 필요하다”며 “S2W는 국내외 기업과 협력해 실질적인 보안 생태계 강화에 주력할 것”이라고 말했다.
이번 ISCR 2025 발표를 통해 S2W는 AI 기반 보안 위협의 실체와 대응 전략을 구체적으로 제시했다. 다만 향후에는 단순 기술적 대응을 넘어, 국제 표준 정립·산업별 가이드라인 마련·중소기업 지원책 확대 등 다층적 보안 거버넌스 구축이 요구된다는 목소리가 커지고 있다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
