카스퍼스키, 다크 AI 시대 진입 분석… 국가 배후 APT 공격자 생성형 AI 무기화

카스퍼스키가 생성형 AI를 악용한 ‘다크 AI’ 기반 공격이 급증하고 있으며, 국가 배후 APT 조직까지 이를 무기화하고 있다고 밝혔다. 다크 AI는 안전 장치가 제거된 대형 언어 모델을 악의적 목적으로 사용하는 것으로, 악성 코드 제작, 피싱 이메일 생성, 딥페이크 제작, 자동화 공격 지원 등 다양한 불법 행위에 활용된다. 카스퍼스키는 기업과 개인에게 AI 기반 위협 탐지 도구와 SOC 구축, 직원 교육 등을 통한 보안 강화를 권고했다.

글로벌 보안 기업 카스퍼스키는 다크 AI의 부상으로 아시아태평양 지역을 중심으로 정교하고 은밀한 사이버 공격이 증가할 것으로 전망했다. 다크 AI는 규제를 벗어난 LLM을 로컬 또는 원격에 배치해 기만, 데이터 남용, 공격 자동화 등에 사용하는 시스템을 의미한다.

대표적 사례로는 Black Hat GPTs가 있으며, WormGPT, DarkBard, FraudGPT, Xanthorox 등이 알려져 있다. 이들은 악성 코드 생성, 표적 피싱, 음성·영상 딥페이크, 레드팀 작전 지원 등 공격 역량 강화를 목적으로 만들어졌다.

카스퍼스키 GReAT 총괄 세르게이 로즈킨은 “사이버 보안과 사회 전반에서 AI가 방패가 되고 다크 AI가 검이 되는 시대에 진입했다”며, “APT 공격자들이 생성형 AI를 무기화하는 수법은 점점 더 교묘해지고 있으며, 조직은 이에 대비해야 한다”고 경고했다. 실제로 OpenAI도 AI 도구가 영향력 작전이나 다국어 콘텐츠 제작 등 공격적 목적으로 악용된 사례를 차단했다고 발표한 바 있다.

카스퍼스키는 대응 방안으로 ▲Kaspersky Next와 같은 차세대 보안 솔루션 ▲실시간 위협 인텔리전스 도구 ▲섀도우 AI·데이터 유출 방지를 위한 접근 통제와 직원 교육 ▲보안 운영 센터(SOC)를 통한 모니터링과 신속 대응을 제시했다.

By 기사제보 및 정정요청 = [e-mail]
〈저작권자ⓒ 위클리포스트, 무단전재 및 재배포 Ai 학습 포함 금지〉