에임인텔리전스, TTA 협력 통해 국내 AI 모델 보안 진단 수행

에임인텔리전스, TTA 협력 통해 국내 AI 모델 보안 진단 수행

국내 AI 보안 전문기업 에임인텔리전스(대표 유상윤)는 한국정보통신기술협회(TTA)와 협력해 국내 주요 AI 모델에 대한 보안 진단 및 리스크 평가를 성공적으로 완료했다고 밝혔다.

이번 협력을 통해 에임인텔리전스는 국내 주요 기업이 개발한 생성형 AI 모델을 대상으로 보안 취약점을 분석하고, 개선 방향을 제시했다. 특히, 자사의 AI 레드팀 솔루션인 ‘AIM Red’를 활용해 ▲프롬프트 인젝션, ▲데이터 누출, ▲비인가 응답 유도 등 주요 리스크 요소를 사전에 탐지하고, 이에 대한 대응 전략을 고객사에 제공했다.

유상윤 에임인텔리전스 대표는 “정보통신 기술 표준을 제시하는 TTA 과제에 협력할 수 있어 뜻깊게 생각한다”며 “AI 모델의 활용이 가속화되는 가운데, 이에 대한 보안 진단 체계도 함께 강화되어야 한다”고 밝혔다.

에임인텔리전스는 국내 프로젝트뿐 아니라, 최근에는 글로벌 AI 기업 앤트로픽(Anthropic)의 비공개 언어 모델을 대상으로 한 다층 보안 진단을 수행한 바 있다. 해당 진단은 프롬프트 조작, 민감 정보 노출 가능성 등에 초점을 맞췄으며, 일부 결과는 실제 대응 정책에 반영된 것으로 알려졌다.

앞으로도 에임인텔리전스는 생성형 AI의 보안 리스크에 대응하는 레드팀 솔루션 및 가드레일 기술을 기반으로, 국내외 AI 보안의 신뢰성과 안정성 확보에 앞장설 계획이다.