에임인텔리전스(대표 유상윤)는 세계적으로 권위 있는 머신러닝 학술대회인 ICML 2025에서 자사의 인공지능(AI) 안전성 평가 연구가 공식 논문으로 선정되었다고 1일 발표했다.
ICML(International Conference on Machine Learning)은 1980년부터 전 세계 연구자들이 최신 머신러닝 및 인공지능 기술을 공유하는 대표적인 국제 학술대회로, 올해로 42회를 맞이하였다. 최근 개최된 ICML에서는 엄격한 심사를 통해 경쟁률이 약 20% 미만으로 집계되는 등 치열한 논문 선발 절차를 통해 혁신적이고 실질적인 기여를 하는 연구 결과가 채택된다.
이번에 채택된 에임인텔리전스의 논문은 최근 산업 현장과 일상생활에서 빠르게 확산 중인 비전언어모델(Vision-Language Model, VLM)의 안전성을 보다 정밀하게 평가하는 새로운 방법론을 제안하였다. 비전언어모델은 이미지를 보고 문장을 생성하거나 질문에 답하는 인공지능 모델을 의미한다.
기존 평가는 AI가 노골적으로 유해하거나 위험한 요청을 명확히 거부하는지 여부에 중점을 두어 측정되어 왔다. 그러나 이러한 방식으로는 간접적이고 미묘한 형태의 위험을 포착하지 못한다는 한계가 있었다. 이에 따라 실제 서비스 환경에서 예상치 못한 방식으로 유해 콘텐츠가 생성될 수 있는 잠재적 위험성이 지적되어 왔다.
에임인텔리전스는 이러한 문제를 해결하기 위해 'ELITE'라는 새로운 AI 안전성 평가 체계를 개발하였다. ELITE(Enhanced Language-Image Toxicity Evaluation) 시스템은 AI 모델의 다양한 반응 유형에 대해 유해성(toxicity) 점수를 세분화하여 산출함으로써, 자동화된 결과와 인간 심사자의 실제 판단이 보다 정확하게 일치할 수 있도록 설계되었다. 이를 통해 기존 대비 인공지능 모델의 현실적인 안전 수준을 신뢰성 있게 산출할 수 있게 되었다.
유상윤 대표는 "세계적으로 권위를 인정받은 ICML 무대에서 국내 스타트업의 기술력이 공론화되었다는 점에서 큰 의미를 갖는다"며 "앞으로도 누구나 안심하고 사용할 수 있는 AI 환경 조성을 위해 지속적으로 기술 연구와 협력을 강화하겠다"고 말했다.
한편, 에임인텔리전스는 AI 안전성 및 보안 분야에서 우수한 기술력을 인정받으며 한국정보통신기술협회(TTA) 등과의 협력을 통해 AI 안전성의 표준을 만들어 나가고 있다. 이번 비전언어모델에 대한 연구 성과를 기반으로 앞으로 더 많은 산업 현장에서 신뢰할 수 있는 AI 안전성 평가 기준을 수립할 예정이다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
