셀렉트스타, AI 안전성 연구 3편 ‘ICML 2026’ 워크샵 채택

해당 연구는 대규모언어모델(LLM)의 안전성(Safety)을 평가하기 위한 학습데이터 생성·평가 기술로, 셀렉트스타의 신뢰성‧안전성 검증 분야 기술력이 글로벌 톱티어 학회에서 인정받았다는 점에서 의미가 있다.

이번에 채택된 첫 번째 논문 ‘Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges’는 안전성 평가 기준(루브릭)에 맞춰 AI 답변의 위험성을 검증하고 채점하는 LLM 응답 안전성 평가 모델(Safety Judge)을 제안했다.

김세엽 셀렉트스타 대표는 “이번 논문 채택은 셀렉트스타가 AI 안전성 분야에서 요구되는 핵심 기술 역량을 입증했음을 보여주는 성과”라며 “ACL 2026, ICLR 2026 메인 컨퍼런스 채택에 이어 ICML 2026 워크샵에서도 연구 성과를 인정받은 만큼, 신뢰할 수 있는 AI 생태계 구축을 위한 기술 개발에 힘쓰겠다”고 말했다.