| 서울=한스경제 박정현 기자 | LG유플러스가 국제무대에서 자사 인공지능(AI) 기술의 신뢰성과 안전성을 검증받는다.
LG유플러스는 19일 스페인 바르셀로나에서 열리는 모바일 월드 콩그레스(MWC) 기간 중 진행되는 ‘글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)’에 참여해 자사 AI 모델의 안전성과 대응 역량을 점검한다고 밝혔다.
‘글로벌 AI 레드팀 챌린지’는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전형 취약점 점검을 진행한다. 약 100명의 참가자가 ‘레드팀’ 역할을 맡아 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식이다.
LG유플러스는 통신 특화 AI 모델 ‘익시젠(ixi-GEN)’을 출품해 다양한 위험 시나리오에 대한 대응력을 점검한다. 회사는 작년 6월 AI 개발과 운용을 위한 글로벌 인증을 획득하는 등 투명하고 안전한 AI 서비스 제공을 선언한 바 있어 이번 검증을 통해 관련 역량을 객관적으로 입증할 수 있을 것으로 기대하고 있다.
이번 레드팀 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책과 안전 장치를 우회할 수 있는지를 검증하는 것이 특징이다. 참가자들은 ▲안전장치 우회(Jailbreak) ▲편향·차별(Bias & Discrimination) ▲인권 침해(Human Rights Violations) ▲사이버 공격(Cyberattacks) ▲불법 콘텐츠(Illegal Content) ▲허위정보(Misinformation) ▲응답 비일관성(Inconsistency) 등 7개 항목에서 AI의 대응 수준을 평가한다.
LG유플러스 관계자는 “이번 글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고 확인된 취약점을 바탕으로 AI 모델을 지속적으로 고도화할 계획”이라며 “글로벌 통신사와 AI 전문가들과의 교류를 통해 AI 보안과 책임 있는 활용 논의도 확대해 나가겠다”고 밝혔다.
Copyright ⓒ 한스경제 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
