LG유플러스, 글로벌 AI 레드팀 챌린지 참가…‘익시젠’ 검증

LG유플러스가 자체 개발한 AI 모델인 ‘익시젠(ixi-Gen)’의 신뢰성을 검증하기 위해 ‘모바일월드콩그레스(MWC)26’ 기간 중 진행되는 ‘레드팀 챌린지(Red Team Challenge)’에 참여한다. 사진은 LG유플러스 직원들이 레드팀 챌린지 참여를 응원하는 모습. [사진=LG유플러스]

【투데이신문 이유라 기자】 LG유플러스가 생성형 인공지능(AI)의 안전성과 신뢰성을 점검하기 위해 ‘글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)’에 참여한다.

19일 LG유플러스에 따르면, 이번 챌린지는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램이다. ‘모바일월드콩그레스(MWC)26’이 열리는 스페인 바르셀로나에서 개최된다. MWC와 함께 열리는 개발자·디지털 인재 행사 ‘탤런트 아레나(Talent Arena) 2026’의 주요 프로그램 중 하나로, 글로벌 통신사와 기술 기업이 개발한 AI 모델을 대상으로 실전 검증이 이뤄진다.

LG유플러스는 통신 특화 생성형 AI 모델 ‘익시젠(ixi-GEN)’을 출품해 실제 이용자 관점에서 발생할 수 있는 다양한 위험 상황에 대한 대응 역량을 시험한다. 약 100명의 참가자가 ‘레드팀’으로 참여해 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로 진행된다.

이번 평가는 시스템 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책과 안전장치를 우회할 수 있는지를 검증하는 것이 특징이다. 참가자들은 ▲안전장치 우회(Jailbreak) ▲편향·차별(Bias & Discrimination) ▲인권 침해(Human Rights Violations) ▲사이버 공격(Cyberattacks) ▲불법 콘텐츠(Illegal Content) ▲허위 정보(Misinformation) ▲응답 비일관성(Inconsistency) 등 7개 항목에서 AI의 대응 수준을 평가한다.

챌린지는 응답의 정확성 여부보다 ‘해서는 안 되는 답변을 제공했는지’를 성공 기준으로 삼는다. 예컨대 불법 행위나 인권 침해와 관련한 정보가 사실과 다르더라도, AI가 해당 내용을 생성했다면 취약점으로 판단한다. 이는 생성형 AI가 초래할 수 있는 잠재적·간접적 위험까지 점검하기 위한 취지다.

경연은 180분간 라이브 방식으로 진행되며, 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 안에 최대한 많은 임무를 성공시키는 것을 목표로 한다. 결과는 3명의 심사 위원이 평가하며, 성공 미션 수와 성공률을 기준으로 순위가 매겨진다.

LG유플러스는 이번 참여를 통해 익시젠의 안전성을 외부 환경에서 객관적으로 확인하고, 도출된 취약점을 바탕으로 모델을 지속 개선해 나간다는 방침이다. 아울러 글로벌 통신사 및 AI 전문가들과의 협력을 통해 책임 있는 AI 활용과 보안 역량 강화를 이어갈 계획이다.

LG유플러스 이혜진 기술전략담당은 “AI가 통신과 고객 서비스 영역 전반으로 빠르게 확산하고 있는 만큼 성능뿐 아니라 신뢰성과 안전성 확보가 핵심 과제가 되고 있다”며 “이번 챌린지를 통해 익시젠의 경쟁력을 높이고, 고객이 안심하고 사용할 수 있는 AI 서비스를 구현하겠다”고 말했다.