KT, 국내 첫 '인공지능 신뢰성 인증' 획득

KT 로고. 사진=KT 제공

KT는 자체 개발한 초거대 언어모델 '믿:음 K 2.0 Base'가 한국정보통신기술협회(이하 TTA)로부터 '인공지능 신뢰성 인증 2.0(CAT, Certification of AI Trustworthiness)'을 획득했다고 22일 밝혔다.

인공지능 신뢰성 인증은 과학기술정보통신부와 TTA가 국내 AI 산업의 신뢰 확보와 경쟁력 강화를 위해 운영 중인 민간 자율 인증 제도다. AI 기술 확산 과정에서 발생할 수 있는 윤리적·기술적 위험 요소에 대응하기 위해 AI 모델과 시스템이 거버넌스·투명성·책무성 등 신뢰 요건을 갖췄는지를 종합적으로 평가한다.

TTA는 기존 문서 및 절차 중심의 인증 방식에서 나아가, 실제 운영 환경에서의 기능과 성능 검증을 강화하고 국제 표준을 반영해 'CAT 2.0'을 정립했다. KT의 믿:음 K 2.0 Base는 국내에서 처음으로 CAT 2.0 인증을 획득한 사례다. 특히 내년 1월 시행 예정인 AI 기본법을 앞두고, AI 모델을 개발·운영하는 기업의 책임성과 신뢰성을 객관적으로 검증했다는 점에서 의미가 크다.

믿:음 K 2.0 Base는 11.5B 파라미터 규모의 오픈소스 언어모델로, 대규모 한국어 데이터를 학습해 분류, 질의응답, 요약, 생성, 변환 등 다양한 자연어 처리 과업을 수행할 수 있다. KT는 국내 AI 생태계 활성화를 위해 믿:음 K 2.0을 AI 개발자 플랫폼 '허깅페이스(HuggingFace)'를 통해 제약 없이 공개하고 있다.

이 모델은 AI 안정성과 한국어 성능 평가에서 '가장 안전한 한국어 LLM'으로 입증됐다. AI 안전성에 대한 벤치마크 KoDarkBench 평가에서 1위를 차지했으며, 한국어 LLM 성능평가인 호랑이(Horangi) 리더보드에서도 15B 미만 국내 모델 중 1위를 기록한 바 있다.

KT는 AI 모델의 기획·개발·운영·활용에 이르는 전 과정에서 잠재적 위험 요소를 식별하고 관리하기 위한 내부 거버넌스 체계를 운영 중이다. 평가 결과를 종합 검토해 경영진 의사결정으로 연계하는 프로세스를 구축하는 등, 책임 있는 AI 운영 체계를 실질적으로 적용하고 있다.

이번 인증 과정에서 TTA는 국제 표준인 'ISO/IEC 23894(인공지능 위험관리 프레임워크)'를 기반으로 KT의 위험관리 체계와 운영 프로세스를 종합적으로 검토했다. ▲책무성 ▲AI 전문성 ▲훈련 및 시험 데이터의 품질 및 가용성 ▲공정성 ▲개인정보 보호 등 11개 세부 신뢰성 요구 사항에 대해 평가와 검증을 진행했다.

학습 데이터 필터링 내용과 모델 레드팀잉(Red Teaming)을 통한 취약점 보완, 신뢰성 평가 벤치마크 성능 비교 등 주요 산출물과 성과가 정량·정성적으로 지속적으로 관리되고 있음을 확인했다.

배순민 KT 기술혁신부문 AI Future Lab장(상무)은 "믿:음 K 2.0 Base의 이번 인증은 AI 기본법 시행을 앞두고, KT가 책임 있는 AI 개발과 운영을 위해 준비해온 체계와 실행 역량을 객관적으로 검증받은 결과"라며 "앞으로도 신뢰할 수 있는 AI 기술을 기반으로 국내 AI 산업의 건강한 성장과 이용자 신뢰 확보에 기여하겠다"고 말했다.