KT cloud, 생성형 AI 안전성 높인다…카카오와 기술 협력

KT cloud·카카오, AI 안전성 강화 맞손
생성형 AI 보안 협력 확대
'빨간밥차' 10주년…급식·디지털 교육 진행

[포인트경제] KT cloud가 카카오와 힘을 합쳐 안심하고 사용할 수 있는 인공지능(AI) 생태계를 조성하고, 공공과 민간 전반에 걸쳐 신뢰도 높은 AI 활용 기반을 마련하기로 뜻을 모았다.

△ 카카오 기술 연동해 생성형 AI 안전망 강화

AI Safety 협력을 위한 협약식 기념 사진. (우측부터) kt cloud 공용준 Cloud본부장, 카카오 김세웅 AI시너지 성과리더 [사진=KT cloud] (포인트경제)

최근 생성형 AI 활용이 전 산업으로 확대되는 과정에서 부적절한 유해 콘텐츠의 생성이나 외부의 공격성 프롬프트 주입, 개인정보 유출 같은 보안 우려가 끊임없이 제기되고 있다. 이에 따라 엄격한 컴플라이언스(법적 규제 준수)와 높은 보안성이 요구되는 공공기관 및 금융권, 주요 기업들을 중심으로 안전한 AI 인프라를 마련해야 한다는 목소리가 커지는 상황이다.

이러한 수요에 대응하기 위해 KT cloud는 자사의 AI 인프라 플랫폼 역량에 카카오의 AI 안전성(Safety) 기술을 결합하는 협약 체계를 마련했다고 26일 밝혔다. 양사는 먼저 KT cloud가 공공 시장을 겨냥해 선보인 생성형 AI 서비스 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 연동하기로 했다. 이 가드레일은 한국어의 언어적 특성은 물론 국내 문화적·법적 맥락을 반영해 유해한 응답이나 변칙적인 공격을 실시간으로 차단하는 기능을 수행한다.

양사는 가드레일 적용에 그치지 않고, 잠재적인 취약점을 점검하는 AI 레드티밍(Red-teaming) 시스템과 모델 안정성 평가 도구를 순차적으로 도입할 예정이다. 더불어 AI 서비스의 개발부터 배포, 운영, 모니터링까지 전 과정을 관리하는 통합 운영 플랫폼(Ops Platform) 분야로도 협력을 넓혀 사용자가 보안 기준에 효과적으로 대응할 수 있도록 지원할 방침이다.

△ 10년 맞이한 '빨간밥차', 이웃에게 온정과 디지털 배움 전해

KT그룹 희망나눔재단 임종택 이사장(왼쪽)과 '사랑,해 빨간밥차' 홍보대사 배우 이기영 씨가 식사를 배식하는 모습. [사진=KT] (포인트경제)

한편, KT그룹 희망나눔재단은 지난 25일 무료 급식 사회공헌 프로그램인 '사랑,해 빨간밥차' 운영 10주년을 맞아 서울 동대문구 노숙인 급식소에서 봉사활동을 펼쳤다. 이날 재단 임직원들과 새로 위촉된 홍보대사 배우 이기영 씨는 이웃들에게 400인분의 식사를 대접했으며, KT 수도권강북고객본부와 협력해 취약계층의 디지털 소외를 해소하기 위한 AI 및 디지털 기기 활용 교육도 함께 진행했다.