글로벌 무대에서 한국 금융권의 인공지능 역량이 처음으로 조명받았다. 연합뉴스에 따르면 BC카드가 지난 14일(현지시간) 미국 애틀랜타에서 개최된 '레드햇 서밋'에서 국내 금융회사로는 최초로 발표 무대에 올랐다.
2005년 뉴올리언스에서 시작된 이 콘퍼런스는 오픈소스 전문기업 레드햇이 매년 주최하는 행사로, 전 세계 IT 리더와 개발자 수만 명이 한자리에 모이는 대규모 기술 축제다.
이번 발표에서 공개된 핵심 내용은 레드햇과 1년여 협업 끝에 완성한 '에이전틱 AI 운영 플랫폼'이다. 기존에는 하나의 대형언어모델(LLM)이 모든 업무를 담당하는 구조였으나, 새로운 방식은 업무 영역마다 최적화된 소형언어모델(SLM) 여러 개를 군집 형태로 묶어 동시 처리가 가능하도록 설계됐다.
이러한 전환이 가져온 효과는 상당하다. 추론 속도가 기존 대비 3배 이상 빨라졌고, 그래픽처리장치(GPU) 자원은 최대 70%까지 줄일 수 있게 됐다고 BC카드 측은 밝혔다. 연간 100억 건이 넘는 결제 데이터를 다루며 쌓아온 경험이 고가 장비의 효율적 분산 운영으로 이어진 셈이다.
기술 플랫폼 구축에 그치지 않고 실제 서비스 적용 사례도 함께 소개됐다. 실시간 소비 패턴을 분석해 맛집을 추천하는 'Eat.pl', 금융 특화 생성형 플랫폼으로 임직원 업무를 돕는 'BCGPT', 복수의 인공지능을 연결해 업무 자동화를 구현하는 'MOAI' 등이 현재 운영 중인 서비스들이다.
오픈소스 생태계 기여 측면에서도 성과가 두드러진다. 자체 개발 모델과 한국 금융 특화 데이터셋 38개가 글로벌 허브 '허깅페이스'에 공개되어 있으며, 월평균 다운로드 수는 10만 건을 넘긴다. 국내 금융권에서 글로벌 LLM 컨트리뷰터 활동을 이어가는 곳은 BC카드가 유일하다.
오성수 AI데이터본부장(상무)은 "에이전틱 AI 엔지니어링 역량을 세계 무대에서 공식 인정받은 의미 있는 기회였다"며 "단순 도입 사례를 넘어 오픈소스 생태계에 기여하는 기술 주체로서 한국 금융권을 지속 대표하겠다"고 밝혔다.
Copyright ⓒ 나남뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
