구글·MS·오픈AI 한 곳에…오픈소스 활용 방안 논의

[프라임경제] 인공지능(AI) 도입에 기반이 되는 오픈소스(open source·누구나 자유롭게 사용하고 수정해서 재배포할 수 있게 소스코드를 공개하는 방식)를 안전하게 활용하기 위한 국제적인 논의의 장이 마련됐다.

최장혁 개인정보보호위원회 부위원장이 9월 15일 오후 서울 용산구 그랜드 하얏트 서울에서 개최된 '오픈소스 데이'에서 환영사를 하고 있다. ⓒ 개인정보보호위원회

개인정보보호위원회(이하 개인정보위)는 15일 서울 그랜드 하얏트 호텔에서 '오픈소스 데이'를 개최했다고 밝혔다.

구글, 메타 등 글로벌 오픈소스 모델·솔루션 기업들과 국내 AI 기업·연구자, 그리고 해외 감독기구 등 120여명이 참석해 오픈소스 AI 생태계와 프라이버시에 대해 논의했다.

이날 행사에 참여한 글로벌 오픈소스 AI 기업들은 자사의 오픈소스 생태계와 실제 적용 경험을 발표했다.

먼저 구글은 비용 효율적인 오픈 소스 모델 운영을 위한 자사 플랫폼(Vertex AI)을 소개하면서 대규모언어모델(LLM) 품질 평가 도구와 프롬프트 최적화 기능, 안전성 강화 도구 등 신뢰성·안전성 확보를 위한 도구 활용 방안을 공유했다.

이어 에임 인텔리전스는 고객 대상 AI 서비스 운영 및 사내 업무용 AI 모델 활용 과정에서 기업들이 현장에서 직면하는 다양한 안전성 및 정보 보안 과제를 실제 경험과 함께 공유했다. 이 회사는 메타의 오픈소스 AI 필터링 모델 라마 가드를 한국 실정에 맞게 고도화해 '라마 임팩트 이노베이션 어워즈'를 수상한 바 있다.

마이크로소프트는 자사 플랫폼(Azure AI Foundry)을 기반으로 에이전트 AI를 구축한 고객사 사례를 제시하면서 차세대 패러다임으로 주목받는 에이전트 AI 구축을 위한 오픈소스 모델·도구 활용 가능성을 제시했다.

다음으로 네이버(035420)는 자사 오픈소스 모델(HyperClovaX)과 더불어 공개 데이터셋과 벤치마크, AI 안전성 프레임워크 등 안전한 오픈소스 활용을 위한 도구를 소개하며 국내 오픈소스 생태계 확산에 기여한 그간의 노력을 공유했다.

오픈AI는 새롭게 공개한 자사 오픈소스 모델을 소개하며, 오픈소스 모델이 지니는 경제·사회적 가치와 더불어 안전성에 대한 우려와 책임성, 글로벌 차원의 논의 필요성 등 오픈소스 확산 과정에서 직면하는 과제를 함께 제기했다.

마지막으로 셀렉트스타는 오픈소스 모델·기술을 활용해 개발한 자사의 AI 신뢰성 검증 솔루션을 소개하면서 오픈 데이터셋 구축 및 한국 최초 신뢰성 평가 벤치마크 구축 등의 사례를 통해 AI 데이터·신뢰성 사업 과정에서 오픈소스 생태계 확산에 기여한 과정을 소개했다.

이어진 실시간 질의응답 시간에서는 참석자들이 오픈소스 도입 과정에서 겪은 애로사항과 프라이버시 관련 고민 등 현장의 목소리와 함께 해결 방안을 공유했다.

특히 오픈소스 AI 도입 과정에서 △개인·민감정보 필터링 및 검증 절차 △미세조정 시 고려사항 △레드팀 테스트 설계 방안 등 오픈소스 활용 과정의 안전성 및 신뢰성 보장 방안을 집중적으로 논의하며 '책임 있는 오픈소스 AI 생태계'에 대한 공감대를 형성했다.

마지막 순서로 한국 개인정보위를 비롯한 영국, 이탈리아, 브라질 등 4개국 개인정보 감독기구가 패널로 참석한 라운드테이블이 진행됐다.

4개국 개인정보 감독기구는 오픈소스 AI 생태계에서의 프라이버시 고려사항에 대해 논의하고, 개방성과 투명성에 기반한 신뢰할 수 있는 AI 구현 필요성에 공감대를 모았다. 

특히 향후 자율성에 기반한 에이전틱 AI 시대가 도래할 것이라는 전망 속에서 안전한 AI 생태계를 구축하기 위한 국제적 차원의 지속적 논의와 협력 필요성에 뜻을 모았다.

개인정보위가 행사 전 실시한 설문조사에서는 개발자·연구자 및 기업 관계자 70명 가운데 62%가 오픈소스를 도입·활용한 경험이 있다고 답했다. 오픈소스 모델을 활용한 미세조정 과정에서 안전성을 고려했다고 밝힌 비율도 77%에 달했다.

최장혁 개인정보위 부위원장은 "이번 오픈소스 데이는 에이전트 AI와 같은 혁신 서비스의 기반이 되는 오픈소스와 개인정보 보호를 함께 고민하는 첫 공개 논의의 장으로 의미가 크다"며 "현장의 목소리를 정책에 적극 반영해 기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 지원하겠다"고 말했다.

김휘강 개인정보위 비상임위원은 "오픈소스의 개방·공유 문화가 최신 기술 확산을 앞당기고 산업과 사회 전반의 혁신을 가속하는 원동력이 되고 있다"며 "개방적이면서 신뢰할 수 있는 AI 발전의 출발점이 되길 기대한다"고 했다.