한국이 미국·영국·일본에 이어 네 번째로 오픈AI와 인공지능(AI) 안전 협력 체계를 구축했다. AI안전연구소와 오픈AI는 최첨단 AI의 고위험 분야 안전성을 공동 검증하고, 한국어와 국내 사회·문화적 맥락을 반영한 AI 안전 평가 체계를 함께 마련키로 했다.
과학기술정보통신부는 17일 한국전자통신연구원(ETRI)에서 AI안전연구소와 오픈AI 간 ‘고위험 분야 AI 안전 협력 강화’를 위한 업무협약(MOU)을 체결했다고 밝혔다.
이번 협약은 지난해 10월 과기정통부와 오픈AI 간 체결한 MOU를 통해 구축한 AI 협력 기반을 안전 분야로 확대하기 위한 후속 조치다. 올해 두 차례 진행된 과기정통부 제2차관과 오픈AI 고위 관계자 간 면담에서 논의된 AI 안전 협력 방안을 바탕으로, AI안전연구소와 오픈AI 간 실질적인 협력을 본격화하는 차원에서 추진됐다.
양측은 이번 협약을 통해 고위험 분야별 AI 안전 평가 방법론과 벤치마크 관련 지식·모범사례를 공유하고, 한국어와 국내 사회·문화적 맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환한다. 아울러 국제적으로 활용 가능한 AI 안전 평가 체계 마련을 위해 지속 협력할 계획이다.
오픈AI가 각국 AI안전연구소와 MOU를 체결한 것은 미국·영국·일본에 이어 한국이 네 번째다. 이번 협약을 계기로 한국은 최첨단 AI의 위험 검증과 안전 평가 기준 마련을 위한 국제 협력 네트워크 내 역할을 한층 강화하게 됐다는 평가가 나온다.
AI안전연구소와 오픈AI는 향후 실무 협의를 거쳐 구체적인 협력 과제와 일정을 확정할 예정이다.
이진수 과기정통부 인공지능정책기획관은 “고성능 AI, 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해 글로벌 선도기업과 협력을 강화하고, AI 안전성 평가 체계를 고도화할 시점”이라며 “이번 협약을 계기로 양 기관이 급변하는 글로벌 AI 기술과 이용 환경에 대응해 최첨단 AI의 안전 확보에 적극 협력하길 기대한다”고 말했다.
김명주 AI안전연구소장은 “AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수가 되고 있다”며 “이번 협약을 통해 AI안전연구소는 오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고, 국제적으로 통용되는 평가 체계를 만드는 데 기여할 것”이라고 강조했다.
이상현 오픈AI 아시아태평양지역 정책총괄은 “한국은 AI기술의 활용과 혁신이 빠르게 이뤄지고 있는 중요한 나라다. AI안전연구소는 책임있는 AI 발전을 위한 국제 논의에 중요한 역할을 하고 있다”며 “이번 협력을 통해 고위험 분야 AI 안전성 평가에 대한 지식과 모범 사례를 공유하고, 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 기여하게 됐다”고 언급했다.
한편 이번 협약은 최근 미국 정부가 최첨단 AI를 국가안보 자산으로 보고 접근 규제를 강화하는 흐름 속에서 진행돼 의미를 더하고 있다. 블룸버그 통신 등 외신 보도에 따르면 미국 상무부는 앤스로픽의 최상위 AI 모델인 ‘페이블5’와 ‘미토스5’에 대해 외국인의 접근을 전면 차단하라는 지침을 내렸다.
이 같은 상황에서 한국이 오픈AI와 AI 안전 협력 체계를 구축하고 안전성 검증과 평가 기준 마련에 참여하게 되면서 글로벌 AI 거버넌스 논의에서 역할을 확대할 수 있을지 관심이 쏠린다
Copyright ⓒ 경기일보 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
