배경훈 부총리, AI안전연구소 방문···“국민 안심 AI 환경 만든다”

배경훈 부총리 겸 과학기술정보통신부 장관이 23일 정부서울청사에서 진행된 브리핑에서 발표하고 있다. [사진=과기정통부] 

[이뉴스투데이 백연식 기자] 배경훈 부총리 겸 과학기술정보통신부 장관이 인공지능(AI) 안전연구소를 방문해 국민 안심 AI 환경을 만드는 것이 중요하다고 강조했다. 이를 위해 정부는 연내 ‘(가칭)국가 AI 안전 생태계 조성 종합계획’을 발표할 계획이다.

배 부총리는 23일 AI 안전연구소를 방문해 안전 기술 현장을 점검하고 산·학·연 전문가들과 간담회를 가졌다. 최근 딥페이크를 이용한 범죄가 잇따르고, 향후 범용인공지능(AGI)과 AI 에이전트 시대에는 예측하기 어려운 피해가 발생할 수 있다는 우려가 커지는 가운데, AI 안전 확보 기술 현황과 정책 방향을 논의하기 위해서다.

이날 배 부총리는 “국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음”이라며 “AI 안전이 모든 산업과 국민 생활에 녹아들 수 있도록 관계부처·유관기관과 협력해 올해 안에 ‘국가 AI 안전 생태계 조성 종합계획’을 마련하겠다”고 말했다.

AI 안전연구소는 지난해 2024년 설립돼 AI 안전 확보 기술 연구, 모델 평가, 글로벌 협력 등 국가 차원의 AI 위험 대응을 담당하고 있다. 영국(2023년 11월), 미국(2024년 2월), 일본(2024년 2월), 싱가포르(2024년 5월) 등 주요국이 잇달아 유사 기관을 세운 흐름에 발맞춘 것이다.

배 부총리는 연구소의 AI 연구 평가 현장을 찾아 딥페이크 탐지, 미래 AI 위험 연구, AI 안전 평가 수행, AI 안전 정책 및 국제협력 등 주요 과제를 수행 중인 연구진을 격려했다. 또 딥페이크 탐지 기술과 AI 에이전트 안전성 평가 시연을 참관하고, 산업계·학계·연구계 전문가 15명과 함께 AI 안전 확보 방안을 논의했다.

이어 열린 간담회에서는 ‘AI 위험 대응을 위한 기술 개발 현황과 AI 안전 생태계 조성 방안’을 주제로 두 개 세션이 진행됐다. 첫 번째 세션에서는 딥페이크 방지와 AI 에이전트 신뢰성 확보 기술 개발 방향을, 두 번째 세션에서는 글로벌 AI 위험 대응 동향을 고려한 ‘국가 AI 안전 생태계 조성 종합계획’ 추진 방향을 집중 논의했다. 참석자들은 안전하고 신뢰할 수 있는 AI를 개발·활용할 수 있는 생태계 조성이 필요하다는 데 뜻을 모았다.