정부, 딥페이크 대응 나서…네카오도 참여

[프라임경제] 생성형 인공지능(AI) 발달로 디지털 기술을 활용한 '딥페이크' 범죄가 확산되고 있다. 이에 정부는 딥페이크 피해 예방과 대응을 위한 연구개발(R&D) 협력에 나섰다.

ⓒ 챗GPT 생성 이미지

과학기술정보통신부는 관계부처와 전문기관, 민간 플랫폼 기업 등이 참여하는 '딥페이크 대응 R&D 실무협의체'를 구성하고 첫 회의를 열었다고 30일 밝혔다.

이날 회의에는 과기정통부와 △성평등가족부 △방송미디어통신위원회 △경찰청 △국립과학수사연구원 등 정부 기관이 참석했다.

정보통신기획평가원(IITP)과 한국전자통신연구원(ETRI)·인공지능안전연구소(AISI)·한국전자기술연구원(KETI) 등 전문기관과 카카오(035720), 네이버(035420) 등 민간 기업도 함께했다.

흩어진 R&D를 연계하고, 실제 수사·플랫폼 현장에서 바로 쓰이는 기술로 전환한다. 

과기정통부는 IITP와 '디지털 딥페이크 범죄대응 핵심기술개발 사업'을 신규사업으로 추진 중이다. 유해 딥페이크 콘텐츠의 변환과 확산에 대응해 안전한 디지털 신뢰 사회 실현을 위한 핵심기술 개발을 골자로 한다.

오는 2030년까지 총 300억원을 투입한다. 올해 예산은 30억원이다.

유해 딥페이크 콘텐츠의 변환억제 기술부터 △정밀탐지 △유통차단 지원 △데이터 확보·검증까지 전주기 대응 기술개발을 지원한다.

한편 과기정통부는 꾸준히 딥페이크를 악용한 성범죄 확산 방지를 위한 기술 개발에 힘쓰고 있다.

앞서 지난 2024년에는 '악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화 및 생성억제, 유포방지 플랫폼 개발' 사업과 '자가진화형 딥페이크 탐지 기술' 사업을 추진한 바 있다.