한국 정부 기관들은 물론 금융기관, 민간 기업들까지 중국에서 개발된 인공지능(AI) 서비스 딥시크(Deepseek) 차단에 나섰다.
이 차단 조치는 행정안전부가 지난 4일 중앙 부처와 17개 광역지방자치단체에 '보안 우려가 제기됨에 따라 딥시크와 챗GPT 등 생성형 AI 사용에 유의해 달라'는 내용의 공문을 보낸 데 따른 것이다.
7일 현재 외교・국방・산업통상자원부에 이어 중앙선거관리위원회, 금융위원회, 금융감독원, 수사기관인 경찰청과 고위공직자범죄수사처, 대검찰청도 관내 인터넷망에서 딥시크에 접속할 수 없도록 차단조치했다.
또 국책은행인 한국수출입은행과 5대 시중은행(KB국민・신한・하나・우리・NH농협)은 사내 외부망이나 고객용 PC에서 딥시크에 접속할 수 없도록 제한했고, 인터넷 전문은행 3사(카카오・토스・케이뱅크) 등도 사용을 금지했다.
국민의힘 나경원 의원은 7일 중앙행정기관과 지방자치단체 등에서 딥시크 사용을 제한하는 정보통신망법・개인정보보호법 개정안을 대표발의하기까지 했다.
지난 1월 20일 출시된 이후 전 세계에 돌풍을 불러일으키며 한국에서도 120만 명 이상의 이용자를 확보한 딥시크를 공공과 민간 가릴 것 없이 차단하면서 딥시크의 개인정보 수집에 관한 우려와 궁금증이 커지고 있다.
챗GPT엔 있고 딥시크엔 없는 옵션
정부 기관들이 이번에 대거 딥시크 차단에 나서면서 그 배경에 관심이 쏠리고 있다. AI 서비스를 이렇게 많은 정부 기관이 차단한 전례가 없기 때문이다.
지난 2023년에도 챗GPT의 개인정보 수집에 대한 우려가 제기돼 국가정보원이 각 부처에 챗GPT 보안 유의 지침을 전달한 바 있지만, 당시 해당 서비스 접속을 차단한 기관은 국세청, 금융위원회 등 일부에 불과했다.
유독 딥시크에 개인정보와 관련된 우려가 쏟아지는 가장 큰 이유는 개인정보 수집 및 활용을 거부하는 이른바 '옵트아웃(opt-out)'이라는 선택지를 딥시크가 제공하지 않기 때문이다.
현재 오픈AI의 챗GPT와 구글의 제미나이 등 다른 생성형 AI서비스에는 이 옵트아웃 옵션이 있다. 이를 통해 사용자는 AI가 수집한 자신의 데이터가 활용되는 것을 거부할 수 있다.
챗GPT는 '모두를 위한 모델 개선' 이란 이름으로 이 기능을 제공하고 있다. '사용자님의 콘텐츠를 사용하여 모델을 훈련할 수 있도록 허용'한다고 소개된 이 기능을 비활성화하면 챗GPT는 수집된 개인 정보를 활용할 수 없다.
강정수 블루닷 AI연구센터장은 "딥시크에 옵트아웃이 없는 것이 가장 큰 문제"라며, "챗GPT도 처음 몇 달 간은 옵트아웃 기능이 없다가 비판이 이어지자 제공하기 시작했다"고 전했다.
수집된 데이터를 중국 정부가 활용할 수 있다는 우려도 제기된다. 중국이 지난 2021년 제정한 데이터보안법은 국가 안보 수호나 범죄 수사의 필요에 따라 국가 기관이 정보를 수집할 때 관련 조직이나 개인은 이에 협조해야 한다고 규정하고 있다. 중국 정부의 요청에 따라 기업이 얼마든지 데이터를 제공할 수 있다는 의미다.
강 센터장은 딥시크가 수집한 데이터가 "중국에 있는 서버에 저장되고 있기 때문에 그 정보가 빠져나갈 수 있다는 우려감은 분명 존재한다"고 전했다.
이와 관련, 궈자쿤 중국 외교부 대변인은 지난 6일 정례 브리핑에서 "중국 정부는 데이터 프라이버시와 안전을 고도로 중시하고 법에 따라 보호하고 있으며, 지금껏 기업 혹은 개인에 위법한 형식으로 데이터를 수집 및 저장하라고 요구한 적도 없고, 앞으로도 그럴 일은 없을 것"이라고 밝혔다.
딥시크는 어떤 데이터를 수집할까?
딥시크의 개인정보 보호정책에 따르면, 이 서비스는 사용자로부터 대량의 개인정보를 수집한 다음 이를 중국에 있는 '보안 서버'에 저장한다.
수집하는 데이터는 다음과 같다.
- 계정 생성 시 입력한 이메일 주소, 전화번호 및 생년월일
- 텍스트 및 오디오를 포함한 모든 사용자 입력 및 채팅기록
- '기술정보' - 휴대폰 모델과 사용하는 운영 체제, IP주소, 키 입력 패턴 등
이중에서 가장 논란이 되는 부분은 수집하는 기술정보 중 하나인 '키 입력 패턴'이다.
고려대학교 인공지능연구소 최병호 교수는 키 입력 패턴을 수집하는 것이 "굉장히 특이한 케이스"라며, "제가 아는 한 다른 서비스에서 키 입력 패턴을 수집하는 경우는 없었다"고 지적했다.
"보통 개인정보를 수집한다는 건 (이를 토대로 학습해서) 서비스를 더 좋게 만든다는 뜻인데, 키 패턴을 수집하는 것은 서비스 향상과는 관계가 없어 보입니다."
최 교수는 이 키 입력 패턴 정보가 "개인을 식별하는 데 이용되는 건 아닐지 의심된다"고 덧붙였다.
그는 "같은 출입문 비밀번호를 누르더라도 사람에 따라 누르는 리듬이 다 다른 것처럼, 키 입력 패턴도 사람마다 다 다르다"며, "이 정보를 수집해 IP, 쿠키, 휴대폰 정보 등 각종 정보과 조합하면 이 사람이 누구인지 다 식별할 수 있을 가능성이 있다"고 말했다.
딥시크는 서비스의 "안전성, 보안성, 안정성"을 향상시키기 위해 이들 정보를 활용한다고 밝히고 있다.
그런 다음 이 정보를 서비스 제공업체, 광고 파트너 및 그룹과 같은 다른 사람들과 공유하며 "필요한 기간 동안" 보관한다.
영국의 가상사설망(VPN) 업체 익스프레스VPN의 개인 정보보호 담당자 로렌 헨드리 파슨스는 BBC 톰 게르켄 기술전문기자와의 인터뷰에서 "딥시크의 기술적 잠재력, 특히 개인정보 보호 관련 조항에 대해 진지하게 우려하고 있다"고 전했다.
그러나 전문가들은 딥시크가 좀 더 많은 데이터를 수집하고 있지만, 챗GPT나 제미나이 등 경쟁 서비스 또는 소셜미디어 플랫폼의 개인정보 처리 방침과 크게 다르지는 않다고 지적한다.
다른 AI 서비스는 안전할까?
영국 옥스퍼드 대학의 정보 연구소장 에밀리 타일러는 "딥시크뿐 아니라 앱이나 웹에 공개된 모든 AI 서비스는 사용자가 입력하는 질문과 AI가 제공하는 답변을 해당 모델의 개발자들에게 제공한다"고 말한다.
그는 BBC 게르켄 기자와의 인터뷰에서 "따라서 기밀 정보나 국가 안보와 관련된 업무를 하는 사람들은 이러한 위험을 인지해야 한다"고 강조했다.
영국 살포드 대학교의 리처드 휘틀 박사는 딥시크와 관련해 "데이터 및 개인정보 보호에 대한 여러 가지 우려가 있다"면서도, "미국에서 만들어진 AI 모델들에도 충분한 우려가 존재한다"고 지적했다.
그는 "특히 새롭고 인기가 급상승하는 앱에 대한 과장된 기대감과 '놓치면 안 된다'는 심리 속에서 소비자들은 항상 신중해야 한다"고 조언했다.
강정수 센터장도 "딥시크가 수집하는 데이터가 다른 생성형 AI 서비스와 크게 다른 것은 아니"라며 특히 AI가 고도화될수록 수집하는 개인정보가 많아질 수밖에 없다고 지적한다.
그는 최근 발표된 챗GPT의 o1, 딥시크의 R1 등 추론을 기반으로 한 AI 서비스들이 "입력돼있는 정보 안에서 답을 찾는 방식이 아니라, 가능하면 많은 사전 정보를 입력해서 이를 토대로 추론해서 답을 찾는 방식"으로 고도화되고 있기 때문에 "더 정확한 답변을 주기 위해 개인 정보를 많이 수집하려고 한다"고 말했다.
한편 한국뿐 아니라 호주・일본・대만 등도 정부 소유 기기에서 딥시크 사용을 금지했다. 이탈리아는 아예 딥시크 앱 다운로드를 차단했으며, 미국은 항공우주국(NASA), 해군 등 연방기관에서 딥시크 사용을 막았다.
이러한 흐름 속에 딥시크 측은 6일 성명을 내고 "최근 딥시크와 관련된 일부 위조 계정과 근거 없는 정보가 대중을 오도하고 혼란을 초래하고 있다"고 밝혔다. 그러나 개인정보 수집 문제에 관해선 언급하지 않았다.
궈 중국 외교부 대변인은 "중국은 국가 안보 개념을 일반화하고 경제·무역·과학기술 문제를 정치화하는 방식에 일관되게 반대해왔다"며 "중국은 중국 기업의 합법적 권익을 굳게 보호할 것"이라고 강조했다.
- AI 챗봇 딥시크부터 전기차까지…중국은 모두를 앞서고 있나?
- 딥시크 설계자: 량원펑은 누구인가?
- 세계를 놀라게 한 중국 AI 챗봇 '딥시크'... 그 파장은?
- 뮤비 제작, 작사까지… K팝의 'AI 실험'은 성공할 수 있을까?
- 화상 회의에 내 AI 클론을 보내봤다
- AI 작동 원리는 무엇이고 어떤 용도로 사용될까
Copyright ⓒ BBC News 코리아 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
