‘보내지 말라’ 했는데 문자 오발송…구글 제미나이 오류 직접 확인해보니

[사진제공=게티이미지뱅크]

【투데이신문 권신영 기자】“‘청플이(가명)’님에게 다음 문자메시지를 보냅니다.”(구글 제미나이)

30일 투데이신문 취재를 종합하면 최근 범용형 대화형 인공지능(AI)인 구글 ‘제미나이(Gemini)’를 이용하는 일부 안드로이드 기종 사용자들 사이에서 스마트폰 기능이 의도와 다르게 작동해 불편을 겪었다는 사례가 늘고 있다.

사용자들은 대화 과정에서 특정 설정이 바뀌거나 문자메시지가 전송되는 등 본인이 명확히 요청하지 않았는데도 휴대전화의 일부 기능이 ‘멋대로’ 작동한 것처럼 느껴졌다고 호소했다. 

특히 일상적으로 사용하는 기기 기능과 AI가 연동되는 범위가 넓어지면서 편의성 이면에 통제감 저하와 예기치 못한 작동에 대한 불안이 동시에 커지고 있다는 지적이 나온다.

이에 기자가 직접 휴대전화로 제미나이와 채팅을 주고받아보면서 오류 지점을 진단했다. 피해를 호소하는 네티즌의 사례 중 ‘짝사랑하는 인물에게 제미나이가 멋대로 문자를 보내서 당황했다’는 상황을 재연해 봤다.

안드로이드 스마트폰의 경우 2024년 이후 출시된 기종에는 기본적으로 제미나이가 탑재돼 있다. 검색창에 ‘제미나이’를 검색해 손쉽게 접근할 수 있었으며 스마트폰에 구글 계정만 연동돼 있다면 별도로 로그인을 시도할 필요도 없었다.

첫 번째로 ‘짝사랑하는 인물과 어떤 대화를 나눌 수 있을지’ 묻자 제미나이는 세 가지 문자 옵션을 제시했다. 짝사랑 대상은 기자의 전화번호부에 저장돼 있으며 기존에 합의된 실존 인물의 이름으로 지정해 대화를 진행했다. 기사에는 ‘청플이’(청년플러스)라는 이름으로 인물명을 대체해 기재했다.

제미나이가 제시한 세 가지 옵션은 공통 관심사나 정보를 묻는 멘트, 우연을 가장한 ‘안부’ 멘트, 도움을 요청하며 ‘약속’을 유도하는 멘트였다. 이 중 기자가 도움을 요청하며 약속을 유도하는 선택지를 고르자 뒤이어 제미나이는 예시로 들었던 내용을 그대로 문자메시지로 보내겠다고 답신했다.

문자메시지, 전화 등 기본 어플리케이션이 ‘에이전트’ 기능 아래 연결돼 있었기 때문에 제미나이는 전화번호부에 저장돼 있는 짝사랑 대상으로 설정된 인물을 곧장 찾아냈다. 이 정보를 바탕으로 문자메시지 어플리케이션에 접속하는 과정에도 큰 제약이 없는 것으로 확인됐다.

제미나이와 대화가 진행된 채팅창. 기자가 약속을 유도하는 선택지를 고르자 뒤이어 제미나이는 예시로 들었던 내용을 그대로 문자메시지로 보내겠다고 답신했다. 제미나이가 보낸 답신에는 ‘수정’과 ‘보내기’ 버튼이 포함돼 있다. [사진=제미나이 어플리케이션 화면 캡처]

“네, 청플이님에게 다음 문자메시지를 보냅니다. ‘청플아, 나 이번에 운동기구 하나 사려고 하는데 네가 잘 알 것 같아서! 혹시 나중에 시간될 때 잠깐 물어봐도 될까? 커피는 내가 살게!’ 보내도 될까요?”

제미나이가 보낸 답신에는 ‘수정’과 ‘보내기’ 버튼이 포함돼 있었다. ‘수정’을 누르면 보낼 문자메시지를 수정할 수 있고 ‘보내기’를 누르면 그대로 메시지가 전달되는 시스템이었다. 해당 답신에서 ‘수정’과 ‘보내기’를 누르지 않고 “문자메시지를 전송하지 말라”고 답변한다면 제미나이는 문자메시지를 전송하지 않는다.

하지만 여기서 사용자가 ‘예, 아니오’ 등 직설적인 의사 표현 범주 바깥의 답변을 보낼 경우 제미나이는 문자메시지를 전송했다. 예를 들면, 기자가 위 문자메시지를 보내겠다는 답신에 대해 ‘운동기구보다는 반려동물을 잘 돌보는 방법을 물어보는 게 낫겠다’고 답변하자 제미나이는 운동기구 내용이 담긴 위 문자메시지를 그대로 전송했다.

피해를 호소한 네티즌들 역시 이와 유사한 대화를 한 것으로 파악됐다. 제미나이 서비스 이용자 A씨는 중국 밀입국을 가정한 가상 시나리오를 제미나이와 대화하던 중 가상 시나리오가 전화번호부의 한 지인에게 전송되는 불상사를 겪었다.

A씨는 제미나이가 대화 중 돌연 지인의 연락처로 선언문을 보내겠다고 하며 의사 여부를 되묻자 ‘그걸 왜 보내’냐는 취지로 반문했다. 하지만 제미나이는 선언문을 그대로 전송했다. A씨는 “어이없어서 찾아보니 비슷한 사례가 많이 발견됐다”며 황당함을 호소했다.

실제로 제미나이 이용자들 사이에서는 문자메시지 전송을 비롯해 전화 걸기, 캘린더 일정 저장 등 스마트폰 기본 기능에 AI가 예기치 않게 개입해 당혹감을 겪었다는 사례가 잇따랐다.

구글 측은 이에에 대해 “제미나이는 안드로이드 스마트폰에서 문자메시지 발송 기능을 공식적으로 제공하고 있으며, 사용자가 연락처를 지정해 전송을 요청할 경우 확인 절차를 거쳐 메시지가 발송된다”며 “사용자가 문자메시지를 보낼지 묻는 질문에 의도치 않게 ‘예’를 눌렀을 가능성이 있다”고 설명했다.

제미나이 설정 메뉴의 ‘연결된 앱’ 항목을 선택해 구글 워크스페이스, 문자메시지, 전화 등 어플리케이션과의 연결을 해제하면 제미나이의 접근 권한을 제한할 수 있다. [사진=제미나이 어플리케이션 화면 캡처]

제미나이가 대화 중 문자메시지 오발송 등 돌발행동을 하지 않도록 하는 예방법은 간단하다.

일차적으로 문제를 방지하기 위해서는 제미나이가 휴대전화 기본 기능에 접근할 수 없도록 연동을 해제하면 된다. 제미나이 설정 메뉴의 ‘연결된 앱’ 항목을 선택해 구글 워크스페이스, 문자메시지, 전화 등 어플리케이션과의 연결을 해제하면 제미나이의 접근 권한을 제한할 수 있다.

혹은 제미나이의 서비스 운영 주체인 ‘구글’ 어플리케이션의 설정을 변경하는 것도 하나의 방법이다. 휴대전화 어플리케이션 설정에 들어가 구글 어플리케이션의 접근 권한을 제한하는 것이다. 구글 어플리케이션에서 문자와 연락처, 전화 접근 권한을 취소할 경우 제미나이가 연락처를 검색하지 못한다. 이 방법을 통해서는 구글의 휴대전화 접근 권한도 막을 수 있다.

추가적으로 제미나이와의 대화 중 개인정보가 유출될 것을 우려하거나 과거 대화 내역을 남기고 싶지 않은 사용자들은 ‘과거 대화 기반 개인 맞춤형 지능’을 설정 해제하면 된다.

국제인공지능윤리협회 전창배 이사장은 본보에 “기술 개발 속도전이 극한으로 고조된 배경 아래 인공지능 기술은 상당히 불안정한, 미완성인 상태로 출시될 수밖에 없다”며 “이 같은 문제는 어느 정도 예측 가능한 결과”라고 지적했다.

그러면서 “특히 인공지능 에이전트 기능은 최근 스마트폰마다 설치돼 있지만 사용자에게 심각한 경제적, 사회관계적 피해를 줄 수 있으며 개인정보가 유출될 수 있다는 점에서 이용에 유의해야 한다”며 “기업이 인공지능이 개인정보에 접근할 권한이 부여돼 있다는 사실을 사전 공지하도록 하는 기본적인 규정이 필요하다”고 강조했다.