[AI & 윤리] ‘치명성’ 묻고 범행…AI 대화 기록, 수사 증거로 부상하나

인공지능(AI) 기술은 정치·경제·사회·문화 전반의 작동 방식을 바꿔놓고 있다. 효율과 편리함을 확장하는 동시에 그에 상응하는 새로운 위험과 윤리적 과제도 함께 드러내고 있다.

따라서 AI 논의의 핵심은 단순한 성능 경쟁이 아니라 올바른 사용과 책임 설계에 있다. 명확한 기준과 통제가 뒷받침되지 않는다면 AI는 효율이라는 이름 아래 불평등과 불신을 심화시킬 수 있다.

투데이신문의 [AI&윤리] 기획연재는 이 지점을 정면으로 다룬다. AI가 사회 곳곳에 남기는 여파와 영향력을 구체적으로 짚고, 책임·공정성·투명성 등 윤리 원칙이 왜 필요한지, 현장에서 어떻게 구현돼야 하는지를 살펴본다.

한 여성 이용자가 스마트폰을 통해 채팅을 입력하고 있다. 기사와 직접 관련 없는 이미지. [사진제공=게티이미지뱅크]

【투데이신문 권신영 기자】최근 약물 연쇄범죄 수사에서 생성형 인공지능(AI) 챗봇 대화 기록이 고의성 판단의 핵심 증거로 활용되면서 수사 효용과 더불어 사생활 침해와 ‘임시 채팅’ 악용 가능성을 둘러싼 윤리·법적 논쟁도 확산되고 있다.

25일 투데이신문 취재에 따르면 서울 강북구 일대 숙박업소에서 남성 2명을 숨지게 하고 1명에게 중상을 입힌 혐의를 받는 20대 여성 김모씨가 살인 혐의로 검찰에 넘겨졌다. 

김씨는 지난해 12월 14일부터 이달 9일까지 서울 강북구 수유동의 모텔과 경기 남양주시의 한 카페 등에서 20대 남성 3명에게 향정신성 의약품인 벤조디아제핀계 약물을 탄 음료를 건네 이 가운데 2명을 숨지게 하고 1명을 의식 불명 상태에 빠뜨린 혐의를 받는다.

경찰에 따르면 김씨가 사용한 약물은 본인이 정신과에서 처방받은 약으로 항불안제와 수면제 등으로 사용되는 의약품이었다. 김씨는 조사 과정에서 우울 증상이 있다고 진술했으며 의료기록 조회 결과 실제 정신질환 치료 이력이 있는 것으로 파악됐다.

경찰은 김씨가 범행 전 생성형 인공지능(AI) 챗봇을 이용해 약물의 치명성을 반복적으로 검색한 정황을 확인하고 이를 고의성 판단의 핵심 근거 중 하나로 보고 있다.

경찰 조사 결과 김씨는 범행 전 챗GPT에 ‘수면제와 술을 함께 먹으면 어떤가’, ‘얼마나 먹으면 위험한가’, ‘죽을 수도 있나’ 등 수면제와 알코올을 함께 복용할 경우의 위험성을 묻는 질문을 수차례 입력한 것으로 드러났다.

경찰은 초기에는 김씨에게 고의성이 없다고 보고 상해치사 혐의를 적용해 수사를 진행했지만, 피해자들이 사망할 가능성을 인지한 상태에서 범행을 저질렀다고 판단해 혐의를 살인으로 변경했다. 특히 2·3차 범행에서 김씨가 1차 범행보다 약물 투여량을 늘렸다고 진술한 점, 휴대전화 포렌식 자료, AI 검색 내역 등을 종합해 미필적 고의가 인정된다고 봤다.

기상청 위탁관측기관 고려대기환경연구소가 NASA(미국항공우주국)와 NOAA(미해양대기청)에서 지난해 1월 수신한 위성 영상을 공개했다. 산불이 팰리세이드 협곡과 도심지의 주택, 시설물을 잿더미로 만들었다. [사진=뉴시스]

해외에서도 AI 대화 기록 수사 활용한다

수사기관은 생성형 AI 채팅 기록이 문장으로 이어지는 대화 형식이라는 점에서 단순 키워드 나열에 그치는 일반 웹 브라우저 검색 기록보다 범죄 의도와 인식 수준을 보다 구체적으로 파악할 수 있는 자료로 평가하고 있다. 이처럼 AI 챗봇 대화 기록이 범죄 수사에서 고의성 판단의 근거로 활용된 사례는 해외에서도 보고되고 있다.

미국에서는 지난해 캘리포니아 로스앤젤레스(LA) 카운티에서 발생해 12명의 목숨을 앗아간 이른바 ‘Palisades Fire’ 산불 방화 사건 수사 과정에서 용의자의 챗GPT 사용 기록이 수사 문서에 포함된 바 있다.

연방 수사 당국이 작성한 형사 고소장에 따르면 용의자는 911에 신고하기 전후로 챗GPT에 “담배 때문에 불이 났다면 과실 책임이 있느냐”는 취지의 질문을 입력했다. 수사 당국은 이 같은 질문이 화재 원인을 보다 ‘우발적’인 사고로 보이게 하려는 목적, 즉 사후 은폐 또는 책임 회피를 염두에 둔 정황으로 해석했다.

수사 과정에서는 용의자가 라이터 등 도구를 이용해 불을 붙여 화재를 일으킨 것으로 확인됐고 챗GPT 이용 기록에는 이미지 제작 기능을 통해 불타는 도시에서 사람들이 탈출하는 장면을 묘사한 이미지를 생성한 정황도 남아 있었던 것으로 알려졌다.

기사와 직접 관련 없는 이미지. [사진제공=게티이미지뱅크]

AI 상담 기록까지 들여다보나...윤리·법적 쟁점 부각

AI 대화 기록을 수사에 활용하는 흐름이 확산되면서 윤리적·법적 쟁점도 함께 부각되고 있다. 검색어 기록과 달리 챗봇 대화는 사용자의 고민, 정신 상태, 관계 문제 등 사적인 사고 과정이 대화 형식으로 고스란히 드러날 수 있어 사생활 침해 우려가 더 크다는 지적이다. 

특히 최근에는 챗봇을 단순 검색을 넘어 상담·대화 용도로 활용하는 사례가 늘면서 대화 내용이 사실상 ‘개인 일기’나 ‘상담 기록’에 가까운 민감 정보가 될 수 있다는 분석도 나온다. 

국제인공지능윤리협회 전창배 이사장은 본보에 “AI와 나눈 대화에는 개인의 사생활과 내밀한 정보가 들어갈 수밖에 없다”며 “수사 필요성이 있더라도 동의 없이, 또는 법원의 영장 등 적법 절차 없이 대화 기록을 채취한다면 문제가 될 수 있다”고 말했다. 

그는 AI 대화 기록을 별도의 가벼운 자료로 취급하기보다는 “통화 내역이나 카카오톡 등 메신저 대화를 들여다보는 것과 같은 차원에서 봐야 한다”며 “인공지능 기반 채팅은 ‘상대가 사람인가 AI인가’일 뿐 대화 내용의 성격 자체는 거의 동일하다”고 강조했다. 

이어 “AI 챗봇 대화 기록을 수사에 활용할 수 있다면 어떤 요건과 절차로, 어느 범위까지 가능한지에 대한 가이드라인과 법·제도 정비가 필요하다”며 “정부와 국회가 이 부분을 빠르게 논의해 정리할 필요가 있다”고 말했다.

한 이용자가 스마트폰을 통해 채팅을 입력하고 있는 모습. 기사와 직접 관련 없는 이미지. [사진제공=게티이미지뱅크]

“텔레그램 전철 밟을까” 임시 채팅에 쏠리는 우려

생성형 AI 챗봇들이 악용되는 사례가 발생하면서 ‘임시 채팅’ 기능이 범죄에 악용될 수 있다는 우려도 커지고 있다. 임시 채팅은 생성형 AI 챗봇에서 대화가 장기간 저장되지 않도록 설계된 기능을 말한다. 이용자는 대화를 종료하면 기록이 계정의 채팅 목록에 남지 않거나 일정 기간이 지나면 자동으로 삭제된다.

챗봇마다 차이가 있지만 챗GPT의 경우 대화 기록이 약 30일간만 보관되고 이후에는 사용자와 플랫폼뿐만 아니라 수사기관도 다시 확인할 수 없도록 처리된다.

전문가들은 이런 특성이 “보안이 강하다는 이유로 범죄에 악용된 전력이 있는 텔레그램과 유사한 우려를 낳을 수 있다”고 지적한다. 실제로 범죄를 계획하거나 위험한 정보를 탐색하면서 추적 가능성을 낮추기 위해 임시 채팅을 선택할 가능성도 배제할 수 없다는 것이다.

전 이사장은 “기록이 남지 않는다는 인식 자체가 범죄 억제력을 약화시킬 수 있다”며 “플랫폼 차원의 안전장치와 함께 수사기관과 사회 전반에서 AI 사용에 대한 새로운 기준과 논의가 필요하다”고 말했다.