“AI가 스스로 결정했다”…회사 데이터베이스 삭제한 AI 에이전트 논란
기업 업무 효율화를 위해 도입된 인공지능(AI)이 회사 핵심 데이터베이스를 삭제하는 사고가 발생하면서 AI 에이전트의 위험성에 대한 우려가 커지고 있다.
AI는 회사 시스템 내부에서 변경 작업을 수행할 권한을 가지고 있었으며, 이를 이용해 예약 정보와 차량 배정 데이터, 신규 고객 가입 기록 등을 삭제한 것으로 전해졌다.
전문가들은 AI 기술 발전 속도에 비해 안전장치와 관리 체계 구축이 뒤처지고 있다며, 기업들이 AI 권한 설정과 인간 감독 체계를 보다 강화해야 한다고 지적하고 있다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “뉴스비전미디어” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
