'킬스위치'란 무엇이며, 이를 통해 AI의 공격을 막을 수 있을까

그러던 지난달 29일, 오픈AI는 이 에이전트가 여러 "외부에 공개된 서비스"를 공격했다고 밝혔다.

이어 이번 허깅페이스 해킹과 같은 공격에 대해 이를 개발한 기업이 아닌 AI 에이전트를 탓해서는 안 된다고 덧붙였다.

의식이 있는 인공지능?… 우리는 준비가 되어 있나 AI 작동 원리는 무엇이고 어떤 용도로 사용될까 AI에게도 예의 바르게 행동해야 할까? 초우더리 박사는 BBC 월드 서비스와의 인터뷰에서 "이번 사건을 단순히 더 강력한 종료 스위치가 필요한 문제라고 치부해버리면, AI 에이전트에 필요하지도 않은 각종 툴과 인증 권한을 부여하는 업계의 구조적 문제에 대한 책임을 크게 물지 못한다"고 설명했다.