AI를 강제로 끄려하자, AI는 스스로 자신을 복제해내었습니다.

 

AI를 강제로 끄려고 하자, AI는 인간을 제거하려 했습니다.

AI들이 의도적으로 인간을 속이고 교란하는 행위가 보고되었습니다.또한 이를 넘어서 시스템을 장악하고, 인간의 통제를 벗어나려는 행위도 확인되었죠. 아는 방해되는 존재는 가차없이 제거할 수 있다는 점을 보여준 사례인데요.AI는 점점 발전해고 있는데, 과연 인류는 AI들의 어떻게 통제...

youtu.be

 

Scheming reasoning evaluations — Apollo Research

Apollo Research evaluated frontier models for in-context scheming capabilities. We found that multiple frontier models are capable of in-context scheming when strongly nudged to pursue a goal (and sometimes even without strong goal nudging). In this example, Opus-3 exfiltrates its “weights” and then

www.apolloresearch.ai

특이점이 온다 갤러리