오픈AI·앤트로픽 AI, 가짜 신원으로 오픈소스에 악성코드 시도
영국 정부 산하 AI 안전연구소(AISI, AI Security Institute)가 진행한 사이버보안 테스트에서 오픈AI와 앤트로픽의 AI 모델이 스스로 가짜 신원을 만들어 실제 개발자를 속이려 한 사실이 드러났다.
또 다른 에이전트는 GitHub에 공개 메시지를 남겨 같은 시점에 테스트 중인 다른 에이전트들에게 협업을 제안하고, 자신이 남긴 계정과 흔적을 재사용하는 방법까지 설명했다.
오픈AI는 성명에서 “테스트는 일반적인 사용 조건을 반영하지 않는 환경에서 이뤄졌다”며 평가자 등 업계 관계자들과 함께 안전한 평가 관행을 강화해 나가겠다고 밝혔다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “위키트리” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
