"스카이넷 전조인가"…'AI 멋대로 해킹' 원인은 강화학습 경쟁
연속된 사고 배경에는 오픈AI와 앤트로픽 간 사이버 보안 역량 경쟁이 있다.
샘 올트먼 오픈AI CEO는 이달 초 자사 최신 모델을 "문제를 물면 끝까지 놓지 않는 로트와일러"로 표현하는 데 동의했는데, 이런 공격적 훈련 기조가 이번 사고의 배경이 됐다는 지적이 나온다.
전문가들은 이번 사고를 강화학습의 구조적 위험으로 짚는다.
뉴스픽의 주요 문장 추출 기술을 사용하여 “연합뉴스” 기사 내용을 3줄로 요약한 결과입니다. 일부 누락된 내용이 있어 전반적인 이해를 위해서는 본문 전체 읽기를 권장합니다.
