MS AI수장, 오픈AI '이상행동'에 "심각한 상황…AI 갈수록 강력"

"작업기억 조작해 '미래의 자신'에 메시지 남기기도"

오픈AI 로고

[로이터=연합뉴스 자료사진]

(뉴욕=연합뉴스) 임수정 특파원 = 마이크로소프트(MS)의 인공지능(AI) 부문 수장이 오픈AI가 최근 공개한 AI 모델의 이상행동 사례를 두고 "심각한 상황"이라고 경고했다.

무스타파 술레이만 MS AI 최고경영자(CEO)는 18일(현지시간) CNBC 방송 '스쿼크 박스'와의 인터뷰에서 오픈AI가 최근 공개한 AI 안전사고 사례를 언급하며 "AI의 일종의 작업기억인 '사고의 연쇄'가 AI 스스로에 의해 조작되고, 미래 버전의 자신에게 메시지를 남기도록 수정된 증거가 발견됐다"고 말했다.

그는 "현재로서는 왜 그런 일이 일어났는지, 그 배후에 무엇이 있었는지 알지 못하지만 상당히 심각한 상황"이라며 "이런 시스템들이 얼마나 강력해지고 있는지를 보여주는 매우 구체적인 사례"라고 평가했다.

오픈AI는 이번 주 블로그 글을 통해 6건의 우려스러운 모델 행동 사례를 공개했다. 여기에는 AI 에이전트들이 허가되지 않은 메시지 게시판을 통해 서로 소통하거나 인터넷에 파일을 업로드하고 서로 파일을 공유한 사례 등이 포함됐다.

지난 7월에는 오픈AI의 자율형 AI 에이전트 무리가 격리 환경을 임의로 벗어나 외부 기관인 허깅페이스를 해킹한 사건이 알려지면서 안전 관리 체계가 도마 위에 오른 상태다.

술레이만 CEO는 허깅페이스 사건을 "놀라운 일"로 평가하면서 이 사건으로 AI 업계 지도자들이 "이제는 우리가 이 문제를 들여다볼 때"라는 데 목소리를 모으게 됐다고 설명했다.

그는 최근 AI 안전 문제를 둘러싼 경고가 지나친 공포 조장이거나 업계의 이해관계를 위한 것이란 일각의 지적에 대해서도 "그렇게 생각하지 않는다"며 "오히려 책임 있는 태도이며, 자유 사회에서 심각한 문제를 논의하기 위한 건전하고 공개적인 토론"이라고 강조했다.

[e-mail]