[이슈메이커] ‘안전한 초지능’ 개발 목표로 업계 혁신 도모

[이슈메이커=손보승 기자]

‘안전한 초지능’ 개발 목표로 업계 혁신 도모

인공지능(AI)의 사용이 세계적으로 크게 확대되면서 고성능 인공지능 도구 개발을 위한 기술 기업들의 경쟁 역시 가속화되고 있다. 하지만 이로 인해 AI 기업들이 시장 선점을 위한 무한경쟁에 돌입한 나머지 사용자들의 안전성과 신뢰성을 제공할 수 있는 인공지능의 개발을 등한시하고 있다는 지적도 나온다.

 

ⓒPixabay

 

샘 올트먼과 결별한 일리야 수츠케버의 새 도전
인공지능 안전성에 대한 논의는 업계의 뜨거운 감자다. 미국 캘리포니아에서는 AI 기업에 대한 안전 규제를 강화하려는 법안이 논의 중인데, 이에 대해 오픈AI와 구글은 반대를, 앤트로픽과 xAI는 지지를 표명하고 있다. 논란이 이어지는 가운데 기술 기업들의 안전을 도외시하는 행태로 인해 사내에서 연구원들과 직원들이 안전불감증을 지적하며 줄지어 퇴직하는 등 만만치 않은 후폭풍 역시 초래하고 있다.

  이처럼 인공지능 기술 기업들에 대한 비난이 지속해서 제기되면서 퇴직자들을 중심으로 전성에 중점을 둔 인공지능 기업이 속속 등장하고 있다. 오픈AI의 공동 창립자 겸 전 수석 과학자인 일리야 수츠케버는 전 오픈AI 멤버 다니엘 레비와 전 애플 인공지능 책임자인 다니엘 그로스와 함께 ‘안전한 초지능’ 개발에 초점을 맞출 새로운 인공지능 기업 ‘세이프 슈퍼인텔리전스(SSI)’을 출범시켰다. 러시아 태생의 수츠케버는 2015년 샘 올트먼 등과 함께 오픈AI를 설립하고 챗GPT 개발에도 핵심적인 역할을 한 인물이다. 하지만 AI 개발 속도와 안전성 문제 등을 두고 올트먼과 이견을 보이면서 지난해 11월 오픈AI 이사회의 올트먼 CEO 해임을 주도한 바 있다.

  세이프 슈퍼인텔리전스에 따르면 초지능은 ‘손이 닿을 수 있는 곳’에 있으며 인간에게 안전하다는 것을 보장하는 것은 ‘우리 시대의 가장 중요한 기술적 과제’다. 이에 기술을 유일한 제품으로 삼고 안전을 주요 목표로 하는 ‘직진 안전 초지능(SSI)’ 연구소가 될 계획이라고 천명했다. 세이프 슈퍼인텔리전스는 “우리는 직진 안전 초지능에 집중하는 데 전념하는 세계 최고의 엔지니어와 연구원으로 구성된 간결하고 균열이 없는 팀을 구성하고 있다”고 전했다.

  SSI는 안전을 추구하면서 빠르게 역량을 향상하는 것을 목표로 하고 있다. 회사의 중점적인 접근 방식은 경영 및 간접비, 단기적인 상업적 압력 및 제품 주기가 목표에서 벗어나지 않는다는 걸 의미한다. 세이프 슈퍼인텔리전스는 “이렇게 하면 안심하고 평화롭게 확장할 수 있다”고 강조하며 투자자들이 다른 모든 것보다 안전한 개발에 우선순위를 정하는 접근 방식에 동참하고 있다고 덧붙였다.

 

오픈AI의 공동 창립자 겸 전 수석 과학자인 일리야 수츠케버는 ‘안전한 초지능’ 개발에 초점을 맞출 새로운 인공지능 기업 ‘세이프 슈퍼인텔리전스(SSI)’을 출범시켰다. ⓒ스탠퍼드대학교

 

창립 3개월 만 10억 달러 투자 유치
한편 세이프 슈퍼인텔리전스는 창립 3개월 만에 10억 달러(약 1조 3천억 원)의 투자금을 유치하는 데 성공했다. 미국 유명 벤처캐피털(VC) 앤드리슨 호로비츠와 세쿼이아 캐피털, SV 에인절 등이 투자자로 참여한 것으로 전해진다. 특히 이번 펀딩에서 50억 달러의 기업 가치를 평가받은 것으로 알려졌다. 2024년 3분기 글로벌 벤처캐피탈(VC) 투자 규모가 7년 만에 최저치를 기록한 걸 고려하면 이례적 결과라 할 수 있다. 글로벌 회계·컨설팅 기업 KPMG의 ‘2024 3분기 VC 투자동향’ 보고서에 따르면 올해 2분기 955억 달러였던 VC 투자 규모는 3분기 701억 달러로 대폭 감소했으며, 같은 기간 거래 건수도 9,270건에서 7,277건으로 하락했다. 그러나 투자심리 위축에도 현시점 혁신 기술로 꼽히는 AI에 대한 관심은 남달라 거래 규모 기준 상위 10대 거래 가운데 6건이 AI에 집중됐다.

  특히 세이프 슈퍼인텔리전스는 10대 투자 리스트 기업이 모두 시리즈 B~F 및 후기 단계인 것과 달리 초기 단계에서 거액을 투자받은 점을 주목할 만하다. 이는 수츠케버의 화려한 이력과 더불어 AI 안전에 대한 경각심이 높아지는 추세가 맞물렸다는 평가다.

  SSI는 이번 투자금을 통해 컴퓨팅 파워를 확보하고 최고의 인재를 영입할 계획이다. 현재 10명의 직원으로 구성된 연구 및 엔지니어 팀을 운영하고 있으며 향후 2년간 연구 개발(R&D)에 집중할 예정이다. 그로스는 “우리는 연구와 제품 개발에 집중할 것이며, 시장에 출시하기 전에 R&D에 몇 년을 투자할 예정”이라고 밝혔다. AI 안전성을 최우선으로 고려하며 인류의 미래를 안전하게 이끌겠다는 비전을 제시하는 SSI의 새로운 도전이 어떤 결과를 낳을지 앞으로의 행보에 귀추가 주목된다.