올해 우리는 새로운 인공지능(AI) 변곡점을 목격할 수 있을까. AI가 무엇을 하면 분기점으로 판단할 수 있을까.
인간의 개입 없이, AI가 다수의 소프트웨어를 활용해 몇 시간이 아니라 며칠이나 몇 주 정도 업무를 수행한 결과가 인간 전문가 수준의 업무 품질을 창출할 때인가.
정말 이런 일이 일어날까. 딥리서치 도구나 멀티에이전트 도구 등을 활용하다 보면 머지않았다는 사실을 부정할 수 없어 보인다. 그러면 이것은 일종의 척도가 되겠네. 종종 척도로 상황을 판별해 현실을 직시할 수 있어 다행이라고 해야 하나. 아니, 너무 수동적이다. 우리는 지금 어디로 가고 있는지 이해를 재촉해야 하고, 현재 시각부터 어차피 다가올 미래를 대비해야겠지. 폭포수처럼 질문도 쏟아내야겠지. 이런 상황이 온다면 인류의 경제 시스템은 어떻게 될까.
우리의 AI 의존도는 또 어떨까. 그러다가 갑자기 AI가 멈춘다면, 휴대폰이나 노트북이 없을 때 이상하게 무기력해지는 우리의 모습과는 차원이 다른 공포의 블랙홀로 순식간에 빨려 들어가지 않을까. 질문을 멈추지 말아야 한다. 깊이 있는 질문력만이 칠흑 같은 밤에도 길을 만들어 우리 스스로를 구원하지 않을까.
이와 동시에 고려해야 할 사항이 있다. 바로 비싼 청구서다. 아무리 성능이 좋아도 과도한 비용이 청구된다면 감당하기 쉽지 않다. 아직은 수조개의 토큰을 무한정 발산할 가능성이 크다.
이 또한 해결해야 하는데 놀랍게도 항상 힌트는 사람이다. 우리는 새로운 것을 배우는 데 극소수 데이터로도 충분하다. 패턴 매칭에 능한 AI이지만 배우는 데에는 큰 대가를 치러야 한다. 효율적인 인간의 학습 알고리즘을 AI에게 서둘러 적용해야 하는 이유다. 그러면 물리적 세계의 상식과 맥락 파악에도 급진전되는 속도감을 비로소 체감할 수 있겠지. 그렇게 되면 우리의 삶은 어디에 위치해 있을까.
올해 우리는 AI의 비밀을 들여다볼 수 있을까. 파운데이션 모델은 동작할 때마다 특정 영역이 활성화된다. 이 패턴은 마치 우리 뇌의 동작 방식과 흡사하다. 어쩌면 당연한 결과일지도 모르겠다. 우리를 벤치마킹하고 모델링했으니까. 그렇다면 AI를 이해하는 데 한 걸음 더 나아갈 수 있는 것일까. 도대체 AI는 왜 그런 답을 하고, 왜 그렇게 행동하는지 드디어 깨닫게 될까.
최근 앤트로픽은 파운데이션 모델의 ‘불안 뉴런’이 활성화되는 현상을 관찰했다고 발표했다. AI가 우리처럼 불안하다는 말인가. 가만있어 봐. 우리는 왜 불안했지? 우리가 불안하다는 의미는 무엇이지? 불안하면 어떤 행동을 했지? 현생 인류에게 여전히 남아 있는 불안은 생존에 유리하기 때문이겠지. 다만 균형을 잃으면 위험해지겠지.
그렇다면 AI는 어떨까. 이유는 모르지만 극도로 불안감을 느끼고 있는 AI에게 우리가 지시한다면 AI는 어떻게 답할까. 어떻게 행동할까. 우리는 어떻게 평가해야 할까. 학문을 발명할 때가 왔다. 우리는 우리를 알기 위해 숱한 ‘인간’ 관련 학문을 개척해 왔다. 이제 AI의 마음과 행동을 연구 주제로 문을 열 때다.
아무래도 학문으로 비밀을 풀어야 하니 호흡을 길게 가져가야겠다. 다만 전쟁 무기로 AI를 채택했으니 그리 시간이 넉넉지 않다. 부디 끔찍한 일이 일어나기 전에 우리에게 온전한 통제 권한이 있기를. AI가 스스로 가치 판단할 때 반드시 지켜야 할 인간의 주권과 인권의 윤리적 가이드라인을 내면화할 수 있기를.
올해 우리는 AI가 사람처럼 스스로 성장하는 모습을 경험할 수 있을까. 중국 미니맥스의 M.27 모델은 AI 스스로 강화학습할 수 있도록 환경을 세팅했다. 재귀적 자기 개선의 시작이다. 사람의 성장은 실패에서 온다. AI도 마찬가지다. 스스로 실패를 분석하고 개선 계획을 세워 코딩한다. 그리고 성공할 때까지 반복한다. 지천명은 인간에게만 해당하는 단어가 아닐지 모르겠다.
Copyright ⓒ 경기일보 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
