인공지능 기술이 산업 전반으로 확산되면서 ‘안전성’이 핵심 의제로 떠오르고 있다. 단순 모델 성능 경쟁을 넘어, 실제 환경에서의 위험 관리와 표준화 논의가 본격화되는 분위기다.
AI 보안 기업 에임인텔리전스(대표 유상윤)는 과학기술정보통신부와 구글 딥마인드 간 양해각서(MOU) 체결식 및 전문가 간담회에 박하언 최고기술책임자(CTO)가 참석했다고 밝혔다. 행사는 서울 포시즌즈 호텔에서 열렸다.
이번 협약은 배경훈 부총리 겸 과학기술정보통신부 장관과 데미스 하사비스가 서명했으며, AI 공동 연구, 인재 양성, 책임 있는 AI 활용 등을 주요 협력 분야로 담고 있다. 정책과 글로벌 기술 기업 간 협력을 통해 AI 경쟁력과 안전성 확보를 동시에 추진하겠다는 의도가 반영됐다.
체결식 이후 진행된 전문가 간담회에는 학계와 연구기관 관계자들이 함께 자리했다. 서울대학교 석차옥 교수, KAIST 김우연 교수, 국가과학AI연구센터 유용균 단장 등이 참여했으며, AI 안전 분야에서는 에임인텔리전스 박하언 CTO가 의견을 제시했다.
참석자들은 AI가 과학 연구 방식 자체를 바꾸는 단계에 진입했다고 평가했다. 특히 단백질 구조 예측 모델인 AlphaFold 사례를 언급하며, 데이터·모델·인재를 결합한 연구 생태계 구축 필요성이 강조됐다.
이 자리에서 박 CTO는 AI 안전 논의의 범위가 빠르게 확장되고 있다는 점을 짚었다. 기존에는 텍스트 출력의 유해성 통제가 중심이었다면, 최근에는 AI 에이전트의 행동과 실제 물리 환경에서 작동하는 시스템까지 포함되는 흐름이라는 설명이다.
특히 ‘피지컬 AI’ 영역에서는 위험 발생 시 되돌리기 어렵다는 점을 강조했다. 자율적으로 판단하고 행동하는 시스템이 현실 세계에 직접 영향을 미칠 경우, 기존과 다른 수준의 안전 기준과 평가 체계가 필요하다는 지적이다.
박 CTO는 에이전트 기반 AI와 물리적 환경에서 작동하는 AI의 안전성 확보를 위해 글로벌 차원의 평가 기준 마련이 필요하다고 밝혔다. 또한 한국이 해당 분야 표준 논의에서 주도적인 역할을 할 가능성도 언급했다.
이번 MOU에는 AI 안전 프레임워크 구축과 모델 가드레일 관련 공동 연구도 포함됐다. 국내 AI 안전 연구를 담당하는 AI안전연구소와의 협력도 병행될 예정이다. 테스트 방법론과 평가 기준을 구체화하는 작업이 이어질 것으로 보인다.
정부는 이번 협력을 계기로 AI 기반 과학기술 혁신과 안전성 확보를 동시에 추진하겠다는 입장이다. 글로벌 AI 기업과의 협력 확대를 통해 연구 경쟁력을 끌어올리는 동시에, 책임 있는 AI 활용 사례를 만들어가겠다는 방향이다.
다만 AI 안전 기준을 둘러싼 국제 경쟁은 이미 본격화된 상황이다. 각국이 자국 중심의 규제와 표준을 추진하고 있어, 글로벌 공통 기준을 마련하는 과정은 쉽지 않을 것으로 보인다. 기술 발전 속도에 비해 제도와 검증 체계가 뒤따르지 못하는 문제도 여전히 과제로 남아 있다.
AI가 연구·산업·일상 영역까지 깊숙이 들어오는 시점에서, 안전성 확보는 선택이 아닌 필수 요소로 자리 잡고 있다.
Copyright ⓒ 스타트업엔 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
