인공지능(AI) 혁명이 모니터 속 모델을 넘어 현실의 생산설비로 급속히 확장되고 있다. 지능은 소프트웨어만으로 생산되지 않는다. 연산을 수행할 실리콘과 이를 깨울 전력, 24시간 가동되는 데이터센터와 네트워크가 필요하고 이 거대한 생산능력을 계속 늘리려면 장기자본까지 따라붙어야 한다. AI 데이터센터는 서버를 쌓아놓은 창고가 아니라 전력을 투입해 지능 연산을 출하하는 공장이고 반도체는 그 공장의 핵심 생산설비다. AI에서 로봇·자율주행·피지컬 AI로 이어지는 산업혁명이 이제 초입에 들어선 만큼 지능생산은 과거 반도체처럼 한 차례 경기 사이클에 올라탔다 내려오는 산업으로만 볼 수 없다.
이재명 정부 역시 800조원 규모의 반도체 투자와 대규모 AI 데이터센터, 전력망 확충, 정책금융을 동시에 추진하면서 국가 전체를 거대한 지능생산 기반으로 전환하는 승부에 들어갔다. 마침 대한민국은 세계 최고 수준의 메모리 제조능력을 비롯해 파운드리·첨단 패키징·전력산업·데이터센터·통신망까지 지능생산에 필요한 물리적 기반을 두루 갖춘 몇 안 되는 국가다. 그러나 메모리 강국이라는 하나의 좌표만으로는 이 기회를 잡을 수 없다. 메모리와 로직, 파운드리와 패키징이 연결되고, 여기서 생산된 실리콘이 전력·데이터센터·네트워크를 거쳐 실제 연산으로 전환되며 금융이 다시 다음 생산설비의 증설을 뒷받침해야 하나의 산업이 완성된다.
여성경제신문은 2026 산업포럼 '대한민국 지능생산 강국 도약'을 앞두고 설계→파운드리→메모리→패키징→전력→데이터센터→네트워크→금융으로 이어지는 지능의 물리적 생산경로를 추적한다. 총론과 10부작 'K-지능 열전', 포럼 현장 보도를 통해 세계 최강의 메모리 제조기반을 초연결 지능생산 생태계로 확장할 수 있는지, 데이터센터를 전력을 지능으로 바꾸는 공장으로 키울 수 있는지, 천문학적인 투자를 감당할 금융 인프라까지 구축할 수 있는지를 살펴본다. 이재명 정부의 메가프로젝트가 위험한 대규모 투자로 끝날지, 대한민국을 AI 소비국에서 세계적인 지능생산 강국으로 끌어올릴 천재일우의 기회가 될지도 따져본다. [편집자 주]
데이터는 움직이기 싫어한다. 인공지능(AI)이 계산할 숫자를 그래픽처리장치(GPU)까지 가져오는 데도 시간과 전력이 필요하기 때문이다. GPU가 빨라질수록 이 문제는 더 커진다. 연산기는 수많은 곱셈과 덧셈을 순식간에 처리할 수 있는데 정작 계산할 데이터가 도착하지 않으면 멈춰 기다려야 한다. AI 반도체가 HBM(고대역폭메모리)을 GPU 바로 옆에 붙이기 시작한 이유다. 같은 문제를 칩 밖으로 확대하면 방향이 뒤집힌다. 병원과 제약사, 공장에 쌓인 거대한 데이터를 중앙 데이터센터까지 계속 운반하는 대신 AI 계산을 데이터가 있는 곳으로 보내기 시작한다. 칩 안의 HBM에서 병원 서버의 연합학습까지 서로 다른 기술을 관통하는 원리는 하나다. 계산과 데이터 사이의 거리를 줄이는 것이다.
AI 컴퓨터 내부에서는 데이터가 여러 층을 이동한다. GPU가 바로 사용할 수 있는 작은 메모리에서 시작해 캐시와 HBM, 서버의 주기억장치와 저장장치까지 계산기에서 멀어질수록 거쳐야 할 계층이 늘어난다. 데이터센터 밖에 있는 정보를 사용하려면 네트워크까지 통과해야 한다. 병원 전자의무기록(EMR)이나 제약사의 실험 데이터, 공장의 센서 정보라면 다른 기관의 서버와 통신망까지 찾아가야 한다.
AI 반도체 산업은 이 이동거리를 줄이는 방향으로 발전했다. 대표적인 결과물이 HBM이다. 기존 D램을 평면으로 늘어놓는 대신 여러 개의 D램 다이를 수직으로 쌓고 넓은 인터페이스로 GPU와 연결한다. GPU가 필요로 하는 막대한 데이터를 짧은 시간 안에 공급하기 위해 메모리를 연산기 가까이 끌어당긴 것이다.
HBM 경쟁을 메모리 속도 경쟁으로만 보면 이 구조가 보이지 않는다. GPU의 계산성능이 높아질수록 메모리가 데이터를 공급하는 속도가 따라오지 못하면 비싼 연산기가 놀게 된다. 엔비디아의 AI 가속기 옆에 SK하이닉스와 삼성전자의 HBM이 붙는 것은 더 많은 데이터를 저장하기 위해서만이 아니다. 데이터가 계산기까지 움직이는 시간과 병목을 줄여 실제 연산량을 끌어내기 위해서다.
GPU 가까이 붙인 HBM
데이터센터 밖에선 반대
계산기가 데이터 찾아가
문제는 AI 컴퓨터의 경계를 서버 밖으로 넓히는 순간부터 달라진다. 인터넷에 공개된 문서처럼 쉽게 복제할 수 있는 데이터만 존재하는 것이 아니다. 병원에는 환자의 진료·투약·검사 기록이 있고 제약사에는 후보물질과 임상시험 정보가 있다. 제조공장에는 설비의 진동과 온도, 압력, 고장 이력이 쌓인다. 금융회사에는 거래정보가 있다. 데이터가 만들어진 장소와 이를 계산할 GPU가 서로 다른 곳에 존재한다.
중앙집중식 AI는 이 데이터를 계산기가 있는 곳으로 가져온다. 원본을 전송하고 저장한 뒤 학습에 사용할 형태로 정리한다. 데이터가 계속 갱신되면 복제와 동기화도 반복해야 한다. 규모가 커질수록 네트워크와 저장장치가 더 필요해진다.
산업 데이터에는 물리적인 전송비용 외의 가격표도 붙는다. 개인정보와 기업기밀을 다른 장소로 옮기는 순간 접근권한과 보안, 사용목적, 사후 책임을 관리해야 한다. 의료처럼 원본 데이터의 외부 반출 자체가 어려운 산업에서는 중앙에 GPU를 아무리 많이 설치해도 데이터를 가져오지 못해 계산할 수 없는 영역이 생긴다.
결국 선택지는 두 가지다. 데이터를 계속 계산기로 가져오거나 계산기를 데이터 가까이 보내는 것이다.
한국제약바이오협회의 K-MELLODDY(케이멜로디)는 두 번째 방법을 실제 국가 연구개발(R&D) 사업으로 구현하고 있다. 보건복지부와 과학기술정보통신부가 공동 지원하는 K-멜로디는 2024년부터 2028년까지 병원·제약사·연구기관이 보유한 데이터를 외부로 반출하지 않고 공동으로 AI를 학습하는 연합학습(Federated Learning) 체계를 구축한다.
작동방식은 중앙집중식 AI와 반대다. 병원의 환자정보를 중앙 데이터센터로 보내는 대신 AI 모델을 각 기관의 계산환경으로 보낸다. 각 기관은 내부 데이터로 모델을 학습하고 원본 대신 학습 결과를 다시 보낸다. 중앙에서는 여러 기관에서 돌아온 결과를 결합해 모델을 갱신한다. 데이터는 병원과 기업에 남아 있고 계산과 학습 결과가 네트워크를 움직인다.
김화종 K-MELLODDY 사업단장은 본지 인터뷰에서 이 구조를 두고 “AI 머신러닝을 위해 반드시 원본 데이터를 물리적으로 이동시켜야 한다는 기술적 강박에서 벗어나야 한다”고 말했다.
17곳은 프라이빗 클라우드
3곳엔 계산기 직접 설치
20개 기관 하나의 학습망
K-멜로디에서는 이 원리가 실제 하드웨어 배치까지 바꿨다. 사업단에 따르면 플랫폼에 참여한 20개 기관 가운데 17곳은 프라이빗 클라우드 환경을 이용했다. 각 기관의 보안 기준에 따라 클라우드 이용이 가능한 데이터를 해당 환경에서 계산하는 방식이다.
서울대병원과 가톨릭대병원 등 3개 기관은 달랐다. 내부 규정상 의료 데이터를 클라우드 환경에 올릴 수 없었다. 데이터를 계산기가 있는 클라우드로 가져오는 길이 막힌 셈이다.
사업단은 반대로 계산기를 데이터 쪽에 놓았다. 해당 기관에는 클라우드 이용비용에 상응하는 약 7000만원 규모의 예산을 투입해 자체 온프레미스 서버를 구축했다. AI 모델이 병원 내부망의 서버에서 데이터를 학습한 뒤 결과만 외부로 전달할 수 있도록 한 것이다. 데이터가 컴퓨터를 찾아간 것이 아니라 컴퓨터가 데이터 옆에 세워졌다.
이 구조를 확대하면 20개 기관은 서로 떨어진 독립적인 서버인 동시에 하나의 AI 학습망을 구성하는 계산노드가 된다. 중앙에 모든 데이터를 쌓은 초대형 데이터센터 하나와는 물리적 구조가 다르다. 계산능력과 데이터가 여러 장소에 분산돼 있고 네트워크가 학습 결과를 연결한다.
K-멜로디는 플랫폼 개발과 데이터 공급·활용, AI 모델 개발을 세 축으로 추진하고 있다. 총 31개 세부과제를 중심으로 에비드넷과 대웅제약, 유한양행, 한미약품, 서울대병원, 한국파스퇴르연구소 등 제약사·병원·연구기관이 참여한다. 고려대와 KAIST, LG화학, 숭실대 등도 연합학습 기반 AI 신약개발 연구에 참여하고 있다.
목표 가운데 하나는 ADMET 예측 AI 모델이다. ADMET은 신약 후보물질이 인체에서 흡수되고 분포·대사·배설되는 과정과 독성을 뜻한다. 신약 후보물질 가운데 실패할 가능성이 높은 물질을 실제 임상 단계에 들어가기 전에 걸러내려면 여러 제약사와 병원의 데이터가 필요하다.
기존 방식에서는 이 데이터를 한곳에 모으는 단계부터 문제가 발생했다. 환자의 개인정보뿐 아니라 제약사가 막대한 연구개발비를 투입해 축적한 후보물질 정보까지 포함돼 있기 때문이다. 연합학습에서는 각 기관이 원본을 보유한 채 공동 모델의 성능 향상에 참여할 수 있다.
데이터 이동 0은 아냐
무엇을 보낼지가 핵심
원본 대신 학습결과 이동
연합학습이라고 데이터 이동 자체가 사라질까. AI 모델을 각 기관에 전달하고 학습 결과를 다시 모으려면 통신망이 필요하다. 모델 규모가 커지고 학습 횟수가 늘어날수록 네트워크를 통해 오가는 정보량도 증가한다.
바뀌는 것은 무엇을 움직이느냐다. 중앙집중식 구조가 원본 데이터를 복제해 계산기가 있는 곳으로 이동시킨다면 연합학습은 원본을 현장에 고정하고 모델과 학습 결과를 이동시킨다. 데이터의 크기와 모델 규모, 네트워크 환경에 따라 어느 구조가 효율적인지는 달라질 수 있다. 의료처럼 원본 데이터 이동에 높은 보안·법적 비용이 붙는 영역에서는 계산을 현장으로 보내는 구조의 가치가 커진다.
데이터가 만들어지는 장소마다 성격이 다르다는 점도 중요하다. 특정 병원의 환자 연령과 질환 분포를 학습한 AI를 다른 병원에 그대로 적용하면 데이터 분포 차이 때문에 성능이 떨어질 수 있다. 새로운 기관에 들어갈 때마다 데이터를 다시 확보하고 모델을 학습해야 하는 이유다.
연합학습은 처음부터 서로 다른 데이터 분포를 가진 여러 기관을 하나의 학습과정에 참여시킨다. 중앙 데이터센터가 현실의 데이터를 한곳에 모아 하나의 데이터셋으로 만드는 대신 현실에 흩어진 데이터 생산지를 그대로 계산망의 일부로 편입하는 방식이다.
병원에서 공장으로
굴착기·엘리베이터도 노드
산업 전체 분산컴퓨터로
이 원리는 신약개발에서 끝나지 않는다. 김 단장이 본지 인터뷰에서 확장 가능성을 설명하며 들었던 사례는 지게차와 굴착기, 엘리베이터다. 산업장비가 작동하면 진동과 온도, 운행시간, 부품 상태를 비롯한 데이터가 계속 발생한다. 장비를 사용하는 기업이 이 원본 데이터를 제조사나 외부 AI 기업에 모두 넘기지 않더라도 현장에서 모델을 학습시키고 결과를 결합하면 고장예측과 유지보수 모델을 공동으로 만들 수 있다.
공장도 같은 구조가 가능하다. 생산설비에서 발생하는 데이터가 공장 밖으로 나오기 어렵다면 중앙 데이터센터가 모든 정보를 가져가는 대신 공장 자체가 계산노드가 된다. 중앙의 대규모 AI 팩토리는 공통 모델과 막대한 계산량을 담당하고 산업현장의 컴퓨터는 각자의 데이터로 모델을 학습한다. 네트워크가 양쪽의 계산을 연결한다.
AI 산업은 더 많은 데이터를 모으는 경쟁처럼 보였지만 반도체의 발전 방향부터 이미 다른 답을 보여줬다. GPU의 계산량이 커질수록 데이터를 더 멀리 운반한 것이 아니라 HBM을 GPU 바로 옆에 붙였다. 계산과 데이터 사이의 거리를 줄이는 것이 더 많은 연산을 실제 성능으로 바꾸는 방법이었다.
데이터센터 밖에서도 같은 문제가 시작되고 있다. 병원과 제약사에는 임상정보가 있고 공장에는 설비 데이터가 있으며 자동차와 산업장비에서는 센서 데이터가 계속 만들어진다. 모든 원본을 하나의 거대한 데이터센터로 운반하는 대신 데이터가 만들어지는 장소를 계산노드로 바꾸면 중앙 AI 팩토리의 경계도 달라진다.
HBM은 데이터를 계산기 쪽으로 움직였다. 연합학습은 계산을 데이터 쪽으로 움직인다. 방향은 반대지만 목적은 같다. 계산과 데이터 사이에서 불필요하게 움직이는 것을 줄이는 것. K-멜로디가 병원과 제약사에 만들고 있는 분산 계산망은 그 원리가 칩을 넘어 산업 전체로 확장되는 실험장이다.
☞연합학습(Federated Learning)=원본 데이터를 중앙에 모으지 않고 데이터가 저장된 각 기관에서 AI 모델을 학습한 뒤 학습 결과를 결합해 하나의 모델을 개선하는 방식이다.
☞온프레미스(On-premise)=기업이나 기관이 외부 클라우드 대신 자체 공간에 서버와 저장장치 등 컴퓨팅 인프라를 직접 구축해 운영하는 방식이다.
※아래 배너를 클릭하면 2026 산업포럼 사전 신청 등록페이지로 연결됩니다.
여성경제신문 김현우 기자
hyunoo9372@seoulmedia.co.kr
*여성경제신문 기사는 기자 또는 외부 필자가 작성 후 AI를 이용해 교정·교열하고 문장을 다듬었음을 밝힙니다. 기사에 포함된 이미지 중 AI로 생성한 이미지는 사진 캡션에 밝혀두었습니다.
Copyright ⓒ 여성경제신문 무단 전재 및 재배포 금지
