전남대·마틸로에이아이, 신약 설계 AI 돌파구…"약물 골격 유지하며 활성 극대화"

(사진=전남대)

인공지능(AI)이 제약·바이오 분야의 가장 정밀하고 까다로운 영역인 '신약 후보물질 설계'에서 핵심적인 기술적 돌파구를 마련했다. 

그동안 생성형 AI 모델들이 정성적인 소통이나 논문 요약에는 뛰어난 반면, 유전자 가위(CRISPR) 도너 설계나 분자 구조식 도출 등 0.01%의 오차도 허용치 않는 정밀 계산과 구조 설계에서는 낙제점에 가까운 한계를 보여왔던 상황에서, 국내 연구진이 약물의 핵심 골격을 완벽히 보존하면서도 약효 활성도를 극대화하는 생성형 AI 프레임워크를 개발하는 데 성공했다.

전남대학교 공과대학 유선용 교수 연구팀과 교원창업 기업인 ㈜마틸로에이아이(대표 유선용)는 협력을 통해 ‘분자 골격을 보존하면서 활성도 높은 신약 후보물질을 설계하는 AI 기술’을 개발했다고 밝혔다.

전남대 지능전자컴퓨터공학과에서 석사 학위를 취득한 박준영 연구원이 제1저자로 수행한 이번 연구("다중 스케일 어텐션 메커니즘을 갖춘 스캐폴드 인식 트랜스포머를 통한 새로운 분자 설계")는 화학정보학 분야 세계 최고 권위의 SCI 국제학술지인 'Journal of Cheminformatics' (Impact Factor 7.9, JCR 상위 8.1%)에 게재가 승인되며 기술의 혁신성과 과학적 타당성을 국제적으로 인정받았다.

'스캐폴드 인식 트랜스포머' 탑재…AI의 정밀 분자 설계 한계 넘었다

이번 연구의 핵심은 약물의 핵심 골격 구조인 '스캐폴드(scaffold)'를 명시적으로 반영하면서 새로운 활성 분자를 생성해 내는 기술이다. 스캐폴드 기반 분자 생성은 신약 개발의 수많은 과정 중에서도, 기존 약물의 중심 뼈대는 유지한 채 주변의 화학적 변형만을 탐색해 약효를 최적화해야 하는 '신약 후보 최적화(lead optimization) 단계'의 가장 까다로운 핵심 과제로 꼽힌다.

연구팀은 생성형 AI의 기반인 트랜스포머(Transformer) 분자 생성 모델과 분자의 그래프 구조를 분석하는 그래프 어텐션 네트워크(Graph Attention Network, GAT) 기반의 결합 친화도 예측 모델을 정교하게 결합한 독창적인 프레임워크를 제안했다.

이 시스템은 사용자가 특정 분자 골격을 지정하면, AI가 그 골격 주변을 탐색하며 약물의 활성(효능)과 신규성(특허 가능성)을 동시에 확보한 후보 분자를 자동으로 생성해 낸다. 

서로 다른 두 개의 단백질 계열 타겟을 대상으로 진행한 검증 실험에서, 이 모델은 기존의 글로벌 비교 AI 모델들을 제치고 가장 높은 예측 결합 친화도를 달성했다. 그러면서도 생성된 분자들의 다양성과 신규성을 탄탄하게 유지했으며, 모델이 스스로 식별해 낸 부분 구조가 실제 FDA 승인 약물의 알려진 결합 부위와 정확히 일치함을 실험적으로 검증해 냈다.

의약화학자가 믿고 쓰는 설명 가능한 AI

이번 기술 개발은 신약 개발 초기 단계의 지형을 바꿀 것으로 기대된다. 사용자가 원하는 특정 스캐폴드 주변에서 최적의 후보 분자를 효율적으로 탐색해 낼 수 있기 때문에, 기존에 수년이 걸리던 신약 후보 물질 발굴 단계의 시간과 수십억 원에 달하는 비용을 획기적으로 절감할 수 있다.

특히 최근 글로벌 바이오 테크 시장에서 화두가 되고 있는 '설명 가능한 AI'의 가치를 구현했다는 점이 독보적이다. 본 프레임워크는 AI가 특정 분자 구조를 왜 추천했는지에 대한 판단 근거를 의약화학자(인간 전문가)가 직접 검증하고 시각적으로 확인할 수 있도록 설계됐다. 

이 덕분에 연구원들이 AI의 도출 값을 맹신하지 않고 과학적 근거에 기반해 후속 실험으로 매끄럽게 연결할 수 있어, 실제 신약 개발 산업 현장에서 생성형 AI 모델의 신뢰도를 극대화할 수 있을 것으로 평가받는다.

한국인 암 특화 AI 신약 플랫폼으로 진화

유선용 교수는 “이번 연구는 방대한 약물 후보 분자 데이터와 고도화된 생성형 AI 기술을 유기적으로 결합해, 인공지능이 인간 과학자 수준으로 신약 후보물질을 정밀 설계할 수 있음을 국제 무대에 입증한 쾌거”라고 소감을 밝혔다.

유 교수는 현재 생물정보 데이터와 AI 기술을 결합한 바이오 통합 지능형 플랫폼 기업인 ㈜마틸로에이아이를 창업해 이번 연구 성과의 본격적인 산업화 및 비즈니스 모델 구축에 속도를 내고 있다.

향후 연구팀은 전남대학교와 ㈜마틸로에이아이가 주도적으로 참여하고 있는 보건복지부 산하 한국보건산업진흥원의 보건의료기술연구개발사업인 ‘K-HOPE: 한국인 암 특화 디지털 스마트 임상시험 플랫폼 구축’ 국가연구과제(조상희 단장)와 본 기술을 전면 연계할 방침이다. 

이를 통해 향후 서양인 중심의 데이터에서 벗어나 한국인 암 환자의 특화 데이터를 기반으로 표적 항암제 등을 설계하는 ‘한국인 맞춤형 암 특화 AI 신약 개발 플랫폼’으로 발전시켜 나갈 계획이다.