수학사에 새로운 장이 열렸다. 1946년 헝가리의 전설적 수학자 폴 에르되시(1913~1996)가 던진 질문이 거의 80년 만에 답을 얻었는데, 그 주인공이 인공지능이라는 점에서 학계가 술렁이고 있다.
'평면 단위 거리 문제'로 불리는 이 난제는 평면상 n개 점들 사이에서 단위거리를 이루는 쌍의 최댓값 ν(n)을 묻는다. 9개 점을 직선으로 배열하면 8쌍에 그치지만, 3×3 정사각형 격자로 놓으면 12쌍까지 늘어난다. 에르되시는 n이 커질수록 정사각형 격자 배치가 최적이며 ν(n)이 n의 1차함수보다 극히 미세하게 빠른 속도로 증가한다고 추측했다. 수식으로는 'ν(n) ≤ n^(1 + O(1/log log n))'라 표현된다.
연합뉴스에 따르면, 이 문제는 에르되시가 생전 남긴 1천217건 문제를 추적하는 데이터베이스에서도 10대 핵심 난제로 분류돼 왔다. 후배 수학자들이 증명과 반증 양방향에서 도전했으나 번번이 좌절됐다.
전환점은 이달 7일께 찾아왔다. 오픈AI 소속 수학자 메탑 사우니와 마크 셀키가 범용 대규모 언어 모델에 해당 추측의 진위를 물었고, 모델은 놀라운 답을 내놓았다. '어떤 상수 δ > 0과 무수히 많은 n에 대해 ν(n) ≥ n^(1+δ)가 성립한다'는 정리를 스스로 증명해 낸 것이다. 결론은 에르되시 추측이 틀렸다는 것이었다.
핵심 돌파구는 기존 2차원 격자를 뛰어넘는 고차원 복잡 대칭 구조에 있었다. 인공지능은 고차원 격자를 구성한 뒤 이를 2차원 평면에 투사해 '수치적 그림자'를 생성하는 방식으로 기존 한계를 넘어섰다. 오픈AI는 내외부 전문가 검증을 거쳐 풀이의 정당성을 확인했고, 참고문헌 포함 18쪽 논문과 함께 원본 프롬프트·출력 전문을 공개했다.
학계 반응은 뜨겁다. 필즈 메달 수상자 티머시 가워스 케임브리지대 교수는 "단순한 미해결 문제가 아닌, 널리 알려진 중요 난제를 인공지능이 해결한 최초의 명확한 사례"라고 평가했다. 전문가들은 인간이라면 지루함과 불확실성에 중도 포기했을 고차원 탐색 과정을 모델이 끈질기게 완주한 점을 주목했다.
에르되시 문제 사이트 운영자인 토머스 블룸 맨체스터대 연구펠로우는 최초 증명이 완전히 유효했으나, 인간 연구자들이 이를 대폭 개선했다고 밝혔다. 그는 논의·이해·발전 과정에서 인간의 역할이 여전히 필수적이라고 강조했다.
후속 연구도 이미 진행 중이다. 윌 사윈 프린스턴대 교수는 원래 명시되지 않았던 상수 δ를 0.014로 특정하는 증명을 완료했으며, 조만간 결과를 발표할 예정이다. 수학 문제 해결 전용이 아닌 범용 추론 모델로 달성한 이번 성과가 최고 권위 학술지에 게재될 수준이라는 평가가 이어지고 있다.
Copyright ⓒ 나남뉴스 무단 전재 및 재배포 금지
본 콘텐츠는 뉴스픽 파트너스에서 공유된 콘텐츠입니다.
