오픈AI, GPT-6 Astra보다 강력한 내부 모델로 밀레니엄 난제 해결 발표

오픈AI 나비에 스토크스 밀레니엄 난제 해법 발표

오픈AI가 GPT-6 아스트라보다 훨씬 강력한 차세대 내부 모델과 대규모 멀티에이전트 시스템을 이용해 약 90년간 풀리지 않았던 나비에 스토크스 방정식의 존재성과 매끄러움 문제에 대한 해법을 도출했다고 발표했다. 이 문제는 클레이수학연구소가 선정한 7개의 밀레니엄 난제 가운데 하나로, 3차원 유체의 운동이 처음에는 매끄럽게 시작하더라도 유한한 시간 안에 수학적 특이점이 발생할 수 있는지를 묻는다.

오픈AI가 공개한 증명은 매끄러운 초기 상태에서 출발한 3차원 비압축성 유체가 일정한 조건 아래 유한한 시간 안에 속도가 무한대로 발산하는 특이점을 형성할 수 있음을 보이는 방식이다. 회사는 이를 통해 클레이수학연구소가 제시한 공식 문제의 C 조건과 D 조건이 성립한다고 밝혔다.

오픈AI는 수학적 논증을 담은 전체 증명과 함께 정리의 각 단계를 컴퓨터가 점검할 수 있도록 Lean으로 형식화한 증명도 공개했다. 문제 해결 과정에는 새로 훈련 중인 내부 모델을 기반으로 한 약 1만 개의 AI 에이전트가 동시에 투입됐으며, 첫 에이전트를 가동한 이후 약 88시간 만에 나비에 스토크스 해법에 도달했다.

그 뒤 GPT-6 아스트라가 약 17시간에 걸쳐 Lean 형식화와 검증 작업을 수행했다. 실제 문제 해결에 사용된 내부 모델은 9월 초 공개된 GPT-6 아스트라보다 수학 벤치마크에서 훨씬 높은 성능을 보이고 있으며 아직 훈련이 진행 중이라고 오픈AI는 설명했다.

매끄러운 유체가 유한한 시간 안에 특이점 형성

나비에 스토크스 방정식은 물과 공기처럼 유체가 어떻게 움직이는지를 설명하는 기본 방정식이다. 항공기 설계와 기상 예측, 혈류 분석 등 광범위한 분야에서 활용되지만, 3차원 조건에서 처음에 매끄럽게 주어진 해가 시간이 지나도 항상 매끄럽게 유지되는지는 오랫동안 증명되지 않았다.

오픈AI가 제시한 결과는 매끄럽게 정지한 상태에서 출발한 유체에 매끄러운 외력이 작용할 때도 특정 형태의 소용돌이가 안쪽으로 말려들면서 점점 길어지고 회전 속도가 빨라질 수 있다는 구조를 이용한다. 중심부의 크기는 계속 작아지지만 회전 속도는 급격하게 증가하며, 결국 유한한 시간 안에 속도가 제한 없이 커지는 특이점이 형성된다는 것이다.

중요한 조건은 이러한 현상이 외부에서 무한대에 가까운 힘을 강제로 가해 만들어지는 것이 아니라 유체 방정식 자체의 운동을 통해 발생해야 한다는 점이다. 오픈AI는 가속도와 압력 기울기, 운동량 전달, 점성 등을 나타내는 항들이 각각 크게 증가하면서도 정교하게 상쇄돼 외력은 끝까지 매끄럽게 유지되는 구조를 구성했다고 설명했다.

동시에 유체의 전체 에너지는 특이점이 형성되는 순간까지 유한하게 유지된다. 이에 따라 처음에는 정상적인 상태였던 3차원 유체가 방정식의 내부 동역학만으로 유한시간 특이점에 도달할 수 있다는 것이 증명의 핵심이다.

1만 개 에이전트 88시간 동안 병렬 탐색

오픈AI의 이번 연구는 하나의 AI 모델에 문제를 입력해 답을 얻는 방식이 아니라, 대규모 에이전트가 서로 다른 접근법을 동시에 탐색하는 구조로 진행됐다. 회사는 8월 28일부터 수학을 포함한 내부 벤치마크에서 이전 모델을 크게 웃도는 성능을 보인 새 모델을 훈련하기 시작했다고 밝혔다.

9월 1일 밀레니엄 난제 일부가 해결됐다는 소문을 접한 뒤 새 내부 모델의 능력을 시험하기 위해 아직 풀리지 않은 밀레니엄 난제 전체와 몇 가지 고난도 문제를 에이전트 시스템에 배정했다. 각 에이전트 그룹에는 서로 다른 형태의 문제와 접근 방식이 주어졌으며, 그룹 내부에서는 에이전트끼리 정보를 교환할 수 있도록 했다.

처음부터 나비에 스토크스 문제 하나에 모든 컴퓨팅 자원을 투입한 것은 아니었다. 약 100개의 에이전트가 50시간가량 작업한 결과 점성을 제거한 오일러 방정식의 정칙성 문제에서 먼저 새로운 반례를 찾아냈고, 연구진은 이를 바탕으로 나비에 스토크스 문제에 성공 가능성이 가장 높다고 판단했다.

이후 다른 밀레니엄 난제에 배치했던 에이전트까지 나비에 스토크스 문제로 이동시키면서 규모를 최대 약 1만 개까지 확대했다. 에이전트들은 여러 접근법을 독립적으로 탐색했고, 중간 단계에서 유용한 결과가 나오면 Codex를 이용해 각 그룹의 아이디어를 통합한 뒤 다시 후속 탐색에 활용했다.

첫 에이전트들이 가동된 뒤 약 88시간이 지난 9월 5일 최종 해법이 도출됐다. 전체 프로젝트에서 에이전트들은 약 490만 개의 메시지를 생성하고 약 3,000억 개의 출력 토큰을 사용했다. 이 가운데 나비에 스토크스 문제 해결 과정에서만 약 270만 개의 메시지와 1,300억 개의 출력 토큰이 사용됐다.

GPT-6 아스트라가 17시간 동안 Lean 검증

해법을 찾은 뒤에는 수학적 논증을 사람이 읽을 수 있는 형태로 정리하는 작업과 함께 Lean을 이용한 형식 검증이 진행됐다. Lean은 수학적 증명의 각 단계가 논리 규칙에 맞는지 기계적으로 확인할 수 있는 정리 증명 도구다.

오픈AI는 GPT-6 아스트라를 투입해 약 17시간 동안 형식화와 검증을 진행했으며, 최종적으로 분석적 증명과 Lean 형식 증명을 함께 공개했다. 새 내부 모델이 해법을 탐색하고, 현재 공개된 최신 모델인 아스트라가 별도의 형식 검증 단계에 투입된 구조다.

회사에 따르면 이번 내부 모델은 GPT-6 아스트라보다 수학 문제 해결 능력이 크게 향상된 상태이며 훈련도 아직 끝나지 않았다. 오픈AI는 이번 결과를 앞으로 공개될 모델들이 현재 어느 수준까지 접근하고 있는지를 보여주는 사례로 제시했다.

오픈AI는 이번 성과가 단일 수학 문제 해결에 그치지 않고 AI를 이용한 과학 연구 방식이 빠르게 변하고 있다는 점을 보여준다고 밝혔다. 여러 에이전트가 동시에 서로 다른 가설을 시험하고 중간 결과를 공유하면서 사람이 수년간 탐색해온 문제 공간을 대규모로 병렬 탐색하는 방식이 실제 난제 해결에 사용됐다는 설명이다.

밀레니엄 상금은 청구하지 않기로

나비에 스토크스 존재성과 매끄러움 문제는 2000년 클레이수학연구소가 선정한 7개 밀레니엄 난제 중 하나다. 각 문제에는 해결자에게 100만 달러의 상금이 걸려 있으며 지금까지 공식적으로 해결된 문제는 푸앵카레 추측 하나뿐이었다.

오픈AI는 이번 결과와 관련해 밀레니엄 상금 100만 달러를 청구하지 않을 것이라고 밝혔다. 이번 연구를 공개한 목적은 상금을 받는 것이 아니라 최근 AI 시스템의 수학·과학 연구 능력이 얼마나 빠르게 발전하고 있는지를 보여주는 데 있다는 설명이다.

회사는 이번 결과를 AI 개발의 최종 단계가 아니라 현재 진행 중인 성능 향상의 한 시점을 보여주는 사례라고 규정했다. 새 내부 모델의 훈련을 계속하면서 모델의 능력과 작동 방식을 분석하고, 향후 더 높은 수준의 과학·수학 연구에 사용할 수 있도록 개발 속도와 운영 방식을 조정할 계획이다.

오픈AI는 9월 8일 나비에 스토크스 문제의 전체 수학적 증명과 Lean 형식 증명을 공개했다. 약 1만 개의 에이전트가 88시간 동안 진행한 병렬 탐색을 통해 유한시간 특이점의 존재를 구성했고, 이후 GPT-6 아스트라가 추가 17시간 동안 형식 검증을 수행했다.