오픈AI, 나비에–스토크스 밀레니엄 상 문제 해법 공개

오픈AI는 2026년 9월 8일, 밀레니엄 상 난제인 나비에–스토크스 존재와 평활성 문제의 해법을 공개했다. 내부 시스템이 작성한 해석적 증명과 린(Lean) 형식화는, 정지해 있던 매끄러운 3차원 비압축성 유체에 매끄러운 외력을 가하면 에너지가 끝까지 유한해도 유한 시간 안에 속도가 한없이 커질 수 있음을 보인다. 오픈AI는 이 결과로 밀레니엄 상을 청구하지 않겠다고 밝혔다.

스파게티처럼 늘어나는 소용돌이

특이점은 유체 속도가 유한한 시간 안에 상한 없이 커지는 상태다. 점성은 운동을 매끄럽게 만드는 경향이 있는데도, 연속체로 둔 유체가 그 근사 자체를 깨뜨릴 수 있는지가 오래 열린 질문이었다. 실제 유체는 무한히 빨리 움직일 수 없다. 그래서 속도가 발산하면 방정식이 유체를 대표하는 방식이 한계에 도달한다. 그 이후를 기술하려면 입자 하나하나의 움직임을 봐야 한다고 오픈AI는 설명한다.

제시된 해는 안쪽으로 나선하는 소용돌이다. 흐름은 스파게티처럼 점점 길어지고, 중심 영역은 줄어들며 빨라진다. 속도는 커지지만 에너지 총량은 유한하게 남는다. 관건은 무한한 외력을 손으로 넣어 속도를 터뜨리지 않는 것이다. 가속도, 압력 기울기, 운동량 전달, 점성 항이 모두 커지는 동시에 정밀하게 상쇄되어, 외부 힘은 매끄럽게 남는다. 오픈AI는 이 균형이 클레이 수학연구소 정식화의 진술 C와 D를 성립시킨다고 밝혔다. 집단마다 문제의 형태를 달리 줬는데, A와 B는 증명으로 이어지는 서술이고 C와 D는 반증으로 이어지는 서술이다. 이번에 도달한 쪽은 반증이다. 외력이 있는 이 설정에서는, 매끄러운 3차원 유동이 언제나 매끄럽게 남는다는 주장이 성립하지 않는다는 뜻이다.

계산은 한 모델의 긴 독백이 아니었다. 9월 1일 화요일, 밀레니엄 상 문제 두 건이 풀렸다는 소문과 내부 모델의 성능 도약을 계기로 오픈AI는 열려 있는 밀레니엄 문제와 몇 가지 고난도 문제를 에이전트 집단에 맡겼다. 에이전트는 캐시된 인터넷을 읽고 코드를 실행하며, 소속 집단 안에서 통신한다. 집단의 크기와 접근은 서로 달랐다. 나비에–스토크스 해를 낸 집단은 동시 약 1만 개 규모다. 프론티어 모델 평가와 같은 감시와 격리는 유지했다고 한다.

본문제에 자원을 몰기 전, 점성 항을 뺀 오일러 방정식의 정칙성도 맡겼다. 외력이 없는 버전을 에이전트 약 100개가 약 50시간 동안 다뤘고 반증이 나왔다. 오픈AI는 에이전트가 이 질문을 푼 것이 예상 밖이었다고 적었다. 이후 다른 밀레니엄 문제에서 에이전트를 빼 나비에–스토크스에 집중하고, 오일러 결과를 다음 추론의 입력으로 넣었다. 도중에 더 학습된 내부 모델이 나오자 에이전트를 그 버전으로 바꿨다. 접근을 다양하게 둔 뒤 코덱스로 각 집단의 중간 결과를 모아 다시 프롬프트에 넣었고, 해를 찾은 집단도 이런 안내를 받았다.

첫 에이전트를 띄운 뒤 약 88시간 만인 9월 5일 토요일에 해에 도달했다. 린 형식화와 검증에는 GPT-6 아스트라로 17시간이 더 들었고, 프로젝트 전체와 린 검증이 끝난 날은 9월 6일이다. 규모는 범위를 나눠 읽어야 한다. 시도한 문제 전체를 합치면 메시지 약 490만 건, 출력 토큰 약 3000억 개다. 나비에–스토크스 과정만 보면 메시지 약 270만 건, 출력 토큰 약 1300억 개다. 슈퍼컴퓨팅온라인 보도도 이 구간의 규모를 동시 에이전트 약 1만 개, 메시지 약 270만 건, 출력 토큰 약 1300억 개로 전한다.

연속체 모델이 90년간 막힌 지점

방정식은 19세기 클로드-루이 나비에와 조지 가브리엘 스토크스의 작업에서 시작한다. 힘은 질량과 가속도의 곱이라는 뉴턴 역학을, 분자 대신 연속된 매질에 적용한다. 밀도가 일정한 비압축 유체를 다루며, 항공기 설계와 기상 예보, 혈류처럼 유체를 연속체로 봐도 되는 현장에 쓰인다.

1934년 장 르레이는 일반화된 의미에서 해가 존재함을 보였다. 그 해가 언제나 매끄러운지는 그때부터 중심 질문으로 남았고, 대략 90년간 풀리지 않았다. 2000년 클레이 수학연구소가 일곱 밀레니엄 상 문제 중 하나로 지정했다. 슈퍼컴퓨팅온라인은 난점을, 속도장이 자기 기울기와 맞물리는 비선형 이송과 점성이 운동을 누그러뜨리는 작용 사이의 긴장으로 정리한다. 점성 항이 빠지면 오일러 방정식이 되고, 문제는 달라지며 어떤 측면에서는 다루기 쉬워진다고 같은 보도는 설명한다. 오픈AI가 외력 없는 오일러 반증을 먼저 얻은 뒤 본문제로 자원을 옮긴 순서에, 줄어든 문제를 경유한 뒤 완전한 문제로 올라가는 익숙한 전략이 겹쳐 보인다.

계산을 쓰는 사람, 만드는 사람, 모델을 보는 사람

유체 계산을 쓰는 연구자와 개발자에게 당장 바뀌는 층은 소프트웨어 메뉴가 아니다. 자료는 기상 모델이나 항공기 해석이 내일부터 무효라고 말하지 않는다. 아래층이 움직였다. 정지해 있던 매끄러운 3차원 유체에 매끄러운 힘을 주는 설정에서도, 점성이 특이점을 반드시 막지는 못한다는 구성이 나왔다. 속도가 발산하는 구간은 연속체 방정식이 유체를 대표하기 어려운 곳이고, 입자를 개별로 따라야 할 수 있다.

시스템을 만드는 사람에게는 작업이 나뉜 방식이 더 가깝다. 슈퍼컴퓨팅온라인은 이번 시도를, 유체 영역을 잘게 나누는 대신 가능한 논증의 공간을 나눈 분산 추론으로 본다. 압력과 속도 값을 주고받는 대신 수학적 정보를 주고받고, 에이전트 하나의 성공이 아니라 탐색 전체의 성공을 노린다는 해석이다. 캐시된 웹, 코드 실행, 집단 안 통신, 중간 결과의 재주입, 학습 중인 모델로의 교체가 한 실행에 들어 있다. 증명에 쓰인 내부 모델은 GPT-6 아스트라보다 능력이 크게 앞선다고 오픈AI는 밝혔고, 린 검증 구간만 아스트라가 맡았다.

투자자와 업계가 볼 문장은 상 청구를 하지 않겠다는 선보다, 아직 끝나지 않은 학습에 가깝다. 새 내부 모델 학습은 8월 28일에 시작됐고 계속 진행 중이며, 수학을 포함한 내부 벤치마크에서 이전에 없던 성능을 보인 뒤에도 오르고 있다고 했다. 이 모델은 사전학습된 모델 위에 대규모 강화학습을 올려 만들었다. 공개 목적은 모델이 어디까지 왔는지를 알리는 데 있다. 오픈AI는 지금을 인공지능 진보의 다음 시기로 보면서도, 조종 가능하고 책임을 물을 수 있으며 사람과 연결된 시스템을 만들려면 능력 확대의 속도를 더 의식적으로 골라야 할 수 있다고 적었다. 성과를 내놓는 글이 속도 조절을 함께 예고한다. 오픈AI는 당분간 이 모델을 이해하는 데 집중하고, 거기서 배운 것으로 이후 능력 향상의 방향과 속도를 정하겠다고 했다.

누구의 오일러이고, 무엇이 아직 비어 있나

9월 1일의 소문은 나중에 앤트로픽의 레벤트 알푀게, 뉴욕대 수학 교수 트리스탄 벅마스터와 연결된다고 오픈AI가 파악했다. 9월 6일 검증을 마친 뒤 오픈AI는 상대도 나비에–스토크스 해를 가진 것으로 보고, 동시 공개와 선취권 인정을 제안하며 연락했다. 확인된 내용은 달랐다. 그들은 앤트로픽 내부 모델로 외력이 있는 오일러 문제를 풀어 둔 상태였다. 오픈AI는 자신이 쓴 프롬프트 전부를 보여주고 이후 증명도 보게 하겠다고 했으며, 외력 있는 오일러에 대한 선취권을 인정하고 성과를 축하한다고 밝혔다. 오일러에서도 둘은 갈린다. 알푀게와 벅마스터는 외력이 있는 경우이고, 오픈AI 시스템은 외력이 없는 경우다.

오픈AI는 연구자와 에이전트가 상대 공개 전까지 그 작업을 어떤 경로로도 보지 않았고, 이 문제를 푸는 데 특정 사용자 데이터에도 접근하지 않았다고 밝혔다. 9월 10일 갱신에서는 조사 결과를 보탰다. 발표와 논문이 나온 9월 8일 이전 두 달 동안 벅마스터가 코덱스에 넣은 프롬프트는, 학습을 포함해 이 시스템에 영향을 줄 수 없었다는 확인이다.

끝난 일처럼 읽으면 안 되는 항목도 있다. 슈퍼컴퓨팅 뉴스는 이 결과가 개발에 관여하지 않은 수학자들의 검토를 거쳐야 하며, 가정과 구성, 형식화, 그리고 형식 증명과 클레이 수학연구소 공식 정식화 사이의 관계까지 살펴야 한다고 짚었다. 증명을 발표하는 일과 수학계가 이를 최종 해결로 받아들이는 일은 다른 단계라는 지적이다. 린 검증은 오픈AI가 GPT-6 아스트라로 수행한 17시간이다. 소문이 말한 두 개의 밀레니엄 문제가 무엇이었는지도, 오픈AI가 확인한 범위는 상대의 외력 오일러까지다. 같은 매체는 이번 발표만으로는 이 실행의 연산량이나 가속기 수, GPU 사용 시간, 에너지 소비를 믿을 만하게 계산할 정보가 충분히 공개되지 않았다고 적었다.

정리

이번 공개가 바꾸는 지점은 두 층이다. 수학에서는, 정지해 있던 매끄러운 3차원 비압축 유체가 매끄러운 외력과 유한한 에너지 아래 유한 시간에 특이점을 만들 수 있다는 구성이 해석적 증명과 린 형식화로 나왔다. 오픈AI는 이를 진술 C와 D의 해결로 제시하면서 밀레니엄 상은 청구하지 않는다. 산업에서는 GPT-6 아스트라를 크게 앞선다는 내부 모델이 8월 28일 이후 아직 학습 중이고, 약 1만 개 에이전트가 약 88시간 동안 논증을 나눠 탐색한 과정이 함께 공개됐다.

다음으로 볼 것은 외부 검증이 증명과 린 형식화를 어떻게 받아들이는지, 그리고 학습이 계속되는 모델이 어떤 사용 조건과 속도로 밖에 나오는가다. 유체 소프트웨어를 쓰는 사람은 매일의 계산이 그대로인 채로, 연속체 서술이 수학적으로 어디서 멈춘다고 주장되는지만 구분하면 된다. 상 자체보다, 검증의 다음 단계와 아직 학습 중인 모델의 공개 방식이 이 소식의 나머지다.

출처: OpenAI — https://openai.com/index/navier-stokes-solution/

교차 확인: Supercomputing News — https://www.supercomputingonline.com/latest/63198-10-000-ai-agents-130-billion-tokens-and-88-hours-how-openai-turned-navier-stokes-into-a-supercomputing-workload