오픈AI, 내부 모델이 나비에-스토크스 외에 장기 미해결 수학 문제 100개 넘게 해결했다고…IAS 수학·AI 자문단 출범
오픈AI가 자사 내부 모델이 나비에-스토크스(Navier–Stokes) 관련 에피소드에 더해, 수학 전 분야에 걸친 장기 미해결 문제를 100개 넘게 해결했다고 밝혔다. OfficeChai가 2026년 9월 21일 전한 이 주장은, 같은 날 테렌스 타오(Terence Tao) 블로그에 실린 수학·인공지능 자문단의 게스트 글과 겹친다. 발표의 무게는 숫자 자체보다, 그 결과를 누가 어떤 속도로 학계에 내놓을지, 그리고 기계가 내놓은 증명을 누가 어떤 기준으로 받아들일지에 있다.
OfficeChai가 오픈AI를 인용한 바에 따르면 해당 내부 모델은 8월 28일 학습을 시작했다. 이전에 공개되지 않았던 모델은 GPT-6 아스트라(Astra)보다 더 강력하다고 묘사됐다. 오픈AI는 이 모델이 수학 대부분 영역의 오래된 미해결 문제를 100개 넘게 해결했다고 말하며, 그 속도가 “오픈AI 내부 수학자들을 놀라게 했다”고 전했다. 회사 측 표현을 액면 그대로 학계의 채택으로 읽기는 이르다. 증명이 기계로 검사됐다는 말과, 해당 분야의 연구자가 그 결과를 정리하고 인용하며 후속 연구에 쓸 수 있는 상태로 공개됐다는 말은 같지 않기 때문이다.
이 발표의 직전 맥락은 2026년 8월 오픈AI가 올린 ‘Ten advances…’ 글이다. 당시 회사는 내부 아스트라 버전에서 나온 결과 10건을 공유했다. 구면 채우기, 부호 이론, 비소픽 군, 콘 강성 반증, 산술 회로 하한, 양자 병렬 반복, 최근접 벡터, 에어하르트, 다색 램지의 에르되시 183번, 극단 조합의 에르되시 146번과 180번이 그 목록에 들어 있었다. 오픈AI는 린(Lean) 증명 인증서를 함께 언급했고, 해를 찾는 데 쓴 토큰 비용을 Sol API 요금 기준으로 약 2,000달러라고 적었다. 같은 흐름에서 회사는 학술 연구자용 챗GPT(ChatGPT for Academic Researchers)를 통해 과학자·수학자 10만 명에게 무료 접근을 제공한다고 밝혔다. 8월의 열 건은 이미 내부 모델이 수학의 열린 문제를 건드렸다는 신호를 학계에 던진 상태였고, 9월의 100개 넘는다는 주장은 그 신호를 한 단계 키운 것이다.
그 앞에 나비에-스토크스 에피소드가 있다. 클레이 수학연구소 밀레니엄 문제 가운데 하나인 나비에-스토크스 방정식의 존재와 매끄러움과 연결된, 기계로 검사된 해가 앞서 등장했다. 다만 검증과 공로, 소통 방식은 여전히 논란 중이다. 기계가 증명을 검사했다는 사실만으로 해당 분야의 합의가 자동으로 닫히지는 않으며, 클레이 상이 따라왔다고 보기도 어렵다. 오픈AI가 이번 내부 모델 성과를 나비에-스토크스 외에 100개 넘는 문제라고 묶은 것은, 그 논란이 아직 식지 않은 자리에서 규모를 더 키우겠다는 선언에 가깝다.
같은 날 등장한 수학·인공지능 자문단(Advisory Group on Mathematics and Artificial Intelligence, AGMAI)은 그 선언을 학계 쪽으로 옮기는 장치에 가깝다. 호스트는 프린스턴 고등연구소(Institute for Advanced Study)이고, 웹사이트는 agmai.org다. 자문단은 인공지능 기업이 수학 연구·커뮤니티와 어떻게 상호작용할지 조언하고, 수학 결과의 책임 있는 제시와 공개를 도우며, 수학자와 일반 독자 사이의 가교가 되겠다고 밝혔다. 현재 과제는 오픈AI가 내부 모델이 생산했다고 보고한 상당수 중요 수학 결과를 어떤 순서로, 어떤 형식으로 내놓을지 조율을 조언하는 일이다. 커뮤니티 의견은 양식으로 받고 있다.
출범 경위가 독립성 논쟁을 미리 의식한 형태다. 오픈AI가 일부 인사에게 외부 자문위원회를 제안하자, 당사자들은 독립 그룹을 만들고 다른 구성원을 초청했다. 자문단은 특정 인공지능 기업으로부터 독립해 운영되며, 구성원은 오픈AI로부터 보수를 받지 않는다. 청하지 않은 조언도 할 수 있고, 공개 논평을 할 수 있으며, 조언을 공개할 수 있고, 구성원을 바꿀 수 있다. 동시에 오픈AI의 내부 수학 진척을 어떤 속도로 가져갈지에 대해서는 조언하지 않겠다고 선을 그었다. 내부 연구 페이스는 회사의 몫으로 두고, 바깥으로 나가는 발표의 형식과 책임만 다루겠다는 역할 분리로 읽힌다.
구성은 순수수학과 수리물리의 무게 있는 이름들로 채워졌다. 프랑수아 샤를(François Charles, ENS-PSL), 카밀로 데 렐리스(Camillo De Lellis, IAS·GSSI), 티머시 가워스(Timothy Gowers, 콜레주 드 프랑스·케임브리지), 마틴 헤어러(Martin Hairer, EPFL·임페리얼 칼리지 런던), 니킬 스리바스타바(Nikhil Srivastava, 버클리·사이먼스 연구소), 울리케 틸만(Ulrike Tillmann, 옥스퍼드·INI), 라비 바킬(Ravi Vakil, 스탠퍼드), 에드워드 위튼(Edward Witten, IAS), 멜라니 매칫 우드(Melanie Matchett Wood, 하버드)가 이름을 올렸다. 테렌스 타오 블로그 2026년 9월 21일자 게스트 글이 이 출범을 알리는 창구가 됐고, agmai.org에서 자문단의 자기 설명을 교차 확인할 수 있다.
학계 쪽 긴장은 이미 공개 서한으로 드러난 바 있다. ‘수학에서 인공지능의 심각한 미스얼라인먼트(A Severe Misalignment of AI in Mathematics)’라는 공개 서한은, 풀린 미해결 문제를 인공지능의 점수판처럼 쓰지 말라고 경고했다. 미해결 문제는 원래 한 분야의 언어와 질문, 후속 연구를 키우는 자산이지, 모델 세대가 앞선다는 홍보 지표가 되기 어렵다는 취지다. 오픈AI가 100개 넘는 해결을 전면에 내세운 순간, 그 경고는 추상적 우려에서 당장 조율해야 할 실무가 된다. 자문단이 공개 일정과 제시 방식을 다루면서도 내부 진척 속도에는 손대지 않겠다고 한 것은, 점수판 논란을 피하려는 장치이면서 동시에 그 논란의 한가운데에 서겠다는 선택이기도 하다.
남은 쟁점은 검증이다. 린 인증서는 증명의 기계적 검사를 가능하게 하지만, 정리의 의미와 선행 연구와의 관계, 조건과 예외, 분야 안에서의 위치는 사람이 읽고 써야 한다. 나비에-스토크스 사례는 기계 검사가 끝나도 검증·공로·소통이 곧바로 닫히지 않는다는 점을 이미 보여 주었다. 100개 넘는 결과가 한꺼번에 쌓이면 각 분야의 전문가 검토 용량 자체가 병목이 된다. 자문단이 커뮤니티 의견을 받는다고 한 것은 그 병목을 인정한 움직임이다. 오픈AI 내부 수학자들이 놀랐다는 속도가, 바깥 수학자들에게는 읽기와 검증의 속도로 다시 번역되어야 한다.
지금은 모델이 무엇을 풀었다고 회사가 말하는 국면과, 그 말이 논문·인증서·해설의 형태로 분야에 안착하는 국면이 아직 겹치지 않은 자리다. 8월의 열 건, 그전의 나비에-스토크스 에피소드, 9월의 100개 넘는다는 주장, 그리고 같은 날 출범한 독립 자문단은 한 줄로 이어진다. 인공지능 기업이 수학의 열린 문제를 자산처럼 쌓아 올리는 속도와, 수학 커뮤니티가 그 결과를 책임 있게 읽고 이름을 붙이는 속도가 처음으로 제도적 중재를 요구하는 지점에 왔다.
댓글
댓글 쓰기