OpenAI가 밀레니엄 문제를 풀었다는데, 왜 수학자들은 화가 났을까
한눈에 보는 요약
OpenAI가 미공개 모델로 나비에–스토크스 존재성과 매끄러움 문제의 해법을 얻었다고 발표했습니다. 100만 달러 상금이 걸린 7개 밀레니엄 상금 문제 중 하나죠. 그런데 축하 분위기 대신 논란이 터졌습니다. 거의 1년 동안 같은 문제를 파고들던 수학자들이 연구 선취(scooping)와 사용자 데이터 학습 문제를 제기했기 때문입니다.
이 사건은 단순한 학계 우선권 다툼이 아닙니다. "내가 AI에게 입력한 연구가, 나보다 먼저 남이 그 문제를 풀도록 돕는 데 쓰일 수 있는가?"라는 질문을 처음으로 구체적인 사례로 던지고 있습니다.
무슨 일이 있었나
먼저 있었던 연구
- NYU 수학 교수 Tristan Buckmaster와 Anthropic 소속 수학자 Levent Alpöge는 거의 1년간 이 문제를 연구했습니다.
- 두 사람은 Claude와 Codex를 폭넓게 활용했고, Codex에서는 주로 GPT-5.6 Sol을 사용하며 프로젝트 전체 초안을 입력해 왔습니다. 이 지점이 나중에 논란의 핵심이 됩니다.
- 8월 15일 돌파구를 얻었고, 이 소식은 수학계에 소문으로 퍼졌습니다.
OpenAI의 등장
Buckmaster의 입장문에 따르면 사건의 순서는 이렇습니다.
- OpenAI가 "Anthropic이 중대한 미해결 문제를 풀었다"는 이야기를 듣고 연락해 왔습니다.
- 대화 과정에서 OpenAI 팀도 비슷한 접근법으로 같은 문제를 연구 중이라는 사실이 드러났습니다.
- 첫 프롬프트를 언제 보냈는지 묻자 OpenAI는 즉답하지 않았지만, 결국 두 사람의 연구 소식이 전달된 뒤 최근 며칠 이내에 시작했다고 확인했습니다.
- Codex 세션에 모델이 접근했거나 이를 학습했는지 묻자 "사용자 데이터를 조회하지 않았다"는 답이 돌아왔습니다. 하지만 학습에 사용됐는지 다시 묻자 답을 받지 못했다고 합니다.
조율 시도도 있었습니다. OpenAI 팀은 Buckmaster의 발표를 기다리거나, 자사 결과에 관한 논문을 그가 집필하는 방안을 제안했습니다. 다만 Anthropic과의 경쟁 관계를 이유로 Alpöge를 공동 저자로 초대하지 않겠다는 입장은 분명히 했습니다.
OpenAI 측이 밝힌 실행 기록
OpenAI의 설명은 이렇습니다.
- 9월 1일(화): 밀레니엄 문제 두 개가 해결됐다는 소문과 내부 모델의 급격한 성능 향상을 계기로 평가 작업 시작. 대상은 미해결 밀레니엄 문제 전체와 영향력 큰 문제 몇 개.
- 9월 5일(토): 첫 실행 약 88시간 뒤 에이전트가 나비에–스토크스 해법에 도달.
- 이후 GPT-6 Astra를 통한 Lean 형식화·검증에 17시간 추가 소요.
투입된 계산 규모
| 구분 | 메시지 | 출력 토큰 | |---|---|---| | 전체 문제 시도 | 490만 개 | 약 3,000억 개 | | 나비에–스토크스 단독 | 270만 개 | 약 1,300억 개 |
내부 모델의 실제 비용 구조는 알 수 없지만, 출력 토큰 3,000억 개를 GPT-6 Astra 공개 API 가격으로 환산하면 약 1,500만 달러 규모입니다. "돈을 부어서 미해결 문제를 푼다"는 시나리오가 더 이상 비유가 아니게 된 셈입니다.
양측 입장이 갈리는 지점
OpenAI의 해명은 다음과 같습니다.
- 9월 1일에 들은 소문이 나중에 Alpöge와 Buckmaster의 연구에 관한 것임을 알게 됐다.
- 전체 프로젝트와 Lean 검증을 마친 9월 6일, 두 사람도 해법을 갖고 있다고 판단해 동시 공개와 공동 발표를 통한 연구 우선권 인정을 제안했다.
- 연구자도 에이전트도 두 사람의 작업이 공개되기 전에 어떤 경로로도 이를 보지 않았고, 문제 해결을 위해 특정 사용자 데이터에 접근하지 않았다.
- 양측 증명은 상당히 다르며, Euler 방정식의 경우 외력이 있는 경우와 없는 경우처럼 정확히 증명한 결과 자체가 다르다.
다만 결정적인 여지가 하나 남습니다. OpenAI는 가능성은 낮다고 보면서도, 제품 사용에서 나온 비식별화 데이터가 모델 성능 개선에 기여했을 가능성은 배제하지 못한다고 밝혔습니다. 직접 열람은 없었다는 주장과, 학습 데이터로의 간접 유입 가능성은 별개의 문제라는 뜻입니다.
'모델 성능 개선에 사용한다'는 말의 진짜 범위
이 사건이 개발자에게 남기는 진짜 질문은 여기에 있습니다. AI 연구소가 사용자 데이터를 "모델 성능 개선에 사용한다"고 할 때, 실제로 어떤 일이 일어나는지가 불명확합니다.
지금까지의 논의는 주로 직접 재현(regurgitation) 에 집중돼 왔습니다.
- Codex 문맥에 API 키가 실수로 들어갔다면, 나중에 다른 사용자가 API 키를 요청했을 때 그 키가 그대로 반환될 확률은?
- ChatGPT로 회사의 새로운 사업 방향을 논의한 뒤, 6개월 후 경쟁사가 그 회사의 다음 계획을 물으면 노출될 확률은?
OpenAI 관계자는 재출력을 막는 데 많은 노력을 기울인다고 답했지만 구체적인 방법은 밝히지 않았습니다.
그런데 이번 사례는 한 단계 더 나아갑니다. 문자열이 그대로 튀어나오는 문제가 아니라, 연구 성과 자체가 학습을 통해 이전될 가능성을 따져야 하기 때문입니다. ChatGPT로 밀레니엄 문제를 부분적으로 풀었다면, 그 작업이 후속 모델 학습에 영향을 줘 다른 사람이 먼저 해결하도록 도울 확률은 얼마나 될까요? 현재로선 아무도 답하지 못합니다.
소문만으로 촉발되는 경쟁
이 사건에서 가장 흥미로운 구조는 "해법이 존재한다"는 정보 자체가 자원이 된다는 점입니다.
비슷한 패턴이 컴퓨터 보안에서도 나타나고 있습니다. Anil Madhavapeddy는 버그에 관한 소문만으로도 보안 익스플로잇을 찾기에 충분하다고 지적했습니다. 패치되지 않은 취약점이 존재한다는 사실을 아는 것만으로, 에이전트에게 탐색을 맡길 근거가 생긴다는 것입니다.
수학에서도 같은 일이 벌어질까요? 미공개 해법의 존재를 아는 것만으로 먼저 해결하기 위한 수백만 달러 규모의 LLM 지출이 촉발될 수 있는지는 아직 알 수 없습니다. 다만 이번 사례는 그 가능성을 상당히 구체적으로 보여줬습니다.
OpenAI 입장에서는 LLM이 밀레니엄 문제를 풀었다는 소식이 최신 모델의 역량을 입증할 절호의 기회였을 것입니다. 다만 거의 1년간 자사 모델을 사용해 연구해 온 팀보다 먼저 성과를 공개하는 일이 어떻게 비칠지 충분히 고려하지 않았다는 비판은 피하기 어려워 보입니다.
정리하며
- 사실 관계는 아직 확정되지 않았습니다. 양측 증명이 실제로 다르다는 OpenAI의 설명이 사실이라면 독립적 발견일 수 있고, 그렇다면 이는 우선권 분쟁이 아니라 타이밍 사고입니다.
- 하지만 입증 책임의 구조가 문제입니다. 학습 데이터로의 간접 유입은 사용자가 검증할 방법이 없고, 제공자도 "배제하지 못한다"고 말할 수밖에 없습니다.
- 실무적으로는 미공개 연구나 민감한 사업 정보를 AI 도구에 입력할 때, 학습 제외(opt-out) 설정과 엔터프라이즈 계약 조건을 확인하는 습관이 필요해졌습니다. 무료·개인 플랜과 데이터 보존 정책이 다른 경우가 많습니다.
AI가 연구 도구를 넘어 연구 경쟁자가 되는 시대에, "내 프롬프트는 어디로 가는가"는 더 이상 프라이버시만의 문제가 아닙니다. 우선권과 커리어의 문제이기도 합니다.