OpenAI "수학 100개 난제 해결" 주장… 수학계 자문단 꾸렸지만 '속도 조절'은 뺐다

OpenAI가 8월 28일 블로그를 통해 내부 신형 모델로 나비에-스토크스 밀레니엄 상금 문제와 100개 이상 장기 미해결 수학 난제를 해결했다고 밝혔다. 회사 내부 수학자들도 진행 속도에 놀랐다고 적었다. 이 발표와 함께 수학계 원로 9명으로 구성된 독립 자문단 **'수학·AI 자문단(AGMAI)'**을 프린스턴 고등연구소(IAS)에 두고 출범시켰다.

자문단 명단에는 필즈상 수상자인 팀 고어스, 마틴 헤어러, 에드워드 위튼, 멜라니 매쳇 우드 등이 포함됐다. 이들은 OpenAI로부터 급여를 받지 않으며, 요청하지 않은 조언도 공개할 수 있고, 멤버십도 자율적으로 변경 가능하다. OpenAI는 "자문단의 가치는 우리 판단을 비판할 수 있는 데 있다"고 썼다.

자문단 권한에 없는 것: '속도 조절'

블로그 말미에 한 줄이 박혀 있다. "자문단은 내부 수학 연구 진척 속도에 대해 조언할 책임이 없다." 이 문장이 이번 발표의 핵심이다. 자문단은 결과의 '발표 방식'과 '학문적 기준'만 다룬다. 모델이 얼마나 빨리 다음 난제를 풀지, 언제 배포할지는 OpenAI 몫으로 남겼다.

테렌스 타오 교수가 9월 21일 블로그에 올린 자문단 게스트 포스트에서도 같은 지점이 확인된다. 현재 자문단의 당면 과제는 "OpenAI가 내부 모델로 만들었다고 보고한 다량의 중요한 수학 결과를 어떻게 조율해 공개할지" 조언하는 것이다. 검증이 끝난 뒤가 아니라, 공개 시점과 방식을 논의하는 단계다.

검증되지 않은 '100개 난제 해결'

원문 어디에도 어떤 100개 문제인지, 증명 과정이 공개됐는지, 제3자 검증을 거쳤는지 적혀 있지 않다. 나비에-스토크스 해법이 맞다면 클레이 수학연구소 심사 대상이지만, 아직 공식 접수 여부도 확인되지 않았다.

해커뉴스 댓글에는 "호지 추측 해결 소문도 돌았으나, 한 수학자가 2만 5천 달러 걸고 '해결 안 했다'에 베팅했는데 응한 사람이 없다"는 증언이 올라와 있다. OpenAI 브로크만 CTO가 "상당히 진전됐다"고만 말한 상태에서, 자문단은 '결과 조율'을 논의 중이다.

수학계 내부에서 갈리는 반응

타오 교수 블로그 댓글과 해커뉴스 스레드에서 두 갈래 목소리가 선명하게 갈린다.

우려 측

"여우들이 닭들을 부드럽게 잡아먹도록 도와달라고 닭들에게 의견을 묻는 격" (해커뉴스)
박사 2년차 학생: "에이전트 군단이 하루 만에 증명한다면 내 4년은 무슨 의미인가"
"수학은 문화적 자본이 있어 자문단이라도 생겼다. 노동자들에겐 해고만 있을 뿐" (해커뉴스)

기대 측

"이 멤버라면 최선일 것" — 다만 "OpenAI 평판 관리에 이용되는 것 아닌지" 의심 병존
컴퓨터 보조 수학으로 얻을 게 많다는 의견도 다수

자문단 스스로도 "이 그룹이 OpenAI 사업 방식을 바꿀 수 있다고 보는 건 비현실적"이라며 한계를 인정하는 목소리가 나온다.

과거 기사와 비교: '검증'이 빠진 패턴

본지가 3일 전 다룬 OpenAI, 직접 만든 AI로 칩 설계… '할라피뇨'가 의미하는 것에서도 **자사 모델로 칩 일부를 설계했지만 '검증은 아직'**이라는 대목이 있었다. 이번 수학 발표 역시 '풀었다'는 주장만 있고 외부 검증 절차는 공개되지 않았다는 점에서 같은 패턴이다.

당시 기사는 "자동화된 설계가 검증 없이 생산 라인에 들어가는 순간 리스크가 현실이 된다"고 짚었다. 수학도 마찬가지다. 증명이 공개되지 않은 채 '해결'로 기록되면, 후속 연구자들이 참고할 수 없는 **'블랙박스 증명'**이 쌓인다.

쉽게 풀어보면

OpenAI가 **'수학 천재 AI'**를 만들었다고 발표했다. 인류가 100년 넘게 못 푼 나비에-스토크스 방정식(유체 흐름을 설명하는 방정식, 밀레니엄 7대 난제 중 하나)을 포함해 100개 넘는 난제를 풀었다는 주장이다.

문제는 '증명서'를 아무도 못 봤다는 점이다. 수학에서 '해결'이란 논리적 단계마다 다른 수학자가 검증 가능해야 성립한다. AI가 답만 내놓고 과정은 보여주지 않으면, 그것은 '정답지'일 뿐 '증명'이 아니다.

OpenAI는 이 상황을 수습하려고 저명한 수학자 9명으로 자문단을 꾸렸다. 필즈상(수학계 노벨상) 수상자 4명이 들어간다. 자문단은 OpenAI 돈 안 받고, 독립적으로 운영되며, 비판적 조언도 공개할 수 있다.

하지만 자문단 임무에 "AI가 수학을 얼마나 빨리 풀어나갈지 늦출지 정하는 것"은 빠져 있다. 자문단은 '이미 나온 결과를 어떻게 발표할지'만 조언한다. 브레이크는 없고 핸들만 맡긴 셈이다.

수학계 안팎 반응은 둘로 갈린다. "어차피 올 미래, 제대로 된 절차라도 만들자"는 쪽과 "여우가 닭 잡는 요리법 물어보는 꼴"이란 쪽. 박사 과정 학생들은 "내가 하는 연구가 AI한테 하루면 끝날 거라면 뭐 하러 하나"라는 허탈감을 토로한다.

나에게 미치는 영향

대학생·대학원생이라면

본인이 쓰는 수학·증명 도구(Lean, Coq, Isabelle)에 AI 플러그인이 곧 붙는다. 지금부터 **'증명 과정을 AI와 같이 쓰는 법'**을 익혀두면 유리하다.
논문 쓸 때 "AI가 이 정리 증명해줘" 대신 **"이 증명의 3단계가 왜 성립하는지 설명해줘"**라고 물어보는 습관을 들이자. 이해 없는 정답은 내 실력이 아니다.

직장인·일반 사용자라면

수학 난제 해결이 당장 생활을 바꾸진 않는다. 하지만 **'검증 없이 정답만 내는 AI'**가 수학에서 통한다면, 의료·금융·법률 같은 고위험 분야에서도 같은 방식으로 쓰일 수 있다.
챗GPT·클로드·제미나이에서 수학 문제 풀 때 **"증명 과정을 단계별로 보여줘"**라고 한 번 더 입력해보자. 답만 받는 습관이 위험하다는 걸 체감할 수 있다.

자영업자·비전공자라면

"AI가 수학 다 풀었대"라는 뉴스에 흔들리지 말자. 공개 검증된 결과만 사실이다.
AI 도구 도입할 때 **"이 도구가 내린 결론의 근거를 사람이 확인할 수 있는가"**를 첫 번째 기준으로 삼자.

관전 포인트: 앞으로 무엇을 볼 것인가

증명 공개 시점과 방식 — 자문단이 '단계적 공개'를 권고할지, '전체 동시 공개'를 밀어붙일지.
클레이 연구소 공식 심사 여부 — 나비에-스토크스 해법이 정식 접수되면 2년 심사 기간이 시작된다.
다른 AI 기업의 동참 — 자문단은 "영향력 있는 모든 AI 기업에 조언하겠다"고 했다. 구글 딥마인드, 앤스로픽 등이 합류할지가 다음 시험대다.
수학계 자체 검증 인프라 — AI 증명을 사람이 읽을 수 있는 형태로 변환하는 도구(예: Lean 자동 형식화) 경쟁이 본격화할 전망이다.

OpenAI는 "수학자가 중심이 돼 답을 정하게 하겠다"고 썼다. 하지만 속도 조절 권한을 스스로 쥐고 있는 한, 중심은 여전히 OpenAI에 있다. 자문단이 첫 권고안을 내놓는 시점이 이 말의 진위를 가르는 첫 분기점이 될 것이다.