AI가 '준 리만 가설' 증명… 수학계 "기존 지식만으로 돌파" 평가, 검증은 과제로

오픈AI 발표 377개 중 하나

지난 10월 6일 오픈AI가 공개한 377개 연구 결과 중 하나가 수학계의 이목을 끌었다. '준 리만 가설(quasi-Riemann hypothesis)'을 증명했다고 주장한 결과물이다. 리만 가설은 1859년 베른하르트 리만이 제기한 이래 160년 넘게 풀리지 않은 수학 최대 난제다. 데이비드 힐베르트가 1900년 제시한 23개 문제 중 유일하게 밀레니엄 문제로 계승된 문제이기도 하다.

퀀타매거진 보도에 따르면 스탠퍼드대 제러드 듀커 리히트만 교수는 이를 **"지금까지 AI가 수학에서 이룬 가장 중요한 성과, 꽤 큰 차이로"**라고 평가했다. 뉴욕대 막심 라지빌 교수는 "리만 가설의 결과 대다수가 이미 준 리만 가설에서 따라온다"며 함의를 **'충격적(staggering)'**이라고 표현했다.

새 개념 없이 낡은 도구로 뚫렸다

이 증명에서 수학자들이 놀란 대목은 따로 있다. 새로운 수학적 개념이나 도구를 발명하지 않았다는 점이다. 오랫동안 리만 가설 해결에는 전혀 새로운 이론 틀이 필요할 거라고 여겨졌다.

그런데 AI는 이미 알려진 개념들 사이의 숨은 연결을 찾아냈다. 조지아공대 알렉산더 던 교수는 "잘 알려진 아이디어들을 놀라운 방식으로 종합했다"고 말했다. 라지빌과 던이 개발한 기법이 증명 일부에 쓰였다는 사실도 드러났다. 사람이 수십 년 쌓아온 지식을 AI가 조합만으로 재배열해 돌파구를 만든 셈이다.

사람 읽기 힘든 증명, 검증은 어떻게

증명이 맞는지 누가 확인하나. 커뮤니티에선 기계 검증 언어(린 등)로 형식화됐을 것이란 추측이 나온다. 하지만 해커뉴스 댓글에선 이런 지적이 제기됐다.

• "소프트웨어가 컴파일된다고 올바른 건 아니다"
• "루프를 풀어서 일련의 선형 문장으로 나열한 것일 뿐"

해당 증명이 실제로 린으로 형식화됐는지는 본지가 확인하지 못했습니다. 증명이 기계적으로 검증 가능하더라도 인간 수학자가 '이해'할 수 있는 형태인가는 별개 문제다. 이 대목이 걸린다.

쉽게 풀어보면

오픈AI가 10월 6일 발표한 377개 결과 중 하나가 '준 리만 가설'을 증명했다고 주장했다. 리만 가설은 소수(素數)의 분포 패턴을 설명하는 160년 된 난제다. 소수는 2, 3, 5, 7처럼 1과 자신만으로 나누어지는 수인데, 수학의 '원자'라 불릴 만큼 기초적이다.

리만 가설은 제타 함수라는 특수 함수의 '영점(값이 0이 되는 지점)'이 일직선 위에 놓인다는 추측이다. 이 직선에서 벗어나면 소수 분포가 지금까지 관측된 적 없는 기괴한 패턴을 띤다. 준 리만 가설은 이 조건을 조금 완화한 버전인데, 수학자들은 "리만 가설의 결과 대다수가 준 리만 가설에서도 따라온다"고 본다.

놀라운 점은 AI가 새로운 수학 이론을 발명하지 않고, 기존에 알려진 정리와 기법들 사이의 숨은 연결고리만 찾아내 증명을 완성했다는 사실이다. 마치 도서관에 꽂힌 책들끼리 아무도 보지 못한 인용 관계를 발견해 새 책을 써낸 꼴이다.

하지만 증명이 기계어 코드라면, 사람 수학자가 읽고 '아, 그래서 그렇구나' 하고 납득하기는 어렵다. 컴파일러가 오류 없다고 해도 사람이 이해 못 하면 '블랙박스'다. 이 간극을 어떻게 메울지가 다음 과제다.

나에게 미치는 영향

당장 일상에 소수 분포 공식이 바뀔 일은 없다. 하지만 전문가 영역에서도 AI가 사람과 다른 경로로 돌파구를 찾을 수 있음을 보여준 첫 사례다.

챗GPT나 클로드에 "이 수학 문제 풀어줘"라고 물었을 때, 답만 주는 게 아니라 기존 교과서에 없는 증명을 새로 만들어내기 시작하면 학교 수학 교육부터 연구 방식까지 흔들린다. 본지가 5일 전 다룬 AI 하드웨어 드라이버 개발 기사에서 AI가 전문가 영역(드라이버 개발)에 진입한 것과 같은 흐름이다.

오늘 할 수 있는 것: 챗GPT나 클로드에 "리만 가설이 뭐야?"라고 물어보라. 답변에 '제타 함수', '소수 정리', '영점' 같은 용어가 어떻게 엮이는지 보면, AI가 수학 지식을 어떻게 구조화하는지 감 잡힌다.

검증이라는 다음 산

발표 후 2주. 수학자들은 아직 증명 전체를 사람 언어로 '풀어쓰기' 작업을 시작했다. 라지빌, 던 등 당사자들이 증명을 이해하려 노력 중이며 답을 얻기 시작했다고 퀀타매거진은 전했다. 오픈AI가 377개 결과를 한꺼번에 공개한 방식도 이례적이다. 통상 중요한 증명은 논문 한 편으로 다듬어 투고한다.

커뮤니티에서는 **"AI가 린 코드를 사람 읽기 좋게 다시 써줄 수 있지 않나"**라는 기대도 나온다. 하지만 해커뉴스 댓글처럼 "해설서만 읽고 수학을 내면화할 수 있나"는 별개 문제다. 이해 가능한 증명과 기계 검증 가능한 증명 사이 간극을 누가, 어떻게 메울지 지켜봐야 한다.

오픈AI가 사용한 모델 이름, 증명 전체 길이, 린 코드 공개 여부는 아직 공개되지 않았습니다. 퀀타매거진 기사도 "이제 답을 얻기 시작했다"고만 전했다. 확인된 건 여기까지다.