AI가 리만가설을 풀었다? 정확히는 틀린 말 — 준리만가설 '8분의 7'을 쉽게 정리

2026년 10월 7일, "AI가 리만가설을 풀었다"는 말이 하루 종일 돌았다. 결론부터 말하면 정확히는 틀린 말이다. 그렇다고 가벼운 일도 아니다. 실제로 풀린 문제를 두고 한 수학자는 "사람이 했다면 묻지도 따지지도 않고 필즈상"이라고 했다. 리만가설이 무엇인지, 오픈AI가 정확히 무엇을 내놨는지, 그리고 그 결과를 어디까지 믿을 수 있는지 차례로 정리한다.

한 줄 결론 — 오픈AI가 내놓은 것은 리만가설의 증명이 아니라, 제타 함수의 영점이 실수부 7/8보다 큰 곳에는 없다는 '준리만가설' 결과다. 리만가설은 영점이 정확히 1/2 줄 위에 있다는 주장이라 7/8과 1/2 사이 '8분의 3'이 아직 남아 있다. 다만 폭이 일정한 '영점 없는 영역'이라 수학계가 크게 술렁였다. 이 결과에는 오픈AI가 린 형식화를 붙였지만, 저장소 전체로 보면 형식화된 대표 결과는 약 42%이고 동료 심사는 아직 알려진 바 없다.

리만가설, 먼저 쉽게

소수는 1보다 큰 자연수 가운데 1과 자기 자신으로만 나뉘는 수다. 2, 3, 5, 7 같은 수다. 2 이상의 모든 자연수는 소수를 곱해 만들 수 있다. 12 = 2 × 2 × 3처럼. 그래서 소수를 '수의 원자'라고 부른다.

문제는 이 원자들이 놓인 자리가 제멋대로라는 데 있다. 2와 3은 바로 붙어 있는데, 89 다음 소수는 한참 건너뛴 97이다. 그래도 멀리서 보면 흐름이 있다. 가우스의 어림에 따르면 100 근처에서는 네다섯 개 가운데 하나, 100만 근처에서는 열네 개 가운데 하나가 소수다. 큰 수 x 근처에서 소수가 나올 비율은 대략 1/ln x로, 수가 커질수록 천천히 드물어진다.

1859년 베른하르트 리만은 이 어림이 얼마나 정확한지 따지려고 소수 문제를 '제타 함수'라는 악보로 옮겨 적었다. 이 악보에서 음표 노릇을 하는 것이 제타 함수의 값이 0이 되는 지점, 곧 '영점'이다. 음의 짝수에 있는 뻔한 영점을 빼고 남은 '비자명한 영점'이 핵심이다. 영점 하나가 물결 하나를 만들고, 그 물결을 모두 더하면 소수가 놓인 자리가 되살아난다.

리만이 직접 몇 개를 계산해 보니 비자명한 영점이 모두 실수부가 1/2인 한 줄 위에 있었다. 그래서 이렇게 추측했다. "비자명한 영점은 하나도 빠짐없이 이 줄 위에 있다." 이것이 리만가설이다.

이 줄이 왜 중요한지는 오케스트라에 빗대면 쉽다. 영점의 실수부가 클수록 그 영점이 내는 물결 소리가 커지고, 소수 개수를 어림할 때 틀리는 폭도 커질 수 있다. 영점이 전부 1/2 위에 있으면 그 폭을 가장 작게 묶을 수 있다. 리만가설이 참이면 소수가 얼마나 고르게 퍼져 있는지를 거의 최대한 정확하게 말할 수 있다는 뜻이다.

클레이 수학연구소의 공식 설명에 따르면 컴퓨터로 첫 10조 개의 영점을 확인했고, 전부 그 줄 위에 있었다. 하지만 수학에서 10조 번 맞았다는 것은 증명이 아니다. 클레이 연구소는 2000년 이 문제를 7대 밀레니엄 문제로 꼽고 상금 100만 달러를 걸었다. 1859년 이후 167년 동안 아무도 풀지 못했다.

오픈AI가 실제로 내놓은 것

한국시간 10월 7일 아침 7시 20분께, 오픈AI가 X에 발표를 올리고 깃허브 저장소 'openai/math'에 수학 원고를 대량으로 공개했다. 저장소 설명에 따르면 결과 대부분은 공개되지 않은 내부 모델이 같은 절차로 만들었다. 모델에 약 4천 개 문제를 던졌고, 결과 하나에 평균 'ChatGPT Pro 사고 연산 3시간'이 들었다. 변경 이력으로 보면 처음 공개된 원고는 722편이었고(이후 3편 철회로 현재 719편), 서로 관련된 원고를 묶은 '묶음'은 372개다.

리만가설과 이어지는 것은 그중 3번 묶음, 이름하여 '준리만가설(Quasi-Riemann Hypothesis)'이다. 저장소의 형식화 설명서는 이렇게 정리한다. 리만 제타 함수와 모든 디리클레 L-함수(제타 함수의 사촌 격)에서, 실수부가 7/8보다 큰 곳에는 영점이 없다. 제타 함수의 비자명한 영점은 1/2 줄을 기준으로 거울처럼 짝을 이루니, 제타 함수에 대해서는 영점을 1/8과 7/8 사이 띠 안에 가둔 셈이다.

이게 왜 큰일일까. 1896년 소수정리가 증명된 뒤 수학자들이 확보한 '영점 없는 구역'은 위로 올라갈수록 점점 얇아지는 띠였다. 그 띠를 조금만 넓혀도 큰 성과로 쳤다. 콘토로비치의 설명대로라면 '실수부가 어떤 고정값보다 크면 영점이 없다'는 결과는 지금까지 없었다. 그런 고정 경계가 있으면 소수 개수를 어림할 때 생기는 오차를 훨씬 단단하게 묶을 수 있다.

같은 묶음에는 오랜 골칫거리인 '란다우–시겔 영점'을 다룬 논문도 들어 있다. 실수 축 위에서 1에 너무 바짝 붙은 영점이 있을지 모른다는 문제다. 설명서에 따르면 이번 결과는 도체 q가 3 이상인 원시 실수 지표 모두에 대해 하나의 공통 상수 c로 '1 바로 옆, 폭 c/log q 구간에는 실수 영점이 없다'는 것이다. c의 구체적인 값은 주지 않았고, 0과 1 사이의 모든 실수 영점을 배제한 것은 아니다. 논문이 이어서 다룬 응용은 형식화 범위에 들어가지 않는다.

그래서 리만가설은 풀렸나 — 아니다. 리만가설은 영점이 정확히 1/2 줄 위에 있다는 주장이다. 이번 결과는 7/8보다 바깥에는 없다는 데까지다. 수직선 위에서 7/8과 1/2 사이 간격은 8분의 3이다. 이 숫자가 남은 난도나 진척률을 뜻하지는 않는다. 리만가설의 증명이 아니고, 상금 대상도 아니다. 오픈AI의 저장소 설명에도 '리만가설을 풀었다'는 주장은 없다.

검증은 어디까지 됐나

검증에는 '린(Lean)'이라는 증명 검사 언어가 쓰였다. 증명의 논리를 컴퓨터가 한 줄씩 확인하는 도구다. 오픈AI의 설명서에 따르면 7/8 결과는 제타 함수, 모든 디리클레 L-함수, 그리고 특정 헤케 L-함수에 대해 린으로 형식화됐다. 명제는 "실수부가 7/8보다 크면 제타 값은 0이 아니다" 한 줄이다. 이 글을 쓰며 린 검사를 직접 돌려 보지는 않았다.

준리만가설과 별개로, 저장소 전체로 보면 이런 단서가 붙는다.

• 형식화는 약 42%: 저장소 기준으로 린으로 형식화된 대표 결과는 719건 중 300건(약 42%)이다. 저장소는 "형식화되지 않은 결과에는 문제가 있을 수 있다"고 직접 적어 두었다.
• 철회·수정: 변경 이력에 따르면 10월 7일 다른 분야(아벨 다양체·K3 곡면의 호지 추측 관련) 원고 3편이 부호 오류로 철회됐고, 14편이 고쳐졌다. 준리만가설 원고는 철회 목록에 없다.
• 예외 절차: 제타 함수의 영점 없는 구역 연구와 CM 아벨 다양체의 호지 추측 증명은 표준 절차의 예외였다. 7/8보다 앞선 11/12 결과의 원고는 사람이 읽기 쉽게 다듬었다고 밝혔다.
• 동료 심사: 정식 동료 심사를 거쳤다는 발표는 없다.

사이언티픽 아메리칸은 린으로 확인된 결과는 "거의 확실히 맞다"고 보면서도, 결과의 독창성과 기존 연구에 대한 기여를 평가하려면 수학자들이 몇 달은 들여다봐야 할 것이라고 전했다.

수학자들의 반응

가장 많이 퍼진 반응은 럿거스대 알렉스 콘토로비치의 X 글이었다. 오픈AI 발표 약 50분 뒤, 그 발표를 인용하며 이렇게 썼다. 공식 평가가 아니라 개인의 찬사다.

"준리만가설?!?! 장난해요? 사람이 이걸 했다면 묻지도 따지지도 않고 바로 필즈상이다." — 알렉스 콘토로비치(럿거스대), 한국시간 10월 7일 오전 8시께 X 게시물(직접 번역)

그는 이어서 리만가설은 '실수부 1/2보다 큰 곳에 영점이 없다'는 주장이고, 지금까지 확보한 구역은 위로 갈수록 얇아지는 띠였다고 짚었다.

회의론도 무겁다. MIT의 앤드루 서덜랜드는 사이언티픽 아메리칸에 "영수증을 요구하자"며 결과를 뒷받침할 증거를 요구했다. 오픈AI가 '프린스턴 고등연구소의 독립 자문그룹'이라고 소개한 'AI 수학 자문그룹(AGMAI)'은 성명에서 자신들의 자문을 결과의 영향력에 대한 판단이나 오픈AI의 방식에 대한 승인으로 해석하지 말라고 했다. 그리고 "공개는 끝이 아니라 시작"이라고 덧붙였다.

테렌스 타오는 결이 조금 다른 걱정을 했다. 오픈AI 발표 약 4시간 전인 10월 6일(현지시간) 마스토돈에 이렇게 썼다.

"한 번 '풀린' 문제는 되돌릴 수 없다. … 그래서 미해결 문제의 해답이 지속 불가능한 방식으로 대규모 수확되고 있고, 수학의 여러 분야가 예전보다 훨씬 덜 비옥해지고 있다." — 테렌스 타오, 마스토돈 게시물(요지 번역)

타오는 문제를 먼저 푸는 데 가치를 두던 '수학 1.0'에서, 해설과 공동체, 새 연구 방향을 함께 키우는 '수학 2.0'으로 옮겨 가야 하며 AI도 거기에 기여할 수 있다고 봤다.

확인된 것과 아직 모르는 것

맺으며

"AI가 리만가설을 풀었다"는 말은 틀렸다. 하지만 "AI가 별것 아닌 걸 풀었다"도 틀렸다. 고정된 경계의 영점 없는 영역이라는 점에서 수학자 입에서 필즈상이라는 말까지 나왔다. 동시에 저장소 전체로는 대표 결과의 절반 넘게 린 형식화가 없고, 다른 분야 원고가 철회되기도 했으며, 모델은 공개되지 않았다. 수학계가 영수증을 확인하는 데는 몇 달이 걸릴 것이다. 수직선 위의 간격으로는 7/8에서 1/2까지 8분의 3. 100만 달러는 여전히 그 너머, 정확히 1/2 줄에 걸려 있다.

※ 본문 이미지는 iwan 영상 「AI 24시 핫클립 특집 · 리만가설 편」(2026.10.07)에서 잘라 낸 장면이다. 영상 속 그림은 AI로 생성한 개념 이미지(시온바나나)와 AI 생성 영상(매그니픽 Kling 2.5)을 포함하며, 리만 논문 사진은 퍼블릭 도메인이다. 악보·오케스트라는 이해를 돕기 위한 비유다. 영문 인용은 편집부 번역이며, 타오의 글은 요지 번역이다.

출처

원문

• 클레이 수학연구소 — 리만가설 소개
• OpenAI math 저장소 README · 변경 이력(history.md) · 준리만가설 형식화 설명서(lean/docs/003)

보도·반응

• Scientific American — OpenAI unleashes hundreds more math results upon a field already in shock
• 오픈AI X 발표
• AI 수학 자문그룹(AGMAI) 성명
• 알렉스 콘토로비치 X 게시물
• 테렌스 타오 마스토돈 게시물(3/4) · (4/4)

관련 칼럼

• 나비에–스토크스 AI 해결 주장과 공로 공방