Anthropic이 2026년 8월 10일 공식 리서치 블로그에서, 아직 공개되지 않은 연구용 Claude가 수학계의 오래된 난제인 리만 가설(Riemann Hypothesis) — 소수의 분포 패턴을 설명하는 리만 제타 함수(Riemann zeta function)와 관련된 가설 — 자체를 증명하지는 못했지만, 그 과정에서 관련 하한(lower bound) — 어떤 값이 최소한 이 정도는 보장된다는 경계선 — 값을 41.6%에서 67.2%로 끌어올렸다고 밝혔습니다. 리만 가설 증명은 아니지만, 이번 소식이 왜 화제가 됐는지, 그리고 일반 사용자·개발자에게 어떤 실전 함의가 있는지 정리했습니다.
무엇이 새로 밝혀졌나요?
이번 소식의 핵심은 '리만 가설 증명'이 아니라 '증명 시도 중 얻은 부산물'입니다. Anthropic 소속 직원이 연구용 Claude에게 리만 가설에 "제대로 한번 도전해보라"고 요청했고, Claude는 가설 자체를 증명하지는 못했습니다. 하지만 도전 과정에서, 제타 함수가 0이 되는 지점(영점) 중 리만 가설이 말하는 특정 직선 위에 존재하는 비율의 최소 하한을 기존 41.6%에서 67.2%로 높이는 결과를 냈습니다. 공식 자료에 따르면 이 결과는 Aryan, 그리고 Baluyot·Goldston·Suriajaya·Turnage-Butterbaugh 등 최근 수학자들의 연구와 2000년 Bombieri의 논문을 조합해 얻은 것으로, 지난 수십 년간 여러 수학자가 점진적으로 쌓아 올린 41.6%라는 기록을 한 번에 큰 폭으로 갱신한 결과입니다.
리만 가설이 뭐길래 이렇게 화제가 됐나요?
리만 가설은 소수(1과 자기 자신으로만 나눠지는 수)가 어떤 규칙으로 분포하는지를 설명하는 리만 제타 함수의 특징에 관한 가설로, 1859년에 제기된 뒤 지금까지 증명도 반증도 되지 않은 수학계 최대 난제 중 하나입니다. 공식 자료에 따르면 이 가설에는 100만 달러의 현상금이 걸려 있을 만큼 비중이 큽니다. 제타 함수가 0이 되는 지점들이 전부 특정한 하나의 직선 위에 있다는 것이 이 가설의 내용이며, 이 가설이 참이라고 가정하면 소수 분포에 관한 다른 많은 수학 결과들이 성립하기 때문에 수학자들에게는 일종의 '기반 공사'와 같은 역할을 합니다.
Claude는 이 결과를 어떻게 얻었나요?
공식 발표에 따르면 이번 결과는 Claude Code — 터미널에서 코드를 작성·실행하도록 돕는 Anthropic의 개발자 도구 — 위에서 두 차례 세션에 걸쳐, 총 3,100만 개의 출력 토큰(output tokens) — AI가 생성한 답변 분량을 세는 단위 — 을 사용해 나왔습니다. 담당 직원 Jarred Sumner(수학 비전공자)가 Claude에게 리만 가설에 도전해보라고 요청한 뒤, 세부적인 수학적 선택은 전부 Claude에게 맡겼습니다. 첫 시도에서 Claude는 아이디어 650개를 생성하고 시도했지만 전부 실패했습니다. 이후 다시 도전을 요청받은 Claude는 하루 반 동안 서브에이전트(subagent) — 하나의 작업을 여러 하위 작업으로 나눠 동시에 처리하도록 만든 보조 Claude 인스턴스 — 약 60개를 동원해 훨씬 깊이 파고들었고, 이 서브에이전트들은 총 2,400회의 셸(shell) 명령을 실행하고 수백 개의 파이썬 스크립트를 작성했습니다. 서브에이전트들은 서로의 작업 결과를 검증하고 이미 알려진 제타 함수 영점 값과 대조하는 수천 건의 수치 검증을 수행했습니다.
흥미로운 점은 사람의 개입 방식입니다. 공식 발표에 따르면 Jarred의 입력은 대부분 "계속해봐", "너 자신을 믿어" 같은 격려 메시지에 그쳤고, 이 격려가 Claude가 초기에 보인 "의미 있는 진전을 낼 수 있을지에 대한 회의적 태도"를 극복하는 데 도움이 된 것으로 보인다고 설명합니다.
결과가 나온 뒤 어떻게 검증했나요?
Claude는 스스로 결과를 검증하는 절차도 거쳤습니다. 공식 자료에 따르면 여러 서브에이전트가 증명을 다시 검토하고, 반례를 찾아보고, arXiv(아카이브) — 논문을 정식 학술지 게재 전에 무료로 공개하는 온라인 저장소 — 에서 논문 54편을 내려받아 같은 결과가 이미 발표된 적이 없는지 대조했으며, 처음부터 독립적으로 결과를 다시 증명하는 과정도 거쳤습니다. Claude는 이 결과를 논문으로 정리해 사람 전문가의 검증을 받아야 한다고 스스로 제안했고, 이후 Anthropic 소속 수학자 Levent Alpöge와 Ralph Furman이 결과를 검토했습니다. 외부 전문가인 Brian Conrey, Dan Goldston도 짧은 시간 안에 논문을 검토해 참여했습니다. Claude는 이 결과를 정형 검증 가능한 증명(formally verifiable proof) — 컴퓨터가 한 단계씩 논리적으로 확인할 수 있는 형태로 정리한 증명 — 으로도 만들었습니다.
오해하지 말아야 할 점 — Claude가 리만 가설을 푼 게 아닙니다
가장 중요한 확인 사항은, Anthropic이 공식적으로 "이 기법이 리만 가설 증명으로 이어질 것으로 기대하지 않는다"고 명시했다는 점입니다. 이번 결과는 리만 가설과 관련된 여러 하위 문제 중 하나에서 나온 점진적 진전이며, 가설 자체의 증명 여부와는 별개입니다. 또한 이번 작업에 쓰인 것은 아직 정식 출시되지 않은 연구용 버전의 Claude입니다. 지금 Claude.ai나 Claude Code에서 쓸 수 있는 Opus·Sonnet·Haiku 라인업이 곧바로 이런 수준의 수학 연구를 수행한다는 뜻은 아니므로, 보도를 접할 때 "Claude가 수학 난제를 풀었다"는 식으로 과장해 받아들이지 않도록 주의가 필요합니다.
Claude Code 사용자에게 남는 실전 힌트
이번 사례에서 일반 사용자가 참고할 만한 부분은 연구 결과 자체보다 작업 방식입니다. 첫째, 복잡하고 막막한 작업일수록 하나의 대화로 붙잡고 있기보다 서브에이전트로 작업을 쪼개 병렬로 검증·교차 확인하게 하는 방식이 결과 품질에 영향을 줄 수 있습니다. 둘째, 첫 시도가 실패했다고 바로 포기하지 않고 다시 시도를 요청하는 것만으로도 전혀 다른 결과가 나올 수 있었다는 점은, 막힌 작업을 다시 프롬프트로 밀어붙여 보는 것이 무의미하지 않다는 근거가 됩니다. 다만 이는 하나의 연구 사례에서 관찰된 정성적인 경향일 뿐, 모든 작업에 그대로 적용되는 법칙은 아니라는 점은 감안해야 합니다.
자주 묻는 질문
Q. Claude가 리만 가설을 증명했나요?
아니요. 리만 가설 자체를 증명한 게 아니라, 관련된 하한 값을 41.6%에서 67.2%로 끌어올린 것입니다. Anthropic도 이 기법이 리만 가설 증명으로 이어질 것으로 기대하지 않는다고 공식적으로 밝혔습니다.
Q. 이 연구에 쓰인 Claude는 지금 제가 쓰는 Claude와 같은가요?
아니요, 아직 공개되지 않은 연구용 버전입니다. 지금 서비스 중인 Opus·Sonnet·Haiku 라인업과는 별개이며, 지금 당장 같은 방식으로 체험할 수 있는 기능은 아닙니다.
Q. Claude Code 사용자가 이 사례에서 얻을 수 있는 실전 힌트는 무엇인가요?
서브에이전트를 활용한 대규모 병렬 작업과, 막혔을 때 재시도를 유도하는 프롬프트가 실제로 결과 품질에 영향을 줄 수 있다는 점입니다. 다만 이는 하나의 사례에서 관찰된 경향으로, 일반화하기는 이릅니다.
Q. 이 결과는 어떻게 검증됐나요?
Anthropic 소속 수학자 2명(Levent Alpöge, Ralph Furman)이 사전 검토했고, 외부 전문가 2인(Brian Conrey, Dan Goldston)도 짧은 시간 안에 논문을 검토했습니다. Claude 스스로도 서브에이전트를 동원해 반례를 탐색하고, 기존 논문 54편과 대조하고, 독립적으로 재증명하는 과정을 거쳤습니다.
이번 소식은 Claude의 수학적 능력이 빠르게 발전하고 있음을 보여주는 사례로 공식 블로그에도 언급돼 있습니다. 다만 리만 가설이라는 목표 자체는 여전히 미해결로 남아 있다는 점을 함께 기억해두면 좋습니다.