리만가설

리만 가설(Riemann Hypothesis)은 1859년 독일의 수학자 베른하르트 리만(Bernhard Riemann)이 제시한 추측으로, 수학 역사상 가장 유명하고 중요한 미해결 난제 중 하나입니다. 미국 클레이수학연구소가 2000년에 선정한 7대 밀레니엄 문제(Millennium Prize Problems) 중 하나이며, 해결 시 100만 달러(약 13억 원)의 상금이 걸려 있습니다. 또한 1900년 다비트 힐베르트가 제시한 힐베르트의 23가지 문제에도 포함된, 두 리스트에 모두 포함된 유일한 문제입니다.

1. 리만 가설의 내용

리만 가설은 리만 제타 함수(Riemann zeta function)에 관한 추측입니다.

리만 제타 함수 ζ(s) = 0을 만족하는 모든 '자명하지 않은 근(非自明根, non-trivial zeros)'의 실수부(real part)는 ½이다.

즉, ζ(s) = 0인 복소수 s 중에서 음의 짝수(s = -2, -4, -6, ...)에서 나타나는 자명한 근(trivial zeros)을 제외한 나머지 모든 근들은 복소평면에서 실수부가 정확히 1/2인 임계선(critical line) 위에만 존재한다는 주장입니다.

2. 리만 제타 함수

리만 제타 함수는 다음과 같이 정의됩니다:

ζ(s) = Σ_{n=1}^{∞} 1/n^s (단, Re(s) > 1)

이는 오일러가 처음 연구한 함수로, 오일러는 이 함수가 다음과 같이 소수들의 곱으로 표현된다는 오일러의 곱셈 공식(Euler product)을 발견했습니다:

ζ(s) = ∏_{p: prime} 1/(1 - p^{-s})

이 공식은 제타 함수와 소수 사이의 핵심적인 연결고리를 제공합니다.

리만은 이 함수의 정의역을 해석적 확장(analytic continuation)을 통해 s = 1을 제외한 모든 복소수로 확장했습니다.

3. 리만 가설이 중요한 이유

① 소수의 분포와의 관계 리만 가설은 소수 정리(Prime Number Theorem)의 오차항을 더 정밀하게 측정하는 것과 동치입니다. 소수 정리는 "x보다 작은 소수의 개수 π(x)는 x/ln(x)에 근사한다"는 정리로, 1896년 아다마르와 드 라 발레푸생이 증명했습니다. 리만 가설이 참이라면 이 근사의 오차가 훨씬 더 정밀해집니다.

② 수많은 정리들의 기반 현대 수학에는 "리만 가설이 참이라고 가정할 때" 성립하는 수많은 정리들이 있습니다. 리만 가설이 증명되면 이 모든 정리들이 한꺼번에 증명됩니다.

③ 암호학과의 연관성 소수는 현대 암호 체계(RSA 등)의 핵심입니다. 다만 리만 가설이 증명된다고 해서 암호가 즉시 무력화되지는 않지만, 소수에 대한 더 깊은 이해를 제공할 수 있습니다.

4. 현재까지의 진전 상황

현재까지 수조 개의 비자명근이 계산되었으며, 모두 임계선 위에 있는 것으로 확인되었습니다. 그러나 아무리 많은 수를 확인해도 "모든 근"에 대한 증명은 아닙니다.

5. 동치인 명제들

리만 가설과 동치인 것으로 알려진 여러 명제들이 있습니다:

• 메르텐스 함수: M(x) = O(x^{½+ε}) for all ε > 0
• 로빈 부등식: σ(n) < e^γ n log log n (n ≥ 5041)
• 리즈의 규준(Riesz criterion): 특정 함수의 점근적 성질

6. 증명 시도와 에피소드

• 존 내시(뷰티풀 마인드의 실제 인물)도 리만 가설을 연구했으며, 이로 인해 정신분열증이 악화되었다는 도시전설이 있습니다.
• 고드프리 하디는 배를 탈 때마다 "리만 가설을 증명했다"는 전보를 미리 보내두곤 했는데, 신이 무신론자인 자신에게 그런 영광을 주지 않을 것이라는 논리였습니다.
• 마이클 아티야(필즈상·아벨상 수상자)는 2018년 90세의 나이에 리만 가설 증명을 발표했으나, 학계에서 받아들여지지 않았고 이듬해 사망했습니다.

리만 가설은 160년 이상 풀리지 않은 채로 남아 있으며, 많은 수학자들이 참일 것이라고 믿고 있지만 아직 완전한 증명은 이루어지지 않았습니다. 수학계에서는 이 문제를 해결하기 위해서는 완전히 새로운 수학적 방법론이 필요할 것이라고 보고 있습니다.