조화급수와 리만제타 함수

아래와 같은 수열의 합을 조화급수라고 부른다. 아래의 수열로 1년에 1씩 더하면 10^43년 (100억년x100억년x100억년…)이 지나도 100이 안된다. 아주 작은 수들이라도 무한히 더하면 무한히 커질수 있다는 간단한 사실을 알려준다. 조화급수의 발산(divergence)은 1350년 니콜 오레슴(1323-1382)이라는 철학자가 최초로 증명한다. 그 증명은 한동안 잊혀져 있다가 멩골리(1647), 베르누이(1687)가 다시 증명한다. 베르누이는 그 증명을 발표하면서 “방대함의 본질은 사소한 것들에 놓여있다. 무한에서 사소한 것을 파악함은 얼마나 유쾌하고 신성한가”라고 얘기한다.

 

그러면, 아래와 같이 문제를 바꿔보면 어떨까? 즉, 1/n의 합이 아니라 1/n^2, 제곱분의 1의 합이라면 말이다. 스위스 바젤시의 바젤 대학에 있던 야코프 베르누이와 요한 베르누이가 생각한 문제이다. 이 수는 놀랍게도 무한개를 더했지만 값은 2를 넘지 않는다. 이 값이 수렴함은 이탈리아 수학자 멩골리(Pietro MEngoli, 1626-1686)가 보이는데, 어떤 값에 수렴하는지를 알 수가 없었다. 이것을 바젤 문제(Basel problem)라고 부르는데, 같은 바젤 출신의 오일러(Leonard Euler, 1707-1783)가 정확한 수렴 값을 계산한다. 증명은 이과생이라면 금방 따라갈 수 있다.

 

그러면 이것을 다시 한번 확장하여 일반적인 지수 승(1/n^s)의 조화급수의 합은 어떻게 될까? 천재 오일러가 가장 먼저 이 함수에 대해서 생각한다. 이것을 오일러-리만-제타 함수 z(s)라고 부른다. 바젤 문제는 z(2)의 경우, 즉 s가 2인 경우에 해당한다. 그 수열은 언제 수렴하고 언제 발산할 것인가? s가 1보다 크면 수렴(converge)하고 0<s<=1이면 발산(diverge)한다. 해석학을 배웠다면 증명은 금방이다.

 

소수의 신비로움은 피타고라스 이래로 수학자들을 항상 매료시켰다. 아주 큰 소수를 찾는 것은 현대 암호학 분야에 있어서 실질적으로도 아주 중요한 문제 중 하나이다. 소수에는 어떤 규칙성이 있을 것인가?하고 많은 수학자들이 그 문제에 달려들었지만 어떠한 수학자도 소수 패턴의 규칙성은 찾을 수 없었다.

 

소수 패턴 자체에 규칙성이 없다면, 소수의 분포는 어떨까?  소수는 무한개가 존재하는가, 무한개라면 값이 커짐에 따라 어떠한 밀도로 존재하는가? 오일러는 조화급수의 수렴성 문제를 해결하는 과정에서 소수의 개수 혹은 분포를 찾을 수 있는 결정적인 관계식을 찾아낸다. 

 

조화급수를 확장하여 만든 zeta 함수와 소수들(prime number) 사이에 다음과 같은 우아한 관계식이 있음을 찾아냈다. 아래에서 p는 prime number들이다. 그냥 간단한 수열의 합에 불과한 리만 제타 함수가 교묘하게 소수들의 곱과 관련이 있는 것이었다.

 

즉, 리만 제타 함수는 소수의 비밀을 여는 secret key 였던 것이다. 이 관계식을 Euler product formula라고 부른다. 리만 가설을 추적하다 보면 오일러-가우스=리만을 만나게 된다. 수학에 별 관심이 없는 사람들도 이들의 이름을 한번쯤은 들어본다.

 

가우스는 1792년 15살일때, 1년동안 하루에 1000개의 소수를 찾으면서 소수의 빈도수를 조사한다 (울 아들은 그 나이 때, 2년동안 game item을 찾아 헤맸다. 난? ...  …  …). 그 결과 소수 정리 이론 (prime number theory)의 초기 버전을 만든다. 간단히 얘기하면 큰 수 N이 있을 때, N 주위에서 하나의 수를 random 하게 골랐을 때 그 수가 소수일 확률은 1/log(N)이라는 것이다. 값이 커질수록 소수의 비율이 계속 작아지는 것은 물론, 직관과 일치한다. 수식으로는

 

위의 관계식을 prime number theorem이라고 한다. 정확한 관계식은 훗날 르장드르 (Legendre,1752-1833)와 쳬비쉐프(Chebyshev)라는 수학자가 찾아낸다. 아래에 소수 계량 함수 (prime counting function) pi(x)를 그려본다. 주어진 양의 실수 x에 대해 그 값보다 작거나 같은 소수의 개수를 세는 함수이다. 

 

아래 그림을 보면 알 수 있듯이, li(x)함수가 x/ln(x) 함수보다 더욱 정확히 소수를 셈을 알 수 있다. 아래 그림에서 x/ln(x)가 Gauss의 추측, Li(x)는 나중에 나온 소수 개수를 세는 함수이다. 물론, 소수의 분포에는 정확한 규칙성이 없으니 근사 함수일 뿐이다. 

 

==================================

 

1900년에 Hilbert가 프랑스 파리에서 열린 세계 수학자 대회에서 20세기에 풀어야 할 가장 중요한 23개의 문제를 (물론, 그는 가난하기에 상금은 제시하지 않지만) 제시하면서 수학계의 큰 발전을 이룬다. 대부분은 해결되었으나 그 중 4개의 문제는 미해결 문제로 남아 있다. 골드바흐 추측과 리만(1822-1866) 가설이 그것들이다.

 

2000년5월 24일, 클레이 수학연구소에서 수학 분야의 가장 시급하고 중요한 문제 7가지를 제시한다. 이것을 해결한 사람에게는 100만 달러의 상금이 수여된다. 현재 7 문제 중 유일하게 푸앙카레 정리만이 페렐만에 의해서 해결되었다. 어떤 공간 내에 모든 폐곡선을 한 점으로 모을수 있다면 그 공간은 구형 공간이라는, 일견은 아주 간단해 보이는 문제이다. 순수한 영혼의 페렐만은 수상과 상금을 거부하고 어머니와 함께 은둔 생활을 영위한다. 어떤 이들에게 큰 돈이란 아무런 의미가 없다.

 

리만 가설은 클레이 문제에도 포함되어 있고 현재까지 미해결이다. 리만 가설은 위에서 소개한 리만-제타함수의 성질에 관한 것이다. 리만 가설의 매력은 뷰티풀 마인드의 존 내시(John Nash, 1928-2015)같은 천재들을 정신 분열증으로 몰고, 수많은 수학자들을 폐인으로 이끈다.

 

실제로 리만 제타 함수는 위에서 본 데로 오일러가 처음 얘기했다. 그러나, 오일러는 제타 함수을 실수 영역에서만 해석한 데 반해 리만은 복소수 영역으로, 그리고 수렴하지 않는 구간까지 analytic continuation으로 확장한다. 그래서 제타 함수에 오일러가 아닌 리만의 이름이 붙게 되었다? 

 

그러면 리만은 어떻게 소수의 개수를 세는 문제에 제타 함수를 접목할 생각을 했을까? 리만의 위대한 업적인 해석 정수론 (analytic number theory)에 관한 얘기는 다음으로 넘긴다. 해야할 얘기가 많기 때문이다. 리만 가설에 대한 내용은 아마 최고 난이도의 포스팅 중 하나가 될 것이다. 과학에 관심이 있다면 아주 흥미로운 내용 중 하나일 것이지만, 그렇지 않은 분들은 어려운 부분은 skip 하시고 리만이라는 천재가 어떤 일을 했는지, 그것이 수학과 과학사에 어떤 의미를 준 것인지 가볍게 보면 될 것이다.

 

==============================

 

리만 함수에 관한 그림은 아래와 같다. 첫번째는 리만 함수 z(s)를 복소 평면상에 그 값을 그림으로 그린 것이다. Z(s)=0, 즉 해는 자명해와 비자명해가 있는데, 자명해는 -1,-2,-3,.. 이렇게 음의 정수에 존재하고 비자명해는 규칙성은 없지만 실수부가 1일 것이라는 추측의 리만 가설이다. 소수의 개수를 세는 데 z(s)=0의 해들이 중요한 역할을 하기에 리만 가설이 중요한 것이다.

 

리만이 소수의 개수를 셀 때 한 첫번째 일은 z(s)에서 s를 2차원 복소 평면 전체로 확대한 일이다. 리만 제타 함수에 의해서 변형되는 복소 평면을 그림으로 그린 것이다.