수학에 조금이라도 관심 있는 사람이라면 리만 제타 함수에 대해서 들어봤을 거예요. 대충
$$ \zeta(s)=\sum^{\infty}_{n=0}\frac{1}{n^s}$$
이렇게 정의되는 거. 이것은 \(\Re(s)>1\)이 수렴범위예요. 여기에서 수렴한다는 것은 여기에서 절대수렴함을 보이면 되는데, 이는 적분판정법으로 쉽게 보일 수 있어요.
하지만 \(s=1\)일 때는
$$ \zeta(s)=\sum^{\infty}_{n=1}\frac{1}{n}=\infty$$
가 돼서 무한대로 발산해요
다음 식을 볼께요.
$$ \zeta(s)=\prod_{p}\frac{1}{1-p^{-s}}$$
여기에서 \(p\)는 소수에 대해서만 곱하라는 뜻. 이 식은 다음과 같이 증명할 수 있어요. 이렇게 변형하면
$$ \prod_{p}\left(1+p^{-s}+p^{-2s}+p^{-3s}+\cdots\right)$$
다 전개했을 때 소인수분해의 유일성 정리로 \(n^{-s}\)가 하나씩 만들어져요!!
그렇다면 이게 뭐가 유용하다는 걸까...?? 이것은 저 소수곱 표현에서 볼 수 있듯이, 소수들의 성질들. 정확히는 distribution을 해석적으로 볼 수 있게 해줘요!! 예를 들어볼까요?? \(s\)가 실수고 \(1\)보다 크다고 가정할께요. 저기에 자연로그를 씌워요
$$ \ln{\zeta(s)}=\sum_{p}-\ln{(1-p^{-s})}$$
그리고 다음과 같이 변형할께요
$$ \ln{(1-p^{-s})}=\sum^{\infty}_{n=1}-\frac{p^{-sn}}{n}$$
음... \(p\)가 커질수록 \(n=1\)일 때가 나머지 term들에 비해서 엄청 커지는 거 보이나요?? 그래서 다음과 같이 분리할께요
$$ \sum^{\infty}_{n=1}-\frac{p^{-sn}}{n}=-p^{-s}-\sum^{\infty}_{n=2}\frac{p^{-sn}}{n}$$
그리고 뒤의 term은 이렇게 estimate할께요!!
$$\sum^{\infty}_{n=2}\frac{p^{-sn}}{n}\le \sum^{\infty}_{n=2}p^{-sn}=p^{-2}\frac{1}{1-p^{-s}}\le 2p^{-2} $$
자, 그렇다면 이걸 대입하면
$$ \ln{\zeta(s)}=\sum_{p}p^{-s}+O\left(\sum_{p}p^{-2}\right)=\sum_{p}p^{-s}+O(1)$$
가 완성돼요!! 여기에서 \(O(1)\)이라고 쓴 건 Big oh notation이라고 부르는 거예요. 따라서 다음을 만들 수 있어요.
$$ \lim_{s\to 1+}\ln{\zeta(s)}=\lim_{s\to 1+}\sum_{p}p^{-s}+O(1)$$
자, \(\zeta(1)=\infty\)라고 했잖아요?? 따라서 좌변도 무한대로 발산해요. 그런데 우변을 보면 \(O(1)\)은 발산할 수 없어요. 따라서 바로 앞의 합인 \(\sum_{p}p^{-1}\)이 발산해야 한다는 결과를 얻고, 따라서
$$ \sum_{p}\frac{1}{p}=\frac{1}{2}+\frac{1}{3}+\frac{1}{5}+\frac{1}{7}+\frac{1}{11}+\cdots$$
가 발산한다는 결과를 얻어요!! 신기하지 않나요?? 처음에 이걸 발산하라는 걸 증명하라는 문제를 보면, 소수는 분명 쓰임새가 뭔가 서로 곱하고 나누고 이래야 하는데 저건... 으으... 하나도 못 하겠는 것 같은데 리만 제타 함수를 정의하고 나니까 쉽게 풀렸어요!!
분명 위에서 리만 제타 함수는 \(\Re(s)>1\)에서만 수렴한다고 했어요. 하지만 복소해석학에선 analytic continuation이라고, 함수의 정의역을 늘리는 방법이 있어요!! 예를 들면
$$ f(z)=1+z+z^2+z^3+z^4+z^5+\cdots$$
라고 정의한 복소함수는 정의역이 \(|z|<1\)이지만
$$ g(z)=\frac{1}{1-z}$$
라고 정의한 복소함수는 \(|z|<1\)에서 \(f(z)=g(z)\)를 만족하고, \(\Bbb{C}\setminus\{1\}\)에서 정의되는 함수예요. 그리고, 가장 중요한 것은 \(\Bbb{C}\setminus\{1\}\)에서 정의되는 함수들 중에서 \(|z|<1\)에서 \(f(z)=g(z)\)를 만족하는 \(g\)는 저 \(g\) 딱 하나밖에 없어요!! 이것이 바로 analytic continuation의 중요한 점이에요. 함수의 extend가 있다면, 딱 하나밖에 없어요!! 그렇다면 그 extend한 함수를 아예 처음 그 함수로 봐도 되겠죠??
그렇다면, 리만 제타 함수도 이럴 수 있을까요??
딴말을 하자면, 이런 extend하는 문제는 정수론 전체에서 많이 어려운 문제예요. 예를 들면 페르마의 마지막 정리는 Hasse-Weil L-function을 analytic continuation으로 확장하는 문제로 바뀌었고, 이거 푸는데 엄청 오래 걸렸어요.
다행히도, 리만 제타 함수는 정수론 전체에서도 많이 간단한(!!) 함수고, extend할 수 있어요. 이를 Riemann이 1859년에 증명하였고, 그 증며이 담겨있는 논문은 정수론 전체에서 많이 전설적인 논문으로 남아있지요.
idea는 Fourier transform인데, 다음과 같은 theta function을 정의해요
$$ \theta(z)=\sum^{\infty}_{n=-\infty}e^{-\pi n^2z}$$
그렇다면 \(e^{-\pi n^2z}\)를 볼텐데,
$$ f(\xi)=e^{-\pi \xi^2}$$
이라고 할께요 변수는 Tate thesis에서 쓰는 걸 그대로 따라썼어요. 그렇다면 \(f(\xi+1)=f(\xi)\)고, 이것의 Fourier transform을 구할 수 있는데,
$$ \hat{f}(y)=\int^{\infty}_{-\infty}e^{-\pi \xi^2}e^{-i\xi y}\,\mathrm{d}\xi=e^{-2\pi y^2}$$
라고 계산할 수 있어요. 계산은 완전제곱식으로 고쳐주기+Cauchy integral theroem. 그렇다면
$$ \hat{f}(y)=f(y)$$
를 얻을 수 있어요. 이걸 얻으면, Poisson summation formula를 생각할 수 있는데, 저 \(f\)의 Fourier transform은
$$ f_z(\xi)=e^{-\pi \xi^2z}=f(\sqrt{z}\xi)$$
라고 한다면
$$ \hat{f_z}(\xi)=\frac{1}{\sqrt{z}}f_{\frac{1}{z}}(\xi)$$
가 되고, Poisson summation formula는 \(f:\Bbb{R}\to \Bbb{R}\)인 \(L^2\)-function \(f\)에 대해서
$$ \sum_{n\in \Bbb{Z}}f(n)=\sum_{n\in \Bbb{Z}}\hat{f}(n)$$
을 말해요. 그리고 이것은
$$ \theta(z)=\frac{1}{\sqrt{z}}\theta(\frac{1}{z})$$
임을 말해주지요!!
이것도 좀 딴소리(...)인데, Fourier transform을 보면, \(z\)를 \(\frac{1}{z}\)로 바꿨어요!! 이건 리만 제타 함수에서 \(s\)를 \(1-s\)로 바꾸는 역할을 할 거예요.
이건 정말로 많이 중요해요!! 특히 Poisson summation은 여기에서 central role 역할을 하는데, 변수를 살짝쿵 바꿔주는 역할을 하거든요. 이는 정수론 전체로 보면 trace formula와 연결되는 부분인데, 이걸 정수론에 맞게 맞춰주는 게 은근 많이 어려워서(...) 아직도 난제인 게 많아요. 그 중 하나가 Ngo가 증명한 fundamental lemma의 some sort of generalization이라고 할 수 있는 Langlands-Shelstad conjecture.
그리고 이건 제 개인적인 생각이긴 하지만, 이것은 Poincare duality하고 본질적으로 같다고 생각해요!! l-adic Fourier transform의 모습을 본다면...
어쨌든, 우리는 다음을 계산할 거예요.
$$ \int^{\infty}_{1}\left(\frac{\theta(t)-1}{2}\right)t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}$$
이것은 \(\Bbb{R}\) 위에서 \(\frac{\mathrm{d}t}{t}\)에 대한 Fourier transform이라고 볼 수 있어요. 일단 수렴성 무시하고(...) \(\theta(t)\)를 막 풀께요
$$ =\sum^{\infty}_{n=0}\int^{\infty}_{0}e^{-\pi n^2 t}t^{\frac{s}{2}}\frac\,{\mathrm{d}t}{t}$$
\(t\)를 \(\frac{t}{\pi n^2}\)으로 바꿔볼께요
$$ =\sum^{\infty}_{n=1}\int^{\infty}_{0}e^{-\pi t}\left(\frac{t}{\pi n^2}\right)^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}$$
이를 정리하면
$$ =\pi^{-\frac{s}{2}}\Gamma\left(\frac{s}{2}\right)\zeta(s)$$
가 돼요!! 그러니까 이를 \(\xi(s)\)라고 하고 정리하면
$$ \xi(s)=\int^{\infty}_{0}\left(\frac{\theta(t)-1}{2}\right)t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}$$
가 돼요!! 그리고 우변은 \(\Re(s)>0\)일 때 수렴해요. 근데 전체에선 수렴하지 않는데, 그 결정적인 이유는 \(\theta(t)\)가 \(t\)가 \(0\)으로 갈수록 발산하기 때문이에요. 그것도 엄청난 속도로!! 따라서 이 부분을 잘 control해야 하는데, 다음과 같이 식을 변형해요
$$ =\int^{\infty}_{1}\left(\frac{\theta(t)-1}{2}\right)t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}+\int^{1}_{0}\left(\frac{\theta(t)-1}{2}\right)t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}$$
그리고 두번째 적분이 말썽인데, 저게 어느 정도의 speed로 발산하는지 알아야 해요. 그걸 위해서 저저 위에서 증명한
$$ \theta(z)=\frac{1}{\sqrt{z}}\theta\left(\frac{1}{z}\right)$$
를 다시 recall해요. \(\theta(t)\)는 분명 \(t\)가 무한대로 가면 \(1\)로 가는 함수예요!! \(n=0\)인 곳 빼고 모두 엄청난 속도로 \(0\)으로 가거든요. 그렇다면 \(\theta(t)\)는 \(t\)가 \(0\)에 가까울수록 \(\frac{1}{\sqrt{t}}\)와 비슷한 behavior를 가진다고 생각할 수 있어요. 따라서 \(\theta(t)-1\) 이 부분을 \(\theta(t)-\frac{1}{\sqrt{t}}\) 이걸로 바꿔봐요.
$$ \int^{1}_{0}\left(\frac{\theta(t)-1}{2}\right)t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}=\frac{1}{s-1}-\frac{1}{s}+\int^{1}_{0}\left(\frac{\theta(t)-\frac{1}{\sqrt{t}}}{2}\right)t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}$$
그렇다면 이는 모든 \(s\)에 대해서 수렴해요!! 따라서 다음을 생각한다면
$$ \xi(s)=\frac{1}{s-1}-\frac{1}{s}+\int^{\infty}_{1}\frac{\theta(t)-1}{2}t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}+\int^{1}_{0}\frac{\theta(t)-\frac{1}{\sqrt{t}}}{2}t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}$$
이제 \(\theta(t)=\frac{1}{\sqrt{t}}\theta\left(\frac{1}{t}\right)\)를 다시 생각한다면 이건 다음과 같이 바꿔쓸 수 있어요.
$$ \xi(s)=\frac{1}{s-1}-\frac{1}{s}+\frac{1}{2}\int^{\infty}_{1}(\theta(t)-1)t^{\frac{s}{2}}\,\frac{\mathrm{d}t}{t}+\frac{1}{2}\int^{\infty}_{1}(\theta(t)-1)t^{\frac{1-s}{2}}\,\frac{\mathrm{d}t}{t}$$
우변의 적분은 모든 \(s\)에 대해서 수렴해요!! 그러니까 \(\Re(s)>1\)에서만 수렴하는 \(\xi(s)\)를 우변의 함수로 재정의하면 우린 \(\xi(s)\)를 entire function인 것으로 생각할 수 있어요!! 그리고 \(s\)하고 \(1-s\)를 살짝쿵 바꿔준다면
$$ \xi(s)=\xi(1-s)$$
라는 functional equation을 덤으로 얻을 수 있어요. 이를 Riemann zeta function이 나타난 형태로 쓴다면
$$ \pi^{\frac{s}{2}}\Gamma\left(\frac{s}{2}\right)\zeta(s)=\pi^{\frac{1-s}{2}}\Gamma\left(\frac{1-s}{2}\right)\zeta(1-s)$$
라고 쓸 수 있어요. 이걸 해석적 정수론자들이 좋아하도록(...) \(\zeta(s)\)에 대해서 정리한다면 Euler's reflection formula에 의해서
$$ \zeta(s)=2^s\pi^{s-1}\sin{\left(\frac{\pi s}{2}\right)}\Gamma(1-s)\zeta(1-s)$$
라고 쓸 수 있어요. 이것을 바로 functional equation of Riemann zeta function이라고 불러요.
이렇게 리만 제타 함수를 \(\Re(s)>1\)에서 \(s\ne 1\)인 복소평면 전체까지 확장할 수 있어요!! \(s\ne 1\)인 이유는 \(s=1\)에선 위에서 봤듯이 발산해서. 사실 이 부분에서도
$$ \lim_{s\to 1}\zeta(s)(s-1)=1$$
이니까 크게 걱정할 필요는 없어요. 어쨌든, 여기에서 리만 가설은 다음과 같이 나타내어져요.
"\(0<\Re(s)<1\)인 \(\zeta(s)\)의 모든 zero는 모두 \(\Re(s)=\frac{1}{2}\)를 만족한다."
그리고 이건 정말로 많은 의미를 가지고 있어요.
위에서 봤듯이 리만 제타 함수는 소수의 distribution에 대한 정말로 많은 정보를 줘요!! 다음을 정의할께요
$$ \Lambda(n)=\begin{cases} \ln{p} & \text{If }n=p^e\text{ for some }e\text{ and prime }p \\ 0 & \text{Otherwise}\end{cases}$$
그렇다면
$$ \ln{n}=\sum_{d|n}\Lambda(d)$$
를 알 수 있고, 이것은
$$ -\frac{\zeta'(s)}{\zeta(s)}=\sum^{\infty}_{n=1}\frac{\Lambda(n)}{n^s}$$
를 증명해요!!
\(\frac{1}{2}\le \sigma_0\le 1\)이고, \(\Re(s)\ge \sigma_0\)에서 \(\zeta(s)\)가 zero가 없다고 할께요. 그렇다면 복소평면 위에서 어떤 contour를 생각할 수 있는데, Residue theorem을 생각하면 \(\sigma>1\)일 때 \(T>0\)이면 \(\sigma_0+iT, \sigma+iT,\sigma-iT, \sigma_0-iT\)를 꼭지점으로 하는 사각형 \(C\)에 대해서
$$ \frac{1}{2\pi i}\int^{\sigma_0+iT}_{\sigma_0-iT}\frac{\zeta'(s)}{\zeta(s)}\frac{x^s}{s}\,\mathrm{d}s=x$$
가 돼요. 여기에서 왜 뜬금없이 이런 적분이라고 생각할 수 있는데, 이것도 위에 theta function 조작과 똑같은 Fourier transform의 일종이에요!!
Perron's formula는 정확히 다음을 말해요. \(\sigma>1\)일 때
$$ \psi(x)=\sum_{n\le x}\Lambda(n)=\int^{\sigma+i\infty}_{\sigma-i\infty}-\frac{\zeta'(s)}{\zeta(s)}\frac{x^s}{s}\,\mathrm{d}s$$
그리고 아주 큰 반원을 왼쪽을 향해서 잡는다면, 위의 Perron's formula로 얻은 것과 합쳐서 다음과 같은 Von Mangoldt explicit formula를 얻을 수 있어요
$$ \psi(x)=x-\sum_{\rho}\frac{x^{\rho}}{\rho}-\frac{\zeta'(0)}{\zeta(0)}-\ln{\left(1-\frac{1}{x^2}\right)}$$
여기에서 \(\rho\)는 모든 Riemann zeta fucntion의 \(0<\Re(\rho)<1\)인 zero에 대해서 더하겠다는 이야기. 이것은 소수의 분포와 Riemann zeta function의 zero가 어떤 관계에 있는지 식 하나로 바로 보여주는 공식이에요!!
근데 이것만으론 뭔가 부족한 것 같은데, zeros가 어떤 분포를 가지는지 모르니까(...) 하지만 Riemann은 다음을 증명했어요. \(T>0\)이라고 하고 \(0<\Re{\rho}<1\)이고 \(|\Im{\rho}|<T\)인 \(\rho\)들의 갯수를 \(N(T)\)라고 하면
$$ N(T)=\frac{T}{2\pi}\ln{\frac{T}{2\pi}}-\frac{T}{2\pi}+O(\ln{T})$$
라는 거. 바로 zero들의 distribution을 그대로 나타내주는 공식이에요!! 이것의 증명은 저 위의 \(\xi(s)\)를 생각하는데, 약간 계산이 기니까 생략할께요(...)
어쨌든, \(\Re{\rho}<\sigma_0\)란 조건과 저 distribution, Von Mangoldt explicit formula를 같이 쓴다면 다음을 알 수 있어요.
$$ \psi(x)=x+O(x^{\sigma_0}(\ln{x})^2)$$
그리고 리만 가설이 성립한다면 이렇게
$$ \psi(x)=x+O(x^{\frac{1}{2}}(\ln{x})^2)$$
어떻나요??
다음을 정의할께요
$$ \pi(x)=\sum_{p\le x}1$$
그냥 \(x\) 이하의 소수의 갯수라는 뜻이에요. 그렇다면
$$ \pi(x)=Li(x)+O\left(x^{\frac{1}{2}}\ln{x}\right)$$
가 성립해요!! 어떤가요?? 여기에서 \(\mathrm{Li}(x)\)는
$$ \mathrm{Li}(x)=\int^{x}_{2}\frac{1}{\ln{t}}\,\mathrm{d}t$$
로 정의해요. 저 big O term이 비정상적으로 좋은 걸 둘째쳐도 대충 \(x\) 이하의 소수의 갯수는 \(\mathrm{Li}(x)\)개라는 뭔가 이뻐보이는(!!) 결과를 얻어요!!
그리고, 실제로 다음이 성립해요.
Theorem. (Prime number theorem) 다음이 성립한다.
$$ \lim_{x\to \infty}\frac{\pi(x)}{\frac{x}{\ln{x}}}=1$$
Remark. \(Li(x)=\frac{x}{\ln{x}}+O\left(\frac{x}{\ln{x}}\right)\)
이건 가설이 아니라 직접 증명된 거예요(!!) 이걸 리만 가설 없이 증명할 수 있는데, 간단하게 \(\zeta(s)\)의 zeros가 \(\Re(\rho)\ne 1\)임을 증명하기만 해도 끝나요 (!!) 그러니까, 리만 가설보다 훨씬 약한 걸 증명했는데도 된다는 거예요
이제 맺음을 하자면, 이거 하나만 알아두면 될 것 같아요. 리만 제타 함수의 해의 위치는 소수의 분포를 결정한다. 그렇기 때문에 리만 제타 함수가 정말로 많이 중요한 거예요!!