제가 전공하는 분야는 정수론입니다. 천재 수학자로 유명한 가우스의 명언 중에는 이런 것이 있습니다.
“수학은 과학의 여왕이고 정수론은 수학의 여왕이다.
Mathematics is the queen of the sciences and the number theory is the queen of Mathematics.“
이처럼 정수론은 오랫동안 많은 수학자의 관심을 받고 있는 연구 분야입니다. 이 글에서는 정수론에서 큰 업적을 남긴 인도인 수학자 라마누잔Srinivasa Ramanujan에 관하여 이야기 하고자 합니다.
Ⅰ.라마누잔의 간략한 일대기
라마누잔은 1887년 인도에서 태어났습니다. 라마누잔은 인도에서 장학금을 받고 대학에 다녔으나 수학 외에는 관심이 없어 중도에 장학금이 잘리게 됩니다. 그 후 다른 대학에 가기 위해 입학시험을 봤지만 수학 이외의 과목을 통과하지 못하여 이후 개인적으로 수학 연구를 계속합니다. 1913년 마드라스 대학에서 장학금 제안을 받았고, 그동안 연구한 것을 정리하여 영국의 저명 수학자들에게 보냅니다. 다른 사람은 편지를 반송했지만 캠브리지 대학의 수학자 하디는 편지를 읽고 라마누잔을 영국으로 초청합니다. 1914년 하디는 라마누잔을 영국 캠브리지 대학으로 불러서 함께 연구를 합니다. 하지만 건강 문제로 라마누잔은 지금으로부터 약 100년 전인 1920년에 32세라는 젊은 나이에 사망하였습니다. 하지만 이 짧은 기간에 엄청난 업적을 남겼습니다.
라마누잔이라고 하면 1729라는 수가 항상 나오지요. 하디의 초청으로 영국에 갔을 때, 건강이 나빠져 라마누잔은 몇 년 후 요양소에 들어갑니다. 그때 하디가 요양소를 찾아가서 이런저런 이야기를 하다가 자기가 타고 왔던 택시의 번호가 1729인데 참 의미 없는 숫자가 아니냐고 말했습니다. 라마누잔은 말을 듣고 1729는 \[ 1729=1^3+12^3= 9^3+10^3\]으로 서로 다른 두 세제곱의 합으로 표현되는 가장 작은 자연수라서 매우 흥미로운 수라고 답했습니다. 라마누잔이라고 하면 이 분이 뭘 했는지는 잘 몰라도 이 택시 번호 이야기만큼은 많은 사람이 알고 있습니다.
하디가 이 이야기를 듣고 네제곱의 경우는 어떻게 될 것 같냐고 질문했고, 라마누잔은 잠시 생각하더니 만일 존재한다면 굉장히 큰 수일 것이라고 대답했습니다. 그러나 사실 이런 수는 이미 1761년에 오일러가 발견하였습니다.
\[
635318657 = 133^4 + 134^4 = 59^4 + 158^4
\]
라마누잔은 기본적으로 계산력이 상당히 좋았던 것으로 알려져 있습니다. 실제로도 캠브리지 대학에서 강의 중에 교수가 계산이 어려워 물어보면 거의 즉답을 했다고 합니다. 네제곱의 경우는 바로 못 찾긴 했지만요.
Ⅱ.라마누잔이 등장하는 영화들
영화 이야기로 잠시 쉬어가려고 합니다. 혹시 <굿 윌 헌팅 Good Will Hunting>(1997)이라는 영화 보셨나요? 영화에서 라마누잔이라는 이름이 딱 한 번 언급됩니다.
영화의 배경은 미국의 MIT입니다. 영화 초반 조합론 연구로 필즈 메달을 받은 수학자 램보가 나옵니다. 램보는 모두가 볼 수 있는 복도 칠판에 수학 문제를 냅니다. 그리고 그 문제를 윌 헌팅이라는 청소부가 풀어냅니다. 램보는 윌의 천재성을 알아보고 그에게 도움을 주려 하지만, 반항적인 윌은 마음을 쉽게 열지 않습니다. 정신과 상담도 소용이 없자 램보는 대학 동기인 심리학과 교수 숀을 찾아가 윌을 소개하며 이렇게 말합니다.
“정식 교육을 받지 않았는데도 수학 실력이 엄청나, 알지 그 수학자? 라마누잔.”
이렇게 라마누잔에 관한 언급이 딱 한 번 나옵니다. 라마누잔을 일종의 상징으로 사용한 셈이죠.
윌 역을 맡은 맷 데이먼이 하버드 대학에 다닐 때 과제로 썼던 40페이지짜리 대본에서 영화의 각본이 시작되었다고 합니다. 그 후 조연으로 등장하는 벤 애플렉과 함께 각본을 완성하였고, 영화사에서 대본을 받아주면서 영화까지 찍게 됩니다. 실제로 두 사람은 배우가 아닌 각본가로서 상을 받게 됩니다. 저희 분야 사람들은 영화가 처음 나왔을 때 라마누잔 이름을 찾느라고 바로 영화관에 가서 영화를 보기도 했습니다.
최근에는 라마누잔이 주인공인 영화도 나왔지요. 제목은 <무한대를 본 남자 The Man Who Knew Infinity>(2015)인데 라마누잔의 생을 다룬 영화로 저는 미국에 머문 동안 봤습니다. 배우 때문에 보기 전에 상당히 기대했는데, 대부분 사람들의 반응은 별로 좋지 않더라고요.
이 영화에는 수학적 내용이 상당히 많이 나와요. 뒤에서 말씀드릴 원 방법Circle Method도 나오고 이외에도 학문적인 내용이 다양하게 나오는데, 일반 사람들이 과연 이걸 보고 감흥을 느낄까 하는 생각이 들더라고요. 분할partition 등 어려운 수학 이야기들이 막 나오거든요. 라마누잔과 부인의 애틋한 이야기가 나오기는 하는데, 틀린 부분도 좀 있고요. 혹시라도 이 영화를 보시게 되면 아까 봤던 숫자인 1729를 또 만날 수 있습니다. 하디와 함께 연구를 하던 라마누잔이 몸이 좋지 않아 인도로 돌아가는 배를 타러 가는 택시 번호판에 1729가 붙어있습니다. 시점이 다른 거죠. 원래 이야기대로라면 라마누잔이 요양소에 있을 때 하디가 찾아가는 과정에서 나와야 하거든요. 이 영화에서 수학적인 도움을 준 두 사람이 있습니다. 그중 한 사람이 수학자 다카시 오노의 아들인 켄 오노, 다른 한 사람은 2014년에 한국에서 필즈 메달을 받은 만줄 바르가바입니다. 이 두 사람이 내용 감수를 해줬는데 영화에 왜 틀린 내용이 섞여 있는지는 잘 모르겠습니다.
Ⅲ.자연수의 분할
이제 본격적으로 정수론 이야기로 들어가 보도록 하겠습니다. 지금부터 이야기할 것은 분할partition이라는 겁니다. 하나의 자연수를 여러 자연수의 합으로 나타내는 것을 분할이라고 합니다. 순서만 다른 것은 같은 것으로 봅니다. 예를 들어 4의 분할은 아래와 같이 총 5가지가 있습니다.
\[
4 = 3 + 1 = 2 + 2 = 2 + 1 + 1 = 1 + 1 + 1 + 1
\]
분할의 수에 관해서는 오일러가 거의 처음으로 연구를 시작했습니다. 양의 정수 \(n\)을 분할하는 방법의 수를 \(p(n)\)이라고 쓰기로 합시다. 그러면 \(p(4)=5\)가 됩니다. 오일러가 관심을 가졌던 함수는 다음과 같습니다. (흔히 \(p(0)=1\)로 약속을 합니다.)
\[
f(x) = p(0)+p(1)x+p(2)x^2+p(3)x^3+p(4)x^4+\cdots\]
그리고는 이 \(f(x)\)라는 함수가 과연 어떻게 표현될 것인가에 대해 관심을 갖고 아래와 같이 표현할 수 있음을 발견합니다. \[ f(x) = \frac{1}{(1-x)(1-x^2)(1-x^3)(1-x^4)\cdots}\]
이 \(f(x)\)가 왜 저렇게 표현될까에 대해 의문을 가지시겠죠? 위 식에서 \(x\)의 절대값이 \(1\)보다 작을 경우에는 우변의 \(1/(1-x^k)\)와 같은 식을 \(1+x^k+x^{2k}+x^{3k}+\cdots\)와 같은 기하급수geometric series로 표현할 수 있다는 겁니다. (그리고 이 기하급수는 \(x\)의 절대값이 작을때 균등 수렴uniform convergence이 보장되기 때문에 곱의 순서가 크게 중요하지가 않습니다.) 그러면 위 식의 우변을 다음처럼 쓸 수 있습니다.
\begin{align*}
\frac{1}{(1-x)(1-x^2)(1-x^3)(1-x^4) \cdots} = (1+x^1&+x^{1+1}+x^{1+1+1}+ \cdots) \\
\times (1+&x^2+x^{2+2}+x^{2+2+2}+ \cdots) \\
\times &(1+x^3+x^{3+3}+x^{3+3+3}+ \cdots) \\
&\times (1+x^4+x^{4+4}+x^{4+4+4}+ \cdots) \\
&\quad\times \cdots
\end{align*}
이제 이 식을 다시 곱해서 전개한다고 생각해봅시다. 지수 부분만 신경쓰면 됩니다. 이 뒤에는 \((1+x^5+ \cdots)\)처럼 다른 것들도 곱해야 하는 것이 나오겠지만, 앞부분만 생각한다면 \(x^{1+1}\)과 \(x^2\)의 곱은 \(x^4\)을 이루는 하나의 경우의 수가 돼죠. 즉 전개해서 \(x^5\)이 나오자면 여러 방법이 있을텐데, 예를 들어 \(x^1\)과 \(x^{2+2}\)을 곱하여 \(x^5\)이 나왔다면 이것은 \(5\)를 \(2+2+1\)로 분할한 것을 나타냅니다. 즉, 전개한 후 \(x^5\)의 계수는 \(x^5\)이 나타날 수 있는 모든 조합의 개수를 세는 것과 같고 따라서 \(p(5)\)가 됨을 알 수 있습니다. 다행히 모든 계수들이 \(1\)이기 때문에 조합이 나타날 수 있는 경우가 한 번씩 더해지므로 \(n\)차의 계수는 \(n\)의 분할의 수를 세는 것과 일치하기에 \(p(n)\)이 되는 것입니다.
좌변과 우변은 같지만 형식에서 큰 차이가 있습니다. 좌변은 항을 주욱 나열하여 더하는 형태이고, 우변은 여러 가지를 모두 곱하는 형태로 표현되어 있습니다. 상황에 따라 더하는 형태가 편할 때도 있고 곱하는 형태가 편할 때도 있어서 둘 중에 하나를 자유롭게 사용하면 됩니다. 예를 들어 서로 다른 두 식을 곱할 때는 각각의 식이 더하는 형태로 되어 있다면 까다롭지만, 곱하는 식으로 되어 있다면 간단할 것입니다. 또 어떨 때는 더하는 형태가 더 편할 때도 있어요.
영국에 맥마혼MacMahon이라는 수학자가 있었습니다. 이 사람은 \(p(1)\)부터 \(p(200)\)까지 모두 다 계산했습니다. 즉 이런 것을 계산해내었죠.
\[p(200)=3,972,999,029,388\]
과연 맥마혼은 우리가 앞에서 \(p(4)\)를 구한 것처럼 정말 모든 분할을 일일이 다 세어서 했을까요? 만약 그랬다면 20세기 초반 사람인 맥마흔은 아직도 계산을 끝내지 못했을 수도 있습니다. 게다가 작은 실수라도 한다면 처음부터 다시 해야할 수도 있습니다. 다시 말해 절대로 이런 식으로 계산하지 않았다는 겁니다.
그럼 과연 어떻게 계산한 것일까요? 일단 편하게 적기 위해 기호를 하나 약속하기로 합시다. 제가 활동하는 연구분야에서는 오일러가 사용한 \(x\) 대신에 \(q\)를 많이 씁니다. 반복해서 곱하는 것을 편하게 쓰기 위해 아래처럼 정의합니다.
\[
(a;q)_n := (1-a)(1-aq)(1-aq^2) \cdots (1-aq^{n-1})
\]
여기에 \(n=\infty\)을 넣으면 위와 같은 항을 계속 곱해나가는 것을 뜻합니다. 즉, \( f(q)= \frac{1}{(q;q)_\infty} \)가 됩니다. 그런데 이야기하자면 많이 길어지지만 오일러가 이미 예전에 다음 식을 증명하였습니다.
\[(q;q)_\infty=1-q-q^2+q^5+ \cdots = \sum_{k=-\infty}^{\infty} (-1)^k q^{(3k^2+k)/2} \]
위 식과 \(f(q)\)의 식을 곱하면 아래 식을 얻을 수 있습니다.
\[
\left(\sum_{n=0}^{\infty} p(n) q^n\right)(1-q-q^2+q^5+ \cdots) = 1
\]
이 식 양변에서 \(q^n\)의 계수를 비교하면 \(p(0)\), \(p(1)\), \(\ldots\), \(p(n-1)\)을 적당히 더하고 빼서 \(p(n)\)을 구할 수 있다는 결론에 도달합니다. 즉 아래와 같은 식이 성립합니다.
\[
p(n)=p(n-1)+p(n-2)-p(n-5)-p(n-7)+\cdots
\]
이런 식으로 하였기 때문에 실제 \(p(200)\)의 계산은 사칙연산에서 실수만 하지 않으면 할 수 있다는 겁니다.
라마누잔은 맥마혼이 \(p(200)\)까지 계산한 것을 보고 무슨 생각을 했을까요? 그 값들을 \(p(0)\)부터 시작하여 5개씩 한 줄에 써서 표를 만들면 이렇게 됩니다.
\begin{align*}
\begin{matrix}
1 & 1 & 2 & 3 & 5 \\
7 & 11 & 15 & 22 & 30 \\
42 & 56 & 77 & 101 & 135 \\
176 & 231 & 297 & 385 & 490 \\
627 & 792 & 1002 & 1255 & 1575 \\
1958 & 2436 & 3010 & 3718 & 4565
\end{matrix}
\end{align*}
이것을 가만히 살펴보면 5번째마다 5의 배수가 나온다는 것을 알 수 있습니다. 이후에도 계속 같은 위치가 5의 배수임을 본 거죠. 즉 라마누잔은 \(p(5n+4)\)가 항상 5의 배수임을 추측합니다.
마찬가지로 \(p(5)=7\), \(p(12)=77\), \(p(19)=490\)인 것을 보고 일정 간격으로 7의 배수가 나타난다는 것을 또 봤어요. 그래서 이 사실으로부터 라마누잔은 \(p(7n+5)\)가 항상 7의 배수임을 추측합니다.
두 사실을 저 표를 보고서 알아낸 거예요. 그저 표를 본 것만으로도 라마누잔은 이런 추측을 하였습니다. 나중에 그것을 증명하기는 했어요. 라마누잔은 표를 보고 먼저 이럴 수도 있겠구나 생각을 한 후 그것을 증명한 것입니다. 증명 자체는 1쪽 정도밖에 안 됩니다.
여기서 제가 드리고 싶은 말씀은 이것입니다. 눈 앞에 펼쳐진 어떤 상황을 보고 상당히 많은 사람들이 예측을 합니다. 이걸 흔히 추측이라고 하는데, 과연 아무렇게나 추측했을때 그게 맞을 가능성이 얼마나 있을까요. 조금밖에 보지 않고 추측한다는 것이 상당히 위험한데도 위의 경우에는 우연히 증명이 된 것이지요.
그 후 라마누잔도 드디어 사람들이 흔히 하는 실수를 하게 됩니다. 라마누잔은 표를 보고 \(p(116)\)이 \(121\)의 배수임을 발견하고 \(p(99)\)가 \(125\)의 배수인 것만 보고는 이런 가설을 세웁니다.
고작 201개의 수 중에 2개만 보고 이걸 추측하는 것은 너무 과했죠? 실제로 이건 라마누잔이 말만 하고 증명을 하지 않았는데, 몇년 후인 1930년에 반례가 발견됩니다. 바로 \(p(243)\)이 \(7^3\)의 배수가 아님이 밝혀졌지요.
Ⅳ.원 방법Circle method
어떤 함수를 급수 \(\sum_{n=0}^\infty a(n) q^n\)으로 표현할 수 있다고 해봅시다. 만일 \(a(n)\)이 급격하게 증가한다면 \(a(n)\)이 지수 함수 꼴이 아닐까 추측하기 쉽습니다. 하디와 라마누잔이 이러한 이유로 \(p(n)\)을 지수함수와 연관지으면서 관심있게 생각하다가 현재에도 널리 사용되고 있는 원 방법circle method의 기초를 다지게 됩니다.
혹시 복소해석학 과목을 들으신 분을 위하여 조금 더 자세한 이야기를 해보겠습니다. 이제 \(q\)를 복소수로 생각해봅시다. 복소해석학에서 상당히 중요하게 생각하는 정리로 ‘유수 정리Cauchy’s residue theorem‘라는 게 있는데, 어떤 함수의 유수residue를 알 수 있으면 적분값의 계산이 매우 쉬워지기에 실변수 함수를 일부러 복소 평면 위로 올려서 복잡한 계산 없이 값을 얻고는 합니다. 공학 쪽에서도 많이 쓰는데, 여기에서도 \(p(n)\)이라는건 어차피 계수에 불과하기 때문에 \(q\)를 변수로 볼 경우 적당한 변형을 통해 \(p(n)\)을 유수로 만드는 게 가능하다는 것입니다. 즉 유수를 이용해 \(p(n)\)을 계산할 수 있다는 겁니다. 반지름이 1인 원상에서 폐곡선 적분contour integral을 하는 것으로 \(p(n)\)을 계산할 수 있을 것이라는 것을 하디와 라마누잔이 깨달았습니다. 흔히 이 방법을 하디와 리틀우드의 방법이라고 부르기도 해요. 하디와 라마누잔이 한 것은 단순 \(p(n)\)의 계산만을 위한 것이었고 완전한 원 방법이 정착이 된 것은 하디와 리틀우드의 업적이라 그렇습니다. 그런데, 이런 방식은 에러를 포함하고 있어 정확한 값을 구하지는 못하였습니다. 후에 라데마커Rademacher라는 사람이 정확한 값을 계산해냈고 이게 그 식입니다. (여기서 \(\sinh x=(e^x-e^{-x})/2\)를 나타내는 함수입니다.)
\[p(n)=\frac{1}{\pi \sqrt{2}} \sum\limits_{k=1}^\infty A_k (n) k^{1/2} \bigg[ \frac{d}{dx}
\frac{\sinh((\pi/k)(\frac{2}{3}(x-1/24))^{1/2}}{(x-1/24)^{1/2}} \bigg]_{x=n} \]
여기서 \(A_k(n)\) 정의도 복잡한데요, 생략하겠지만 \(\omega_{h,k}\)를 \(z^{24}=1\)이 되는 \(z\) 중에서 어떤 조건에 따라 잘 정하고 나면 \(A_k(n)\)을 이렇게 정합니다.
\[ A_k(n):=
\sum_{0\le h<k, (h,k)=1} \omega_{h,k} e^{-2\pi inh/k}
\]
라데마커가 찾은 식은 지금 보시는 것처럼 뭔가 되게 지저분합니다. 한숨이 막 나오죠? 여기서 \(A(k)\)는 지수 함수를 포함하고 있어요. 그런데 \(k\)가 증가할수록 이 식이 점점 작아지기 때문에 오차 부분이 0.5보다 작아지는 시점이 있습니다. 하지만 분할이라는 것 자체가 경우의 수를 세는 것이기 때문에 \(p(n)\)은 무조건 정수여야만 하죠? 그래서 항을 무한히 더하지 않아도 적당한 항까지 구하여 반올림만 하여도 정확한 \(p(n)\)값을 가지게 됩니다. 그 정도로 매우 정확한 식이지요.
그런데 이 모든 것들이 원래는 하디와 라마누잔이 다 해뒀던 거에요. 이 분들은 ‘아, 대략 지수함수로 이렇게 표현될 것 같다’라는 결론을 내려놓고 계산만으로 끝을 냈습니다. 그걸 수식으로 구체화시켰더니 이렇게 되었다는 것입니다.
제가 이와 관련된 내용으로 고등과학원에서 처음 강의했을 때 앉아계신 분들 중에서 2/3가 물리하는 분들이셨어요. 한국에는 이 식이 적혀있는 1936년 논문이 인쇄된 것이 없었습니다. 저는 한국에 와서 이 논문을 찾아보게 되었는데, 다행히 서울대학교 도서관에 마이크로필름으로 보관되어 있었어요. 고등과학원 물리학부 이기명 교수님께서 필요하다고 하셔서 그걸 복사해 드렸습니다. 이게 왜 필요하냐고 여쭈어봤더니 그 당시 교수님이 연구하시던 식이 있는데, 그 식의 해의 갯수가 \(p(n)\)개 존재하기에 필요하다고 하시더라고요. 그래서 그 이후에도 파티션에 대한 이야기를 하면 수학하시는 분들보다는 물리쪽 분들이 더 관심을 갖고 물어보세요. 현재 기초과학연구원 원장을 맡고 계신 물리학자인 김두철 교수님도 한 번은 이것과 관련된 내용을 논문으로 쓰셨다고 합니다.
Ⅴ.초기하 급수Hypergeometric Series
라마누잔이 많은 관심을 가지고 연구했던 것 중 하나가 초기하 급수라는 게 있습니다. 조화 해석harmonic analysis이나 수치 해석, 공학 쪽에서도 많이 사용합니다. 먼저 기호를 하나 정의합시다. 어떤 수 \(a\)에 대하여 \((a)_0=1\), 그리고 양의 정수 \(n\)에 대하여 \((a)_n=a(a+1)\cdots (a+n-1)\)로 정의합니다. (일반화된) 초기하급수hypergeometric series는 이렇게 정의합니다.
\[
{}_rF_s\left(
\begin{matrix} a_1 &a_2&\cdots&a_r\\b_1&b_2&\cdots&b_s\end{matrix}
;z \right)
:= \sum_{n=0}^\infty
\frac{(a_1)_n (a_2)_n \cdots (a_r)_n}{ (b_1)_n (b_2)_n \cdots (b_s)_n} \frac{z^n }{n!}
\]
특히 위 식에서 \(r=2, s=1\)인 경우를 가우스가 1812년 처음 발표하고 논문을 써서, 이 식을 ‘가우스 초기하 급수’라고도 합니다.
그런데 요즘은 이것을 좀 더 일반화해서 \(q\)를 집어넣은 아래와 같은 급수를 많이 씁니다. 이름은 ‘basic hypergeometric series’, 즉 간단한 초기하 급수라고 되어 있어서 더 간단한 것인가 오해하기 쉽지만 사실은 더 복잡합니다.
\[
{}_r\Phi_s\left(
\begin{matrix}
a_1& a_2& \cdots& a_r\\
b_1& b_2&\cdots& b_s
\end{matrix}; q, z\right)
:= \sum_{n=0}^\infty
\frac{(a_1;q)_n \cdots (a_r;q)_n}{(q;q)_n (b_1;q)_n \cdots (b_s;q)_n} \bigg[ (-1)^n q^{\frac{n(n-1)}{2}} \bigg]^{1+s-r} z^n
\]
앞의 식에서는 \((a)_n\)과 같은 기호를 쓰다가 여기서는 앞에서 정의했던 \((a;q)_n\)을 쓰는데 어째서 뒤의 것이 앞의 것의 일반화가 될까요? 그건 다음 식으로부터 이해할 수 있습니다.
\[
\lim_{q \to 1} \frac{1-q^a}{1-q} = a
\]
즉 우변에 있는 \((a_i;q)_n\), \((b_i;q)_n\), \((q;q)_n\)과 같은 각 항을 모두 \((1-q)^n\)으로 나눈 다음에 \(q\)를 1로 보내버리면 원래 꼴로 바뀌게 됩니다.
수학자들은 뭔가 계산을 하다가 초기하 급수 형태를 만나면, 그것이 어떤 성질을 만족하느냐에 관심을 가집니다. 그래서 정수론, 특히 제가 하고 있는 해석적 정수론analytic number theory을 하는 사람들은 초기하 급수가 언제 모듈러 성질을 만족하느냐에 관심을 가지고 있습니다. 이에 관한 추측으로 남의 가설Nahm’s conjecture이라는 것이 있었어요. 어느 경우에 이러한 초기하 급수가 모듈러 성질을 가지는가에 대한 가설이었는데, 틀렸어요. 자기에Don Zagier라는 분이 이 추측을 수정하여 어떠한 경우에 만족되는지 정리하였습니다.
Ⅵ.라마누잔의 마지막 편지Ramanujan’s Last Letter
라마누잔의 편지를 묶어놓은 책이 있습니다. 사람들이 그중에서 가장 관심을 갖는 것은 하디에게 자기를 소개하는 첫 편지와 죽기 직전에 보낸 마지막 편지입니다. 1920년 1월에 라마누잔이 하디에게 마지막 편지를 보내고 4월 26일에 돌아가시는데, 이 편지에서 본인이 아주 흥미로운 함수를 발견했다고 말하며 그것에 대한 설명을 편지에 줄줄줄 썼습니다.
마지막 편지에는 어떤 말을 썼을까요? 그동안 연락을 못 해서 미안했다는 둥 이런저런 이야기를 하다가 결국에는 수학 이야기로 마무리를 합니다. 죽을 때까지 수학을 하셨다고 해요. 마지막으로 자기 스승에게 보내는 편지에도 수학 문제를 잔뜩 설명해놓았으니까요.
원래는 이 편지들을 하디가 가지고 있었는데, 이후 하디가 영국왕립학회 회장을 역임하기도 했던 수학자 왓슨G. N. Watson에게 직접 모두 전달합니다. 왓슨이 죽고 나서 왓슨의 부인이 휘태커J. M. Whittaker라는 사람에게 집에 자료가 잔뜩 있는데 정리를 해달라고 부탁합니다. 휘태거는 정리하면서 자료가 여러 묶음이 나오자 이것을 캠브리지 대학의 트리니티 칼리지 도서관에 보내게 됩니다. 그리고는 모든 사람이 이걸 잊어버립니다.
편지가 어디 있었는지 누가 알아냈을까요? 도서관에 박스로 쌓여있던 것을 1976년에 미국인 수학자 조지 앤드루스George Andrews가 우연히 발견합니다. 이 분이 밥 먹으면서 직접 해주신 이야기를 전해드릴게요. 1970년대만 해도 미국에서 유럽으로 가는 비행기 표를 원하는 가격에 구하기가 쉽지 않았대요. 한 번은 학회가 있어서 유럽으로 갈 일이 있었다고 합니다. 학회만 들렸다가 오는 비행기 티켓은 너무 비싸길래 여행사에 어떻게 하면 티켓을 싸게 구할 수 있냐고 물었더니, 유럽에서 지내는 날짜 수를 늘려서 1주일을 채워보라고 했다고 합니다. 앤드루스는 예전에 누군가 왓슨이 남긴 자료가 트리니티 칼리지 도서관에 보관되어 있으니 시간이 있다면 한 번 살펴보라고 했던 말이 기억나 자투리 3일 동안 영국에 들러 도서관에 남아있던 상자를 열어 본 거에요. 그랬더니 라마누잔의 139페이지짜리 묶음이 딱 나오는데, 그때까지 수학자들이 모르고 있던 것들이 적혀있는 것을 발견하게 된 것이죠.
그 후 많은 수학자가 이 편지를 연구했습니다. 제가 연구한 것도 이 편지에 대한 것입니다. 만약 그때 항공권 가격이 조금 더 저렴으면 이런 연구가 없을 뻔했습니다. 이 편지에 쓰여있는 것이 막 세타 함수mock theta function라는 것인데, 앞에서 언급되었던 자기에라는 수학자는 이것을 블랙홀 이론과도 연결시켰어요. 막 세타 함수가 막 모듈러 형태와 연결되고, 그것이 다시 블랙홀 이론의 수학적인 부분과 연결되어 결국에는 라마누잔의 편지가 블랙홀과도 이어졌다는 거죠.
끝내기 전에 제가 제일 좋아하는 걸 잠깐 보여드리겠습니다. 저 편지에 있던 (A), (B)에 해당하는 수식입니다.
\begin{align*}
(A)\quad& 1 + \frac{q}{(1-q)^2} + \frac{q^4}{(1-q)^2 (1-q^2)^2} + \frac{q^9}{(1-q)^2 (1-q^2)^2 (1-q^3)^2} + \cdots \\
(B)\quad & 1 + \frac{q}{1-q} + \frac{q^4}{(1-q)(1-q^2)} + \frac{q^9}{(1-q)(1-q^2)(1-q^3)} + \cdots
\end{align*}
이 표현 자체가 아까부터 이야기하던 초기하 급수의 형태입니다. 하디에게 보내는 마지막 편지에서 라마누잔은 ‘아주 흥미로운 함수를 발견했다’라고 합니다. 라마누잔은 본인이 발견한 것이 세타 함수는 아니지만 굉장히 특이한 성질을 갖고 있어 막 세타 함수라고 부른다며 (A)와 (B)를 설명합니다.
사실 이 편지에는 막 세타 함수의 정확한 정의가 없습니다. 막 세타 함수를 설명했을 뿐이지, 어떠한 조건을 만족할 때의 무언가라고 엄밀하게 적지 않았습니다. 위키피디아나 구글에서 검색하면 나오는 정의는 라마누잔이 한 것이 아닙니다. 하디에게 들은 것을 왓슨이 논문에 썼고, 왓슨이 논문에 쓴 것을 보고 사람들이 막 세타 함수의 정의로 쓰기 시작한 것이지요. 그런데 여기서 두 부류가 갈라집니다. 한 번은 저도 자기에 교수와 식사 중에 이것으로 논쟁을 한 적이 있어요. 그 분은 막 세타 함수의 정의가 없다며 본인이 생각하는 막 세타 함수는 라마누잔이 편지에 적은 내용이 전부이기에 그 외의 것들은 막 세타 함수라고 부를 수 없다는 거예요. 냅킨을 펼쳐놓고 저와 자기에 교수가 30분동안 논쟁을 하다가 주위 사람들의 만류로 그만두었지요.
라마누잔이 마지막 편지에 마침표를 찍지 못한 채 돌아가신 것이 수학계 전체로 보면 불행이었지만, 덕분에 제가 연구할 것이 있었어요. 그때 라마누잔이 돌아가시지 않고 조금 더 살아계셨다면 어땠을까요? 만약 그랬다면 저의 밥줄이 흔들흔들했을 것입니다. 왜냐하면 이런 천재같은 분이 모든 문제를 풀어버리면 그 다음 세대 사람들이 할 게 없기 때문이죠. 한편으로는 죄송한 이야기긴 하지만 앞으로 수학자들이 연구할 많은 부분을 남겨두셔서 다행입니다.
고등과학원 수학부 최윤서 교수의 2016년 4월 29일 “정오의 수학 산책” 강연을 듣고 KAIST 수리과학과 김성근님이 정리한 내용을 편집하고 일부 보충한 것입니다.
