P-ADIC ANALYSIS AND GEOMETRY
How to measure the “size” of numbers?
이번 연재에서는 ‘\(p\)진수’라는 수 체계에 기반한 해석과 기하를 소개하고자 한다. 실수나 복소수처럼 \(p\)진수 위에서도 ‘자연스러운’ 해석과 기하 이론을 전개할 수 있고, 그 결과가 정수론에 유용하게 쓰이는 반면, 실수와 복소수와는 다른 생소한 현상도 많이 나타난다. 이번 연재를 통해 \(p\)진수의 해석과 기하의 여러 측면을 소개하고, 정수론에서 \(p\)진수의 유용성을 보여주고자 한다. 이번 글에서는 본론에 들어가기에 앞서 동기부여와 배경을 다루고, 다음 글에서부터 본격적으로 \(p\)진수를 소개하고자 한다.
***
최근 모 방송사에서 인기리에 방영되었던 연습생 오디션 서바이벌 프로그램이 득표수 조작 의혹에 휘말리는 사건이 있었다. 원래부터 화제성이 큰 성격의 이슈인 데다, 우리 사회 제반의 ‘공정성’에 대한 문제의식 등과 맞물려 많은 담론을 낳은 듯하다. 득표수 조작 의혹은 잠시 잊더라도, ‘센터’를 차지하기 위해 시청자들 앞에서 공개적으로 경쟁에 내몰리는 포맷은 우리 사회 젊은이들이 처한 현실을 잔인하리만큼 잘 묘사한 축소판이라는 생각도 든다.
그렇다면 이런 질문을 던지는 독자가 있을지도 모르겠다.
“모두가 센터일 수는 없는 것일까?”
사실 이 질문을 바탕으로 온갖 복잡한 사회학적 담론을 전개할 수도 있겠지만 저의 본분인 수학 이야기로 돌아오면 (지금쯤 잊으셨을 수도 있지만 사실 이 글은 수학에 관한 글이다), 우리가 살고 있는 공간에서는 평면에 원을 그리면 거기에 잘 정의된 ‘중심’이 있을 수밖에 없다. 모두가 무대의 ‘중심(센터)‘에 설 수 없다면 결국 누가 어떤 시점에 중심에 서게 될지를 선택해야만 한다.
서론에 잡설이 길었지만, 이번에 소개하는 \(p\)진수\(p\)-adic numbers의 거리metric가 만족하는 재미있는 성질 중 하나는 원판의 모든 점이 ‘중심’이라는 것이다. (여기에서 \(p\)는 고정된 소수1이다.) 즉 \(p\)진 기하\(p\)-adic geometry에서는 원판의 모든 점 사이에 일종의 ‘기계적 평등’이 주어진다. 모두가 ‘센터’인 대신 잃어야 하는 것도 있다. \(p\)진 기하에서는 반지름 \(1\)의 원판에 있는 점을 \(0.5\)의 거리만큼 계속 옮기더라도 결코 원판을 탈출할 수 없다. (원판 위의 모든 점이 중심이기 때문에 \(0.5\)의 거리만큼 여러 번 움직이더라도 여전히 원판의 ‘중심’에 있게 된다!) 즉 조금씩 이동해서는 결코 원판을 벗어날 수 없고, 한 번에 큰 거리를 이동해야만 원판을 벗어날 수 있다.
지금까지 나열한 단편적 현상에서도 알아챌 수 있듯이, 이번 연재에서 다룰 \(p\)진수는 우리가 일상생활에서 접하는 수 체계와 많이 다르다. 사실 \(p\)진수를 다루는 동기는 우리가 살고 있는 물리적 세계와의 직접적 연관성 때문이라기보다는 \(p\)진수가 정수론, 특히 대수적 정수론에 쓰이는 편리한 도구이기 때문이다. 와일즈A.Wiles의 페르마 마지막 정리Fermat’s Last Theorem 및 타원곡선의 보형성modularity of elliptic curves에 관한 연구만 보더라도 하나만 꼭 집어 말하기 힘든 정도로 다양한 \(p\)진 기교들이 곳곳에 쓰이며, 2018년 필즈상 수상자인 숄체P.Scholze의 연구 중 거의 대부분은 \(p\)진 기하에 관한 것이다.
그러면 \(p\)진수라고 부르는 조금 이상한 수체계가 정수론에 유용하다는 점은 납득이 가든 가지 않든 우선 받아들이자. (저를 전적으로 믿으셔야 합니다!) 그러면 이제 본격적으로 \(p\)진수를 소개해야 하는데, 이게 생각보다 만만치 않다. 처음 \(p\)진수를 접하고 이해하는 과정을 잘 생각해 보면, 우리가 수를 다루면서 은연중에 당연시하며 사용하는 성질을 잊어버리고 “물리적 세계”에서 수를 해방시키는 작업이 필요하다. 이번 글에서는 본격적으로 \(p\)진수를 소개하기에 앞서, 이 발상의 전환에 필요한 배경을 다루고자 한다.
‘수’란 무엇인가?
서론부터 뜬금없었으니, 본론도 뜬금없는 질문으로 시작해 보자. ‘수’란 무엇인가? 여유 시간이 있다면 지금 이 글을 계속 읽기 전에 잠시 시간을 내어 자신만의 답변을 한번 생각해 보자.
우리는 일상생활에서 끊임없이 ‘수’를 사용하고 있지만, 이 질문에 대한 보편적이면서 명료한 답을 내리는 것은 결코 쉬워 보이지 않는다. 그리고 그 이유는 아마도 질문 자체가 애매하기 때문이 아닐까. 질문을 뒤집으면 “무엇을 ‘수’라고 부를 것인가”라는 메타수학적 질문이 되며, ‘수’를 사용하는 맥락에 따라 다른 각도의 답변이 가능할 것이다. 그래서 질문에 명료한 답을 찾는 대신, 현실세계에서 어떤 ‘수’를 마주치게 되는지를 먼저 살펴보기로 하자.
아마도 인류가 처음으로 ‘수’라는 개념을 만들어 낸 것은 ‘개수를 세기 위한 것’이지 않았을까. 사과의 개수, 혹은 모여있는 사람의 수 등을 세면서 자연스레 ‘자연수’ 혹은 ‘양의 정수’라는 개념을 사용했으리라. 그리고 부족한 수량을 세면서 ‘음의 정수’라는 개념을, 그리고 더 나아가서 세어야 할 것이 없는 상태인 ‘영’이라는 숫자의 개념을 생각해 냈으리라.
그리고 누군가는 ‘수’를 사용하여 길이, 넓이, 부피를 표현하기 시작했을 것이다. 즉 단위 길이를 정해서 주어진 선분이 단위 길이를 몇 번 포함하는지를 세고, 이와 비슷한 방법으로 넓이와 부피를 측량했을 것이다. 그런데 우리가 마주치는 길이의 경우 단위 길이의 자연수배로 딱 떨어지는 경우는 거의 없다. 대부분 경우엔 단위 길이를 몇 등분 하여 남은 길이에 끼워 맞춰야 하는데, 이로부터 자연스레 분수 혹은 유리수의 개념이 등장하게 된다.
‘육안’으로 보면 유리수로 모든 길이를 표시할 수 있는 것처럼 보인다. 줄자로 길이를 재면 모두 ‘유리수값’으로 길이를 말하지 않는가. 하지만 고대 그리스의 경이로운 수학자들은 유리수로 표현될 수 없는 길이가 있음을 발견한다. 예를 들어 기원전 6세기경 피타고라스 학파는 빗변을 제외한 변의 길이가 \(1\)인 직각 삼각형의 빗변은 유리수로 표현할 수 없음을 증명하였다.2 그리고 비록 훨씬 나중에 증명되었지만 지름 \(1\)인 원의 둘레의 길이 역시 유리수로 표현할 수 없다.3 다시 말하면 육안으로는 매우 촘촘해 보이는 유리수 사이에 ‘빈자리’가 많이 있다는 발견이다. 따라서 다음과 같은 질문이 자연스럽게 등장한다.
유리수 사이의 ‘빈자리’를 어떻게 채워야 하는가?4
기원 전 3세기 경, 유클리드Euclid가 당시 수학을 집대성한 원론Elements의 5권에는, 유리수 사이의 빈자리를 채워넣어서 ‘실수real numbers‘라는 수체계를 만드는 이론이 상당부분 세세히 전개되어 있다. 그리고 19세기 데데킨트Dedekind에 의해 수학적으로 엄밀한 ‘실수’의 정의가 완결되기까지는 약 2000여년의 시간이 걸렸다. 물론 이 2000여년의 시간 중 대부분이 유럽 문명에서 수학의 암흑기였다는 점을 감안하더라도, 실수를 정의하는 작업이 결코 단순하지 않음을 나타내는 지표일 것이다. (물론 학부 해석학을 접한 독자는 이미 그 난이도를 체감하였을 것이다.)
이 시점에서 대부분의 독자는 “수란 무엇인가”라는 질문이 완전무결하게 해결되었다고 생각할 것이다. 수의 존재이유를 현실 세계에서의 측량을 표현하는 방법으로 국한한다면, 이미 필요 이상의 답변을 얻어내었다고 볼 수도 있다. 하지만 실수의 정의가 나타난 지 얼마 되지 않아, 실수와 전혀 다르지만 (정수론의 입장에서는) 실수만큼 자연스러운 방법으로 유리수 사이의 빈자리를 채우는 방법이 등장하게 된다.
오스트리아의 수학자 헨젤K.Hensel이 1897년 처음 도입한 이 수 체계는 \(p\)진수\(p\)-adic numbers라고 부르며, 여기에서 \(p\)는 고정된 하나의 소수 \(p=2,3,5,7,11,13,\cdots, 380707, 380713, \cdots\) 이다.5 비록 정수론 입장에서는 \(p\)진수라는 수 체계가 실수만큼이나 자연스럽다고 했지만, 좀 더 솔직하게는 \(p\)진수가 실수보다 훨씬 자연스럽고 유용하다고까지 말하고 싶다.6 여기에 대한 자세한 논의를 시작하기에 앞서 먼저 \(p\)진수가 무엇인지 설명해야 하고, 이를 위해 유리수에서 실수를 어떻게 만드는지 아주 간단히 묘사하고자 한다.
직관적으로 말하면 ‘실수’란 십진법 전개에서 소수점 아래 무한히 이어지는 수를 말한다. 예를 들어 원주율 \(\pi\)는
\[\pi= 3.1415926535 8979323846 2643383279\dots\]
로 쓰일 수 있다. 소수점 뒷자리가 무한히 이어진다는 뜻은, 유리수로 무한히 근사할 수 있다는 뜻으로 생각할 수 있다. 즉 \(\pi\)의 소수점 전개를 소수점 뒤 충분히 큰 \(n\)번째 자리에서 끊으면 \(\pi\)에 매우 가까운 유리수를 얻을 수 있고, 더 뒷자리에서 끊을수록 더 좋은 유리수 근사값을 얻게 된다. (다만 이런 아이디어를 엄밀한 수학적 정의로 변환하고 원하는 성질들을 증명하는 작업은 결코 자명하지 않다.)
하지만 여기서 우리가 무의식중에 선택한 것이 하나 있다. 바로 ‘근사’의 정의, 다르게 말하면 어떻게 두 유리수 사이의 거리를 재는지이다.
‘절대값’이란?
물론 어떤 (유리)수 \(\alpha\)가 다른 (유리)수 \(\beta\)를 ‘근사’한다고 하면 그 뜻은 둘 사이의 거리가 매우 작음을 의미해야 할 것이다. 그렇다면 ‘근사’를 논하기 위해서는 (유리)수 사이의 거리를 정의해야 한다. 그리고 두 (유리)수 \(\alpha,\beta\) 사이의 거리는 차이 \(\alpha-\beta\)의 크기, 즉 ‘절대값absolute value‘으로 정의하는 것이 가장 타당할 것이다.
가장 먼저 떠오르는 절대값의 후보가 있다. 임의의 유리수 \(\alpha\)에 대해 다음과 같이 정의되는 \(\alpha\)의 절대값 \(|\alpha|_\infty\)을 생각할 수 있다.
\[|\alpha |_{ \infty }=\left\{ \begin{array}{ll} \alpha & { if }\quad\alpha \geqslant 0 \\ -\alpha & { if }\quad\alpha <0. \end{array} \right.\]
편의상 이 절대값 \(|\bullet|_\infty\)를 ‘자연스러운 절대값’이라고 부르자.7 어쨌든 ‘실수’는 ‘자연스러운 절대값’에 대해 유리수를 근사하는 수를 의미한다고 생각할 수 있으며, 실수를 건설한 후에는 ‘자연스러운 절대값’은 실수의 절대값으로 자연스럽게 확장된다.
그런데 여기에 의문이 드는 독자가 있을 것이다.
‘자연스러운 절대값’ 외에 유리수의 크기를 재는 다른 방법이 있다는 말인가?
사실 위에서 소개한 ‘자연스러운 절대값’은 우리가 살고 있는 물리적 공간에서의 크기에 관한 직관과 뗄레야 뗄 수 없는 관계에 있다. 만약 ‘물리적 공간에서의 크기’를 굳이 반영하지 않아도 된다면, 순수하게 수학적으로 유리수의 크기, 즉 ‘절대값’을 어떻게 정의할 수 있을까?
이런 부류의 질문에 대해 이미 2000여 년 전 고대 그리스 수학자에서부터 유래한 접근법이 있다. ‘자연스러운 절대값’을 어떤 공리axioms로 환원하고 나서, 공리들 간의 논리적 관계를 따져보는 것이다. 유명한 예로 “‘공간’이란 무엇인가?”라는 질문에 대해서, 우리가 일상적으로 갖고 있는 공간에 대한 직관을 소위 유클리드 공리로 환원하여 공간의 기하를 수학적으로 재구성한 것이다. 이런 공리화를 통해 공리들 간의 논리적인 연관성과 독립성을 명확히 할 수 있고, 이 과정이 기하를 유클리드 공리에서 (혹은 우리의 일상적인 공간에 관한 직관에서) 해방시키는 첫걸음이다.
그러면 우리의 일상적인 수에 대한 직관에서 유리수의 크기, 혹은 절대값을 해방시키는 과정의 첫걸음으로 ‘자연스러운 절대값’을 공리화해 보자. 먼저 ‘자연스러운 절대값’이 만족하는 성질들을 아래와 같이 정리할 수 있다.
(Abs1) 모든 \(\alpha\)에 대해서 \(|\alpha|_\infty\geqslant0\)을 만족한다.
(Abs2) \(|\alpha|_\infty = 0\)을 만족하는 유일한 유리수는 \(\alpha=0\)이다.
(Abs3) 임의의 \(\alpha,\beta\)에 대해서 \(|\alpha\cdot\beta|_\infty= |\alpha|_\infty \cdot |\beta|_\infty\)를 만족한다.
(Abs4) 삼각 부등식 임의의 \(\alpha,\beta\)에 대해서 \(|\alpha + \beta|_\infty\leqslant |\alpha|_\infty + |\beta|_\infty\)를 만족한다.
(Abs4) 아르키메데스 성질 임의의 수 \(\alpha\ne0\)에 대해 수열 \(\{|n\alpha|_\infty\}\)이 양의 정수 \(n\)이 커짐에 따라 무한히 커진다.8
위의 극도로 자연스러운 다섯가지 성질은 수의 크기 혹은 거리를 재는 맥락에서는 절대값 함수 \(|\bullet|_\infty\)의 부분선형함수로서의 구체적인 정의 그 자체보다도 훨씬 유용하게 쓰인다. 사실 (Abs1-5)를 만족하는 함수를 사용하여 수의 ‘크기’를 정의하여도, 유리수의 ‘자연스러운 절대값’을 크기로 사용하여 얻을 수 있는 결과를 얻어낼 수 있다. 따라서 다음과 같은 정의를 생각할 수 있다.
정의 (아르키메데스 절대값). 편의상 실수가 이미 잘 정의되었다고 하자. 그러면 각 유리수에 실수를 대응시키는 함수 \(|\bullet|:\alpha\mapsto|\alpha|\)가 위 다섯가지의 공리를 만족하는 경우 이 함수 \(|\bullet|\)를 유리수의 아르키메데스 절대값archimedean absolute value이라고 부른다.9
그러면 유리수에는 ‘자연스러운 절대값’ \(|\bullet|_\infty\) 이외에 어떤 아르키메데스 절대값을 가질 수 있을까? 아래 오스트롭스키의 정리에 따르면 모든 아르키메데스 절대값은 결국 ‘자연스러운 절대값’을 약간 변형해서 얻어진다.
정리 (오스트롭스키의 정리Ostrowski’s theorem, 첫 번째 버전). 어떤 유리수에 실수를 대응시키는 함수 \(|\bullet|:\alpha\mapsto|\alpha|\)가 유리수의 아르키메데스 절대값이라고 하면, 어떤 실수 \(0<s\leqslant1\)가 있어서 모든 유리수 \(\alpha\)에 대해 \[|\alpha| = |\alpha|_\infty ^s\]를 만족한다.10
다르게 말하면 아르키메데스 절대값은 유리수의 ‘자연스러운 절대값’을 공리화한 것이라고 볼 수 있다.
여기에서 한 가지 관찰을 하면, 아르키메데스 공리 (Abs5)는 앞에 네 공리와 쓰임새가 상당히 다른 편이다. 사실 아르키메데스 공리는 ‘수의 크기’와 우리가 살고 있는 공간에서의 ‘거리’를 연관시키는 역할을 하는 반면에, ‘수의 크기’에 관한 여러 근원적인 성질들은 첫 번째 네 공리 (Abs1-4)만 사용해서 증명할 수 있다. 또한 아르키메데스 공리는 나머지 네 공리와 독립임을 보일 수 있다. 따라서 다음과 같은 ‘절대값’의 정의를 생각해 볼 수 있다.
정의 (절대값 / 비아르키메데스 절대값). 각 유리수에 실수11를 대응시키는 함수 \(|\bullet|\)가 (Abs1)부터 (Abs4)까지의 네 공리를 만족하는 경우, 이 함수 \(|\bullet|\)를 유리수의 절대값absolute value이라고 부른다.
만약 유리수의 절대값 \(|\bullet|\)이 아르키메데스 공리 (Abs5)를 만족하지 않는다고 하면, 그 절대값을 비非아르키메데스 절대값non-archimedean absolute value이라고 부른다.
정리하면 비아르키메데스 절대값은 앞의 네 공리 (Abs1-4)를 만족하기에, 자연스러운 절대값 \(|\bullet|_\infty\)처럼 ‘수의 크기’에 관한 여러 근원적인 성질을 공유한다. 반면에 아르키메데스 공리 (Abs5)를 만족하지 않기에, 공간의 길이에서 오는 ‘수의 크기’에 대한 직관에 어긋나는 성질을 가지기도 한다.
수학에서 ‘정의’를 할 때 항상 주의해야 하는 것은 ‘정의한 개체가 정말로 존재하는지’를 확인하는 것이다. 따라서 다음과 같은 질문을 할 수 있다.
유리수의 비非아르키메데스 절대값non-archimedean absolute value이 실제로 존재하는가?
다음 글에서는 각 소수 \(p\)에 대해 정의할 수 있는 소위 \(p\)진 절대값\(p\)-adic absolute value \(|\bullet|_p\)이라고 부르는 유리수의 비아르키메데스 절대값을 소개할 예정이다.
맺음말
유클리드에서 시작되어 데데킨트가 완결한 실수의 건설은 ‘자연스러운 절대값’ \(|\bullet|_\infty\)을 유리수의 크기로 사용하여 유리수를 무한히 근사하는 방식으로 유리수 사이의 빈자리를 채우는 것이다. 헨젤이 관찰한 것은 아르키메데스 절대값인 ‘자연스러운 절대값’ \(|\bullet|_\infty\) 대신 비아르키메데스 절대값인 \(p\)진 절대값\(p\)-adic absolute value \(|\bullet|_p\)을 사용하여 유리수를 근사하는 방식으로 유리수의 빈자리를 채울 수 있다는 것이며, 이렇게 얻는 수체계가 소위 \(p\)진수\(p\)-adic numbers이다. 자세한 내용은 다음 글에 다룰 것이다.
아르키메데스 공리는 너무 당연한 성질이기에 의심 없이 ‘절대값이 당연히 만족해야 하는 공리’로 무의식적으로 인정해 버릴 수도 있다. 하지만 절대값을 아르키메데스 공리에서 해방시키는 순간 유리수의 크기를 정의하는 새로운 방법인 \(p\)진 절대값을 볼 수 있으며, 이것이 소위 ‘\(p\)진수’를 건설하는 첫걸음이다.
절대값을 아르키메데스 공리에서 해방시키는 사고의 전환은 기하학을 유클리드 평행선 공리에서 해방시키는 것과 유사한 점이 있다. 유클리드의 평행선 공리 역시 너무나도 자연스럽게 받아들여야 하는 공리처럼 보였지만, 기하학이 평행선 공리에서 해방되면서 기존에 볼 수 없었던 새로운 공간들을 연구하는 기하학이 꽃피우기 시작했다. 그리고 더 나아가서 상대성 이론에 따르면 거시적으로 우리가 살고 있는 우주의 시공간은 평행선 공리를 만족하지 않는다.
물론 \(p\)진 절대값 \(|\bullet|_p\)은 아르키메데스 공리를 만족하지 않기 때문에, \(p\)진수는 우리가 수에 대해서 은연중에 갖고 있는 직관에 위반하는 행동을 보이기도 한다. 사실 현실 세계의 시공간은 ‘아르키메데스 공리’에 밀접하게 종속되어 있기에, 비아르키메데스 절대값과 물리적 시공간 사이의 직접적 연관을 찾기는 불가능하다. 그럼에도 불구하고 놀라운 점은 실수에서처럼 \(p\)진수에서도 어느 정도의 해석학과 기하학이 가능하다는 것이다. 예를 들어 적분, 푸리에 변환, 미분방정식, 함수해석 등의 이론이 \(p\)진수에 대해서도 연구되어 있으며, 또한 \(p\)진 다양체 이론도 존재한다. 그리고 신기하게도 이런 이론들이 현대 정수론에 중요한 도구로 사용되고 있다. 이번 연재를 통해서 어떻게 \(p\)진수가 현대 정수론에 사용되는지를 조금이나마 소개하고자 한다.
