(본문 중 심화 내용은 회색 선으로 표시하였습니다.)

 

태초에 기하가 있었습니다. 유클리드는 이미 성경이 쓰이기 훨씬 이전에 기하원론을 저술했고, 이는 수천 년 동안 서구 과학 교육의 지침이 되어 왔습니다. 라파엘로가 그린 저 유명한 아테네 학당엔 유클리드가 맨 앞머리에서 제자들에게 당당히 기하를 설파하고 있다는 점에서 그 영향력을 쉽게 가늠할 수 있지요. 기본적인 공리에서 시작하여 차례차례로 수많은 정리를 유도해내는 유클리드의 연역론은, 후세 많은 이들에게 과학하는 법을 가르쳤고, 이는 오늘날까지도 큰 위력을 발휘하고 있습니다. 만인이 알고 있는 피타고라스 정리나 삼각형 내각의 합이 180도라는 사실은 유클리드 기하를 상징하는 대표적인 정리들이지요. 

 

하지만 수천 년 동안 절대 진리로 받아들여졌던 유클리드 기하학은 근세로 옮겨오면서 그 위상이 조금씩 흔들리기 시작합니다. 유클리드가 제시한 5가지 공리 중, 처음 4개에서 연역될 수 있을 것이라 믿었던 마지막 공리, 즉 평행선 공준이 독립적이라는 것이 밝혀지면서 기하학은 큰 전환점을 맞이하게 됩니다.

수학자들은 직선이란 무엇인지, 두 평행한 직선이 만나는 것이 어떤 의미인지 등에 관해 진지하게 고민하게 되었고, 4가지 공리만으로 이루어진 (후에 비유클리드 기하학으로 불리게 될) 기하학의 가능성에 대해서 생각하게 됩니다. 나아가 그런 기하학이 현실적으로 어떤 의미가 있는지, 기하학이란 무엇인지, 또 기하학 연구는 어떻게 이루어져야 하는지 등 전체적인 연구 방향에 대해서도 숙고하기 시작합니다.

또한 이 시기 수학자들은 미적분과 복소 함수론 등의 도구들을 적극적으로 받아들여 기하 연구에 활용하고 있었는데, 리만은 그의 스승 가우스가 그 스스로 위대한 발견이라 불렀던 곡률의 개념이 이러한 논의에 중요한 역할을 한다는 사실에 주목합니다. 그리고 곡률의 변환에 따라 비유클리드 기하에서 유클리드 기하로 자연스레 변화하는 과정을 제시하고, 향후 이 분야 연구의 반석이 될 만한 여러 개념들을 고안하였습니다. 후일 이 과업들은 클라인과 푸앵카레 등에 의해 계승되고, 이들은 리만의 아이디어들을 좀 더 구체적인 모델들로 구현함과 동시에 여러 근본 정리들을 증명하며 비유클리드 기하에 대한 탄탄한 이론적 틀을 확립합니다.

 

 

이렇게 2차원 기하학에 대한 연구는 대략의 밑그림이 완성된 후 보다 정량적인 것, 보다 구체적인 성질을 다루는 방향으로 넘어가게 됩니다. 그리고 이 과정에서 기하학은 다양한 분야와 활발히 소통하며 발전해 나갑니다. 주어진 곡면 내의 곡선을 세고 분류하는 과정에서 동역학계dynamics를 이용하기도 하고, 두 곡면 사이의 사상들을 연구하는 과정에서 다양한 해석학적 도구들을 차용하기도 합니다. 또한 곡면들의 자기 동형군automorphic group 및 자기 동형 함수automorphic function는 정수론 분야에 큰 파급 효과를 끼쳤고, 곡면의 복소 구조에 관한 연구는 대수 기하학의 초석이 되었습니다. 한 분야의 문제가 기하학을 매개체로 다른 각도에서 바라볼 수 있는 문제가 되기도 하고, 어려웠던 문제가 다른 관점에서 쉽게 풀리는 등 기하학을 중심으로 수학의 다양한 분야들이 서로 도움을 주고받으며 통융합적 성격을 띄어갑니다.

그뿐만 아니라 이러한 수학자들의 선지적인 노력 덕분에 후일 아인슈타인은 좀 더 수월하게 일반 상대성 이론을 수학적으로 전개할 수 있게 되었고, 비유클리드 기하학은 우주적 스케일에서 세상의 법칙을 논하는 언어가 되었습니다. 덕분에 탄생 초창기 논란의 대상이었던 비유클리드 기하학은, 현실성을 인정받을 뿐 아니라 현대 수학의 가장 주요한 위치로 올라서게 됩니다. 아인슈타인이 그로스만의 도움을 받아 완성했던 일반 상대성 이론은 오늘날까지 수학과 물리학의 가장 아름다운 결합 중 하나로 손꼽히지요.

2차원의 기하학에 대한 연구가 큰 윤곽이 잡히며 각론으로 넘어가는 동안 3차원 기하학에 대한 관심도 자연스레 생겨납니다. 하지만 3차원 기하학의 경우 처음 수십 년 동안은 상당히 더딘 발전을 보입니다. 먼저 3차원 다양체는 홀수 차원인 까닭에 대수 다양체가 될 수 없다는 점에서 2차원과는 근본적으로 달랐고, 또 무엇보다 위상적인 측면에서 (불과 한 차원 추가되었을 뿐이지만) 2차원과는 달리 뭔가 더 심오하고 복잡해 보였습니다. 5차원 이상의 푸앵카레 추측이 (불가사의하게도) 먼저 풀리며 앞서 나가고, 4차원의 해결이 가시권에 들어오는 동안에도, 3차원의 푸앵카레 추측은 여전히 답보 상태에 머물러 있었습니다.

하지만 우리가 살고 있는 현실 세계의 차원이라는 점, 그리고 무엇보다 그 유명한 푸앵카레 추측의 원형이라는 점에서 늘 많은 수학자들의 관심을 끌었습니다. 수십 년간의 노력 끝에 부분적인 성과도 보이고 기초적인 정리들도 손에 잡혀가고 있었지만, 모두가 만족할 만한 연구의 근본 틀이라 부를 만한 것들은 여전히 요원해 보이기만 하던 이때, 써스턴William Paul Thurston이라는 수학자가 갑자기 해결사를 자처하며 나타납니다. 엽층 이론foliation theory의 대표적 전문가였던 그는 2차원과 마찬가지로 3차원 역시 균일화 정리라는 것을 생각할 수 있고, 이를 통해 모든 3차원 다양체를 구현할 수 있다고 주장했습니다. 이른바 써스턴의 “기하화 추측” 이라는 것인데, 이에 따르면 모든 3차원의 “위상” 다양체 역시 2차원과 마찬가지로 기하학의 옷을 입혀 “기하” 다양체로 나타낼 수 있으며, 다만 2차원에서 고려되었던 3가지 기하 이외에도 5가지 기하를 추가로 더 고려해야 한다는 것이었습니다.1 또한 2차원과 비슷하게 3차원의 경우도 가장 단순한 위상 다양체들은 구면 기하를 통해, 복잡도가 높을수록 쌍곡 기하를 통해 구현될 것이라 예측했습니다. 하지만 무엇보다 써스턴의 주장이 솔깃했던 가장 큰 이유는, 그 악명 높던 3차원 푸앵카레 추측이 기하화 추측의 틀 안에 자연스레 녹아 있다는 사실에 있었습니다. 즉, 기하화 추측이 풀리기만 하면 푸앵카레 추측은 그 부산물 중 하나로 같이 이끌어 낼 수 있다는 것이었지요.

때때로 수학계 내에서 담대한 구상이 제기되곤 하지만, 그 담대함을 실현할만한 기술력을 함께 선보이지 못하면 대부분 공허한 메아리로만 그치고 맙니다. 이후 써스턴은 마법과도 같은 솜씨로 자신의 주장을 상당 부분 증명해 보였습니다. 대다수의 수학자들은 앞선 수학자들의 노고에 조금 더 보태는 정도의 점진적인 기여를 한다고 했던가요. 하지만 써스턴은 달랐습니다. 근본적인 것에서부터 시작해 홀로 탑을 쌓아 올렸고, 무에서 유를 창조했다 해도 과언이 아닐 정도로 과감한 혁신성을 선보였습니다. 수년, 수십 년간에 걸쳐 누적되어 증명될 만한 것들을 혼자서 능수능란하게 증명해 내는가 하면, 손대는 것마다 누구도 예상치 못한 놀라운 기하학적 통찰을 부여했습니다. 오로지 그만이 선보일 수 있는 독창적인 방법으로, 주체할 수 없이 쏟아지는 생각들을 펼쳐 보일 때마다, 동시대 수학자들은 경탄해 마지않았고, 그로부터 많은 영감과 동기를 부여받았습니다. 그뿐만 아니라, 커리어 초창기 괴물과 같은 식성으로 수학의 한 분야를 완전히 잠식해 버린 전력이 있던 써스턴은 (써스턴이 주요 문제를 모두 독식해 풀어버리자 다른 수학자들이 이를 피해 연구 분야를 옮겼기 때문), 이번에는 전혀 다른 양식으로 행동합니다. 아이디어의 대략적인 개요를 구술로 전하고 다른 이들에게 세세한 전개를 맡기는 한편, 수많은 질문들과 추측들을 제기하며 관련 동료들의 참여를 독려하고 연구 집단을 키우기 위해 노력합니다. 그의 아이디어들과 논문들은 짧게는 수년 길게는 수십 년에 걸쳐 많은 이들에 의해 발전되고 재검증되며 풍성함과 견고함을 더했고, 결국 3차원 쌍곡 기하학이라는 수학의 새로운 한 분야로 거듭났습니다.

물론 써스턴이 아니었다면 그 모든 것들이 절대 이루어지지 못했을 거라 장담치는 못하겠지만, 써스턴이 그 시기를 비약적으로 앞당긴 것만은 분명합니다. 정치적 혁명에서야 본디 세디 센 비판이 필연적이지만, 과학, 특히 수학에서의 혁명은 늘 옳은 법이지요. 오늘날 우리는 써스턴의 업적을 평할 때 으레 “혁명” 이라는 단어를 덧붙이곤 합니다. 기존의 한계를 뛰어넘어 새로운 시대를 열어젖힌, 그의 위대한 학문적 업적에 대한 일종의 경외적 표현이라 할 수 있겠지요. 이러한 혁명적 과업 이후에도 써스턴은 수학하는 방법, 수학 교육론, 수학 대중화 등 다방면에서 그만의 독창적인 시각을 선보이며 동시대의 가장 영향력 있고 위대한 수학자 중 한 사람이 되었습니다. 

 

 

기하화 추측은 써스턴에 의해 많은 부분 해결이 되고, 이후 점진적인 발전을 보이다가, 최종적으로 은둔의 수학자 그레고리 페렐만Grigori Perelman에 의해 완전히 해결됩니다. 박사 후 연구원 시절부터 몇몇 주요 문제들을 풀어내며 촉망받던 수학자였던 페렐만은, 이후 유수 대학들의 임용 제안을 거절한 채 학계에서 홀연히 사라집니다. 그리고 몇 년 동안 학계의 레이더망에서 완전히 벗어나 있던 그는, 어느 날 갑자기 아카이브arXiv 2에 나타나 3개의 논문을 연달아 발표합니다. 써스턴의 기하화 추측의 증명에 관한 논문들이었는데, 보통 이런 논문들이 올라오면 대부분의 수학자들은 처음에는 상당히 회의적입니다. 그도 그럴 것이 워낙 알려진 문제이기도 하거니와, 또 그간 수많은 사람들이 시도하고 도전했지만 번번이 좌절되었던 까닭에 나오는 자연스러운 반응일 테지요. 하지만 소문의 진원지가 수년 전 갑작스레 사라졌던 수학자 페렐만이라는 사실이 알려진 후, 그를 기억하고 있던 몇몇 전문가들 사이에서 미묘한 파동이 일기 시작합니다. 곧이어 그의 논문들을 검증하기 위한 전문가 그룹들이 꾸려지고, 본격적인 검증 작업이 시작됩니다. 3년이 넘는 긴 기간 동안 각 분야 내로라하는 전문가들이 숱한 발표와 토론을 통해 페렐만의 작업을 논의하고 또 논의하며, 설명이 생략된 부분들에 대해서는 틈을 메우고 살을 덧붙입니다. 이러한 철저한 검토와 해제 작업 끝에, 페렐만의 논문은 결국 검증 과정에 참여했던 모든 전문가 그룹들로부터 공식적으로 참임을 인정받습니다. 

이후 페렐만에게는 숱한 상들과 찬사들이 쏟아졌지만, 그는 이 모든 것들을 거부하고 다시 한번 자신을 세상으로부터 고립시킵니다. 어떠한 지위도 거부하고, 어떠한 명예와 금전적 보상도 거부하면서, 심지어 자신이 아카이브에 올렸던 논문들조차 출판하지 않습니다. 세속의 보상을 받아들이는 것이, 진리에 대한 순수함을 퇴색시키고 자신이 끝까지 지키고 싶었던 어떤 굳은 신념에 대한 배반이라고 생각해서일까요? 그는 자신의 업적과 관련된 모든 것을 오로지 절대 순수의 영역에 남겨두고자 했으며, 어떠한 타협도 용납치 않았습니다. 이 시대, 어쩌면 다시 보지 못할 마지막 학문적 낭만을 선사하며, 오로지 수학이기에 가능한 이 영화 같은 전설들을 남긴 채, 써스턴에 의해 시작된 혁명적 과업은 그렇게 페렐만에 의해 완수되었습니다.

이후 3차원 위상은 기하라는 옷을 입음으로써 견고함을 갖추게 되었고, 2차원의 기하학과 마찬가지로 여러 분야가 한 곳에서 만나는 교차로가 되었습니다. 써스턴은 전통적인 위상 수학적 방법 이외에도 동역학계를 비롯한 군론, 그래프 이론 등 수많은 분야의 아이디어들을 차용하여 자신의 혁명 작업들을 전개하였으며, 페렐만은 편미분 방정식을 위시한 다양한 해석학적 무기들을 내세워 이들을 마무리하였습니다. 그뿐만 아니라 앞서 설명한 덴수술 이론은 정수론과 대수기하의 관점에서 재조명 할 수 있으며, 3차원 다양체의 여러 불변량들은 수리 물리학의 여러 개념들과 깊은 연관성을 맺고 있음이 서서히 드러나고 있습니다. 이처럼 3차원 위상 수학과 기하학은 써스턴이 닦아 놓은 길을 따라 수학의 다양한 분야들과 접촉하며 그 지평을 계속해서 넓혀가고 있습니다. 기하학을 매개체로 수학의 여러 분야가 격의 없이 소통하고 화합하는 기하학의 꿈이 2차원에 이어 3차원에서도 가능케 된 것입니다. 

전보광
포항공과대학교 수학과 조교수