유클리드, 데카르트, 리만, 클라인, 그로덴딕을 통해 기하학의 역사를 조망해보고 공간의 분류와 대칭성의 탐구라는 기하학자의 꿈이 어떤 것인지 얘기하고자 합니다. 구체적인 예로서 곡선의 경우에 대해 생각해보고자 합니다.


기하학의 역사

아래 그림은 여와와 복희의 그림입니다. 중국, 인도, 메소포타미아 문명에서 우주를 만들었다고 전해지는 창조주들이죠. 이분들이 손에 들고있는 것이 무엇인가요? 바로 자와 컴퍼스입니다. 저는 수학이나 과학은 서양의 학문이고 동양적 사고와 차이가 있다고 생각했지만 이 그림을 보고 생각이 바뀌었습니다. 동양에서도 예로부터 자와 컴퍼스로 우주가 설계되었다고 믿었고 이러한 기하학적 우주관은 동서양이 공통적이었던 것입니다.

서양 철학의 관점에서는 지금도 수학이 실재하는 것인지, 구성된 것인지에 대한 실재론과 구성론의 논쟁이 이어지고 있습니다. 많은 수학자들은 수학이 실재한다고 믿는 것 같습니다. 연구를 하다보면 수학이 실재하지 않는다면 맞아 떨어지기 힘든 것들이 성립하는 경우를 종종 보게 되기 때문이죠. 우리가 새로운 개념이나 정리를 발명하는 것이 아니고 이미 실재하는 수학적 세상을 탐험한다는 느낌이 더 강합니다. 콜롬버스가 더듬더듬 미지의 세계를 찾아나섰듯 기하학자들도 매일 기하학의 바다로 탐험을 다니는 것이지요. 대표적으로 플라톤, 디오돈네, 펜로즈, 칸토어, 데카르트와 같은 분들이 실재론을 지지한 수학자들입니다.

 

반대로 로크나 흄과 같은 경험주의 철학자 또는 현대 뇌과학자들의 경우 수학적인 대상은 수학자나 그것을 이해하고 사용하는 사람의 뇌 속에서 일어나는 뉴런과 시냅스의 작용에 불과하다는 주장을 합니다. 이것은 생각이란 감각의 영향으로 만들어진 것이라는 구성론을 대표하는 주장입니다. 혹자는 다중우주의 입장으로 존재론과 구성론의 논쟁을 비껴가기도 하고, 수학의 확실성이란 책을 통해 모리스 클라인이 주장한 것처럼 수학적 개념은 물리적 경험의 극한으로 사유된다고 주장하는 분도 있습니다. 고대 인도철학의 세계관에서는 사유할 수 있는 것은 반드시 존재하기 때문이고, 존재하는 것만 사유가 가능하다고 주장합니다. 데카르트의 명제

 

‘Cogito ergo sum’

을 저는

`생각할 수 있으므로 존재한다’

라고 번역하고 고대 동양철학과 이 명제가 맞닿아 있다고 봅니다. 위의 여와와 복희의 그림을 통해 화가가 말하고자 하는 바는 수학적 세계가 실재하고 거기에 근거해서 우리의 감각적 우주가 창조된 것이라는 믿음이 아닐까요?

저는 경험적으로 실재론 쪽에 더욱 끌리는 것을 피할 수 없습니다. 오늘은 어떤 새로운 공간과 그 구조를 발견할 수 있을까 하는 설렘이 저를 매일 기하학의 바다로 출항하게 만드는 중요한 동기입니다.

 

고대 기하학과 과학 혁명 

지금부터는 제가 이해하는 만큼 기하학의 역사를 설명드리고자 합니다. 기하학은 철저히 실용적인 필요로부터 시작되었습니다. 

Geo(earth)+metry(measure)

 

라는 어원에서 살펴볼 수 있듯, 이집트에서는 나일강이 범람하면 토지를 다시 측량하는 기술이 필요했고 이것이 고대 기하학이 발달한 계기가 되었습니다. 뿐만 아니라 농경사회에서는 언제 따뜻해지는지, 비가 오는지 아는 것이 중요했으므로 천문관측을 통한 절기예측이 필요했고 기하학은 이러한 기대에도 부응하였습니다. 농경사회를 기반으로 교역이 활발해지고 물자가 풍부해지자 그리스에서는 민주주의와 토론 문화가 발전하였고 여기에 힘입어 연역적 추론에 의한 증명도 발달할 수 있었습니다. 하지만 중세에 들어서자 서구사회에서는 수학이 암흑기에 접어들었고 아랍이나 아라비아에서는 계산술을 중심으로 한 대수학이 발달하였습니다.

 

그러다 다시 기하학에 불꽃이 튀게 된 것도 역시 실용적인 욕구가 있었기 때문입니다. 르네상스 시대의 서구에서는 교역이 활발하게 이루어졌으나 강력한 아시아 국가에 막혀 육상을 통한 교역이 어려웠습니다. 이에 사람들은 해상을 통한 교역로를 확보하기 시작했습니다. 그 중에 콜럼버스는 계산을 실수하는 바람에 무모한 항해를 떠나지만 다행히 아메리카 대륙을 발견하게 되죠. 사람들은 신대륙의 금을 채취하기 위한 항해에 나섰고 항해와 관련된 과학기술이 급격하게 발전했습니다. 원하는 시간과 원하는 위치에 도착하기 위해서는 천문관측, 지도제작, 위치표시와 같은 항해기술이 필요했고 이를 통해 기하학도 발전하였습니다. 당연히
 
`왜(Why)가 아니라 어떻게(How)’ 
 
라는 실용적인 관점이 확고히 자리를 잡게 되었겠지요. 신대륙을 향해 출발한 배가 어떻게 황금을 싣고 돌아올 수 있겠는가가 중요했지, 왜 돌아올 수 있는가라는 질문은 공허한 메아리로 받아들여졌을 것입니다. 
 

앞서 등장한 르네 데카르트는 기하학의 역사를 이야기할 때 절대 빼놓을 수 없는 분입니다. 그는 17세기 초에 좌표기하학을 체계적으로 도입하여 기하학과 대수학을 서로 뗄레야 뗄 수 없는 밀접한 분야로 만들었습니다. 지금 생각하면 당연한 아이디어일지 몰라도 그 당시에는 어마어마한 발견이었습니다. 이후 뉴튼이 유클리드 기하학에 기반하여 자연현상을 수학방정식으로 설명하는데 성공함으로써 과학혁명을 이룩하게 됩니다.

 

사영기하학과 비유클리드 기하학

뉴튼이 과학혁명을 완성한 시기, 기하학의 역사에 있어 특별한 점이라면 파스칼, 데자르그, 몽주, 샤슬레와 같은 수학자들에 의해 사영기하학이 발전한 것입니다.

 

사영기하학이 정의되는 공간을 사영공간이라고 하는데 이것은 벡터공간에 들어있는 1차원 부분공간들의 집합입니다. 이 공간을 만드는 방법은 먼저 1차원 부분공간을 생성하는 기저들의 모임 \(\mathbb{C}^{n+1}\backslash\{0\}\)을 생각하고, 두 기저가 \(\mathbb{C}^*\)의 원소를 곱한만큼만 다르면 같은 부분공간을 생성하므로, 그 orbit space \[\mathbb{C}\mathbb{P}^n=(\mathbb{C}^{n+1}\backslash\{0\})/\mathbb{C}^*\]가 사영공간이 되며 이 공간은 콤팩트 집합입니다. 두 직선의 교차 여부incidence나 사영공간의 대상이 직선line인지, 2차 곡선conic인지 등은 사영변환 \(\varphi\in\mathrm{PGL}_{n+1}=\mathrm{GL}_{n+1}/\mathbb{C}^*\)에 의해 보존되는 성질들입니다. 이처럼 사영변환에 의해 보존되는 성질들을 탐구하는 것이 사영기하학입니다.

 

사영공간은 콤팩트하여 부분집합들의 교차수intersection number가 잘 정의되고 평행선들이 만난다는 장점이 있습니다. 특히, 복소 1차원 사영공간 \(\mathbb{C}\mathbb{P}^1\)은 구면 \(S^2\)과 동형이기에 지도제작이나 회화에도 사영기하학이 많이 활용되었습니다. 또한 사영기하학은 비유클리드 기하학의 씨앗을 제공하기도 했습니다.

 

기하학의 역사에서 또 놓칠 수 없는 분이 가우스입니다. 가우스는 볼랴이, 로바체프스키와 더불어 비유클리드 기하학을 발견한 수학자입니다. 유클리드 기하학의 5번째 공리인 평행선 공리를 나머지 4개의 공리로부터 이끌어내려는 시도는 수많은 수학자들의 노력에도 불구하고 실패를 거듭했는데요, 그 이유는 평행선 공리가 성립하지 않는 기하학이 가능하기 때문이었습니다. 이러한 기하학이 바로 비유클리드 기하학입니다. 비유클리드 기하학 중 하나인 구면기하학에서는 평행선들이 항상 만나며 쌍곡기하학에서는 만나지 않는 평행선을 여러 개 찾을 수 있습니다.

 

 

분열과 통합 그리고 혁명

비유클리드 기하학의 출현으로 유클리드 기하학의 절대적 존엄이 흔들리던 혼돈의 시기에 등불이 되어준 수학자는 리만과 클라인입니다. 리만은 각 점마다 거리와 곡률이 달라지는 공간을 생각하였고 이 개념이 나중에 일반상대성이론의 토대가 된 것은 잘 알려진 이야기입니다. 또한 클라인은 앞서 살펴본 유클리드 공간, 구면 공간, 그리고 쌍곡 공간을 대칭성의 관점에서 일반화하였습니다.

이것을 더 자세하게 설명하기 위해서는 다양체를 설명하지 않고 넘어가기 힘들 것 같습니다. 위상공간은 어떤 집합 \(X\)와 그 집합의 열린 집합을 선언함으로써 정의가 되고 다양체는 국소적으로는 \(\mathbb{R}^n\)의 열린 집합open set과 같은 위상공간을 말합니다. 좀더 구체적으로, 위상공간 \(X\)에 열린 덮개open covering \(X=\cup X_i\)와 \(\mathbb{R}^n\)의 열린 집합 \(U_i\)가 있어서 1-1 대응 \(\varphi_i:X_i\to U_i\)이 존재하면 다양체를 정의할 수 있습니다. 

 

 

이 때, 다양체 위의 열린 집합 \(X_i\), \(X_j\)의 intersection \(X_{ij}=X_i\cap X_j\)에서 정의되는 transition map \[\varphi_{ij}=\varphi_j\circ\varphi_i^{-1}:\ \varphi_i(X_{ij})\to\varphi_j(X_{ij})\] 이 위상동형homeomorphism이면 위상다양체, 미분동형diffeomorphism까지 되면 미분다양체, 뿐만 아니라 복소공간의 복소미분동형biholomorphism도 되면 복소다양체라 하며, 더욱 까다롭게 다항식에 의해 결정되면 대수적 다양체라고 부릅니다.

 

리군Lie group은 군의 구조를 가진 기하학적인 공간으로 정의되며, 대표적인 예로 \(\mathrm{GL}_n\), \(\mathrm{SL}_n\), \(\mathrm{U}_n\) 등이 있습니다. 클라인의 기하학은 리군 \(G\)와 이것의 부분군subgroup \(H\)의 quotient으로 표현되는 동차 다양체homogeneous space \(M=G/H\)를 공부하는 것입니다. 즉, 군과 대칭성의 관점에서 공간(다양체)을 분류하고 탐구하고자 한 것이죠.

 

앞에서 이야기한 유클리드 기하, 쌍곡 기하, 구면 기하의 세 가지 공간은 클라인 기하학의 관점에서 다음과 같이 쓸 수 있습니다.

 

유클리드 평면 \(\mathbb{E}^2=\left.\left\{\begin{pmatrix}%
1&0&0\\v_1&\cos\theta&-\sin\theta\\v_2&\sin\theta&\cos\theta%
\end{pmatrix}\right\}\middle/\left\{\begin{pmatrix}%
1&0&0\\0&\cos\theta&-\sin\theta\\0&\sin\theta&\cos\theta%
\end{pmatrix}\right\}\right.\) where \((x,y)=\begin{pmatrix}1\\x\\y\end{pmatrix}\)

• 쌍곡 평면 \(\mathbb{H}^2=\{x+iy\,|\,y>0\}\), \(G=\mathrm{SL}_2(\mathbb{R})\), \(H=\mathrm{SO}_2(\mathbb{R})\)

 복소 사영 직선 \(S^2=\mathrm{SL}_2(\mathbb{C})/\left\{\begin{pmatrix} *&0\\ *&*\end{pmatrix}\right\}\)

클라인의 관점에서 우리가 다양한 공간과 기하학을 만나는 이유는 풍부한 리군 덕분인 것이지요. 이처럼 클라인의 기하학에서는 리군론Lie group theory이 기하학의 핵심이 됩니다.

클라인보다 수십 년 전에 베른하르트 리만은 보다 연속적이고 유연한 관점에서
새롭게 발견된 비유클리드 기하학을 포괄하는 방법을 제시했습니다.

위에서 다양체 \(X\)는 국소적으로 \(\mathbb{R}^n\)의 열린 집합 \(U\)과 같은 것으로 정의하였습니다. 미분다양체 \(X\)에 국소적 tangent bundle \(TU=U\times\mathbb{R}^n\)을 붙여서 \(X\)의 tangent bundle \(TX\)를 얻는데, 각 점 \(x\in X\)마다 tangent space \(T_x X\cong \mathbb{R}^n\)의 내적을 \(x\)에 대해 미분가능하게 주면 리만 다양체Riemannian manifold가 됩니다. 내적이 정의되면 다양체 위의 벡터장vector field을 미분할 수 있는 구조인 접속(특히 Levi-Civita connection)을 생각할 수 있고 이를 통해 곡률curvature을 내재적으로 정의할 수 있습니다. 앞서 살펴본 유클리드 평면, 쌍곡 평면, 구면 등은 모두 리만 다양체의 기본적인 예입니다. 이와 같이 연속적으로 유연하게 그리고 어마어마하게 공간의 개념을 확장한 것이 리만의 기하학적 업적입니다.

 

매우 유연하고 연속적인 리만 기하학과 수많은 대칭성으로 엄격해진 클라인 기하학은 각각의 추종세력에 의해 20세기 초까지 독자적으로 발전하다가 20세기 초반, 엘리 까르땅에 의해 통합이 이루어집니다. 국소적으로는 클라인 기하학을, 대역적으로는 리만 기하학의 관점을 취한 것으로, 주요 다발principal bundle, 거리metric, 접속connection, 곡률curvature과 이들 사이의 미분방정식으로 기하학을 표현하는 것이 핵심입니다. 이 위대한 통합은 현대적 기하학의 출발점이 되었을 뿐만 아니라, 이론 물리학의 양-밀즈 이론부터 표준모형까지 양자장 이론의 모태가 되었습니다.

그리고 20세기 후반에 들어와, 다시 기하학의 혁명을 일으킨 수학자가 나타납니다. 바로 그로덴딕1928~2014입니다. 어떤 공간이 있고, 그 위에서 정의되는 함수들을 모으면 환ring이 된다는 것이 기하학의 전통적인 관점이었습니다. 1960년대 그로덴딕의 혁명적인 아이디어는 이 방향을 거꾸로 뒤집은 것입니다.

모든 환은 기하학을 결정한다.

공간으로부터 환을 만드는 것이 아니라, 모든 환마다 공간이 존재한다는 것입니다. 프리즘을 통과하면 빛의 스펙트럼이 나타나듯이 공간은 환의 스펙트럼과 같은 것이죠. 공간의 개념은 리만, 클라인, 까르땅의 그것을 넘어 다시 한 번 비약적으로 확장되었습니다. 이를 통해 그로덴딕은 현대적인 대수기하학의 폭발적인 성장을 이끌어냈고, 나아가 초끈 이론의 수학적인 배경을 제공해주었습니다.

 

서울대 수리과학부 김영훈 교수의 2016년 5월 20일 “정오의 수학 산책” 강연을 듣고 KAIST 수리과학과 대학원생인 김정섭 님이 정리한 내용입니다.

 

 

김영훈
서울대학교 수리과학부 교수