서양의 고전을 연구하는 고전문헌 학자들이 쓰는 단어 중에 하팍스라는 말이 있습니다. 하팍스 레고메나hapax legomena라는 말을 줄인 것인데, 고전문헌에 등장하는 여러 단어 중에서 한 번 혹은 매우 드물게 등장하는 단어를 가리키는 말입니다. 만약 지금까지 인류의 지성사 안에서 독특하게 빛나는 하팍스를 찾아본다면 아마도 많은 학자들이 주저하지 않고 고대의 그리스 세계를 꼽을 것입니다. 물론 그것이 하팍스가 될만한 이유에 대해서는 조금씩 차이를 보입니다.
어떤 사람들은 (1)고대 그리스인들이 많은 것들의 시작을 이루었다는 점을 강조합니다. 여러 면에서 실로 고대 그리스는 철학함의 시작이었고, 역사를 서술하는 첫 모범이었으며, 연설의 경연장과 불후의 극작품들이 처음 만들어진 곳이었습니다. 또 어떤 사람들은 (2)고대 그리스인들이 우리의 삶에 남긴 광범위한 영향력에 주목합니다. 고대 그리스의 문화를 가리키는 가장 유명한 클리셰인 “서양 문명의 두 기둥을 이룬 헤브라이즘과 헬레니즘”이라는 표현처럼, 우리는 고대 그리스인들이 이룬 많은 것들에 빚을 지고 있기 때문입니다.
그러나 서양의 수학과 과학 고전을 연구하는 입장에서 제가 고대 그리스 세계를 하팍스라고 부르는 것은 고대의 그리스인들이 상대적으로 아주 짧은 시간 동안에 폭발적인 혁신을 이루어냈기 때문입니다. 16-7세기의 과학혁명을 제외하고는 과학사에서 고대 그리스의 과학적 성취와 비견할 만큼 압축적으로 성장한 시기를 찾기 어렵습니다. 그래서 무엇이 그들로 하여금 이런 지성적인 폭발을 가능하게 하였는가가 지성사와 고대사를 공부하는 제가 연구하고 있는 물음입니다. 다섯 번의 연재를 통해 이 물음에 대해 그간 제가 모색해 온 생각들을 나누고자 합니다. 먼저 오늘 첫 번째 글에서는 이 연재글의 시발점이 되는 고대 그리스 수학의 두드러지는 특징 한 가지를 나누고자 합니다.
보통 고대 그리스 수학이라 할 때는 아직 근대에서 세부학문으로 나뉘기 이전이기 때문에, 수학과 관련된 좀 더 넓은 분야를 가리킵니다. 수론과 기하학을 비롯해서 음악과 천문에 이르기까지 비교적 넓게 수학의 범위를 잡을 수도 있겠습니다. 그러나 보다 밀도 있는 논의를 위해서 이번 글에서는 기하학을 중심으로 이야기를 이어가고자 합니다. 그리스 기하학의 혁신을 여러 방면에서 살펴볼 수 있겠는데, 가장 자연스럽게는 그 이전의 수학과 비교해서 그리스 수학이 이룩해 낸 독특한 성취들을 찾아볼 수 있습니다.
그래서 학자들은 그리스 수학을 고대 근동과 이집트의 수학과 비교하는 작업을 해왔습니다. 그 결과로 그리스 수학을 태동시켰던 탈레스나 피타고라스 같은 자연철학자들과 수학자들이 근동이나 이집트 수학으로부터 영감과 배움을 얻었을 가능성이 제기되었습니다. 하지만 그리스 수학이 어디서 어떻게 태동하였는가는 단편적으로만 남아있는 자료들의 부족으로 쉽게 이야기를 풀어나가기가 어렵습니다. 그 대신 그리스 수학을 펼쳤을 때 오늘날의 독자들에게 가장 낯설게 다가올 한 가지 특징을 중심으로 그리스 수학이 왜 하팍스였는가를 말씀드리려고 합니다.
우리에게 그리스 기하학은 낯익으면서도 낯선 수학으로 다가옵니다. 한편으로 그리스의 기하학이 낯익은 까닭은 우리가 배우는 평면과 공간 기하의 시작을 대부분 그리스의 기하학에서 가져왔기 때문입니다. 아마 인류가 세대를 거쳐 가장 오랫동안 반복적으로 공부해온 분야 중 하나가 원론에서 집대성된 기초 기하학적 지식일 것입니다. 그래서 그리스 기하학은 2천년이라는 시간의 차이를 망각할 만큼 우리에게 낯익은 수학이기도 합니다.
그러나 다른 한편으로 그것이 낯선 까닭은 그리스 기하학에는 수가 빠져있기 때문입니다. 데카르트의 해석 기하학의 세례를 받은 현대의 우리에게는 각, 점, 선분, 면, 입체마다 그에 상응하는 수들을 대응시켜 왔습니다. 촘촘한 좌표평면 위에서 점에는 좌표가, 선분에는 길이가, 면에는 넓이가, 입체에는 부피를 나타내는 수들이 덧붙여집니다. 그래서 도형에 관한 우리의 탐구는 상당 부분 이미 대수적인 영역으로 전환이 되어 있습니다. 라그랑쥬가 기하학을 가리켜 죽은 언어lingua mortua라고 말했던 것도 이러한 전환과 궤를 같이 합니다.1
그러나 놀랍게도 그리스 수학에서 기하학은 죽은 언어가 아니었습니다. 오히려 기하학은 고대 그리스에서 수학을 탐구하는 가장 원천적인 언어로 사용되었습니다. 독자들은 유클리드의 원론을 읽는 동안 오늘날의 기하학 교과서처럼 삼각형의 넓이를 구하는 공식(\(\frac { 1 }{ 2 } bh\))이나, 원뿔의 부피를 구하는 공식(\(\frac { 1 }{ 3 } \pi { r }^{ 2 }h\))을 찾으려 할지도 모르겠습니다. 하지만 이내 곧 그리스 수학에서는 가로나 세로 혹은 반지름의 길이를 주고 삼각형의 넓이나 원뿔의 부피를 구하는 문제가 거의 등장하지 않는다는 차이점을 발견하게 되겠지요. ‘이 도형의 넓이는 이렇게 구하는 것이다’와 같은 공식화된 방법을 가르치는 것이 그들의 주된 관심사는 아니었기 때문입니다. 그렇다면 고대 그리스 수학자들이 기하학에서 하고자 했던 일들은 무엇이었을까요?
적어도 원론 안에서 판단해볼 때, 그리스 수학자들이 줄기차게 하고자 했던 일들 중 한 가지는 하나의 도형을 다른 도형과의 관계 안에서 생각하는 일이었습니다. 먼저 하나의 도형과 같은 크기를 갖는 다른 도형을 찾으려 했던 노력이 소개됩니다. 그래서 그들은 도형의 합동 조건을 검토하기도 했고, 모양이 다른 두 도형 사이의 크기가 같다는 점을 증명하기도 했고, 한 도형과 크기가 같은 다른 모양의 도형을 작도하는 문제를 풀기도 했습니다.
다음으로 서로 같은 크기를 갖는 경우를 넘어서 두 도형의 크기를 비교하는 데까지 나아갑니다. 도형의 크기를 비교하기 위해서 원론의 5권에서는 비ratio에 관한 논의를 도입합니다. 현대의 독자들은 비를 배울 때 두 수 a와 b사이의 비 a/b로 시작하지만, 원론에서 비의 정의는 두 수 사이의 관계가 아니라 두 도형의 크기 사이의 관계로부터 출발합니다. 두 도형의 크기가 서로 같지 않을 때 언제 비가 존재한다고 말할 수 있는지를 시작으로, 한 도형이 다른 도형보다 크다는 것이 얼마나 크다는 것인지, 작다는 것은 또 얼마나 작다는 것인지에 관한 논의가 5권의 중심부를 이룹니다.
5권에서 비가 도입된 이후 6권에서는 비를 이용해 두 도형의 크기 사이의 관계를 점진적으로 정량화하는 작업이 진행됩니다. 그래서 원론 안에서 평면기하의 마지막 권이자 절정에 해당하는 6권에 이르면 이 도형의 크기는 무엇이라고 말하지는 않지만, 이 도형과 저 도형 사이의 크기의 비를 말할 수 있게 됩니다. 그런 다음 비로소 7권에 이르러서야 수들에 관한 논의가 시작됩니다. 수들 사이의 비를 이야기할 수 있게 된 것은 도형의 크기들 사이의 비에 관한 논의가 충분히 성숙한 뒤에야 이루어집니다. 적어도 그들에게는 도형이 수보다 더 친숙하고 중요한 언어였던 것처럼 보이는 대목입니다.
그리스 수학자들은 도형들 간의 관계를 대수적인 방식으로 표현하지 않았을 뿐 아니라 반대로 대수의 원리를 도형 간의 관계를 이용하여 표현하는 데까지 나아갔습니다. 원론의 2권에서 합차 공식이나 제곱 공식같은 기본적인 대수의 정리들을 도형들의 넓이들 사이의 관계로 접근한 것이 그 정점에 이른 사례로 볼 수 있습니다. 예를 들어 2권의 5번 명제는 \(ab+{ (\frac { a+b }{ 2 } -{ b }) }^{ 2 }={ (\frac { a+b }{ 2 } ) }^{ 2 }\)라는 대수적 관계를 다음과 같이 도형들의 넓이 사이의 관계로 표현하였습니다.
“만일 어떤 선분을 서로 똑같은 두 부분으로도 나누고(\(A\Gamma ,\Gamma B\)) 또 똑같지 않은 두 부분으로도 나누었을 때(\(A\Delta,\Delta B\)), 서로 똑같지 않은 두 부분으로 얻은 직사각형의 크기(\(A\Delta \cdot \Delta B\))와 똑같은 부분과 똑같지 않은 부분의 차이(\(\\ A\Delta -A\Gamma =\Gamma A\))를 한 변으로 갖는 정사각형의 크기(\(\Gamma { \Delta }^{ 2 }\))의 합은, 원래 전체 선분의 절반(\(\frac { 1 }{ 2 } AB\))을 한 변으로 갖는 정사각형의 크기(\(\Gamma B^{ 2 }\))와 같다.”
\(A\Delta \cdot \Delta B+\Gamma { \Delta }^{ 2 }=\Gamma B^{ 2 }\)
경제적이지 않으면서 동시에 이해하기도 어려운 고대 그리스의 기하학을 읽으면서 줄곧 우리는 같은 질문을 마주하게 됩니다. 그리스인들은 왜 도형에 관한 논의를 수에 관한 논의로 환원시키지 않았을까요? 어떤 의미에서 이 질문은 고대 그리스 수학에 우리의 기준을 투영시킨다는 점에서 온당한 질문이 아닐 수 있습니다. 그러나 그리스 기하학에 수가 등장하지 않는 이유를 생각해보면서, 그리스 수학자들이 수학에 어떤 식으로 접근했는지 좀 더 그들의 수학에 가까이 다가가게 됩니다.
학자들은 이 질문을 크게 두 가지 측면에서 설명해 왔습니다. 어떤 사람들은 이 특징이 일반성을 확보하기 위한 목적에서 기인했다고 설명합니다. 그리스의 기하학이 이집트나 고대 근동의 수학문제처럼 특정한 수를 다루는 기하문제를 푸는 것이 아니라 보다 일반적인 원리를 설명하기 위해서 구체적인 수를 등장시키지 않았다는 것입니다. 또 어떤 사람들은 이 특징이 고대 그리스인들이 알고 있던 수의 한계에서 기인했다고 설명합니다. 잘 알려진 대로 도형의 크기들 사이의 비를 생각할 때, 정사각형의 한 변의 길이와 그 대각선의 길이처럼 그들이 알던 수의 비율로 표현하는 것이 어려운 경우가 발견되었습니다. 바로 이 통약 불가능한 경우incommensurability들 때문에 도형의 관계를 수의 관계로 표현하는 데 한계가 있었을 것이라는 설명입니다.
하지만 최근에는 고대 그리스 수학에서 이 통약불가능성이 차지하는 비중이 지나치게 강조된 데 대한 비판적인 시각도 생겨났습니다. 플라톤의 <테아이테토스> 대화편에도 남아있듯이 그리스 수학자들이 통약불가능성을 중요한 탐구거리로 생각한 것은 사실입니다. 그러나 통약불가능성의 발견으로 인한 그리스 수학의 위기는 피타고라스학파 중 일원이었던 히파수스의 죽음에 관한 일화와 맞물려 더 극적인 이야기로 과장된 면이 있습니다. 실상 히파수스가 무리수를 발견하고 수장되었다는 이야기를 전하는 파푸스Pappus, c.290-c.350나 이암블리코스Iamblichus, 245-325 AD의 전언이 너무 후대의 기록이기도 하고 기록이 여러 버전으로 갈리기도 해서 애매한 구석이 있기 때문입니다.
더욱이 고대 그리스 수학에 대해 현재 우리가 갖고 있는 이해는, 수학의 확실성의 위기가 있었던 20세기 초반의 수학사 학자들의 연구에 기반하고 있는데, 통약불가능성으로 인한 그리스 수학의 위기에 대한 수학사의 전통적인 설명은 이 학자들의 20세기 초반의 수학에 대한 경험이 반영된 것이기도 합니다. 그러나 이제는 통약불가능성의 발견이 과연 고대 그리스 수학에서 위기라고 부를만한 어떤 것을 초래한 적이 있는가에 대해 회의적인 견해들도 생기고 있습니다.
그래서 저는 조금 다른 관점에서 고대 그리스 기하학에서 수가 등장하지 않았던 이유를 찾아보려고 합니다. 물론 그리스 수학자들이 자신들의 수학에 대해서 설명하는 힐베르트의 프로그램 같은 글을 남긴 적이 없기 때문에 아무도 그 이유에 대해 정확한 답을 찾을 수는 없습니다. 하지만 고대 그리스에서 수학을 공부한다는 것이 무엇을 의미했는가로부터 한 가지 힌트를 얻어보고자 합니다.
우리의 막연한 예상과는 다르게 사실 고대 그리스의 지성 세계 안에서 수학자들은 다른 철학자, 극작가 혹은 연설가보다 상대적으로 소수의 무리에 속했습니다.2 게다가 수학자들은 플라톤의 아카데메이아, 아리스토텔레스의 뤼케이움, 스토아학파처럼 어떤 학파를 이루지도 못했습니다. 비록 알렉산더 이후 헬레니즘 시대에 이르러 알렉산드리아를 중심으로 형성된 네트워크를 통해 서신으로 공부한 결과를 더러 공유하기는 했지만, 대개는 개별적으로 고립되어 수학을 공부하는 경우가 더 많았습니다. 또한 철학에 입문하기 위한 중요한 훈련 중 하나로 수학이 강조되기도 했지만 어떤 사람들은 수학에 대해서 매우 비판적인 입장을 취하기도 했습니다. 에피쿠로스학파가 수학의 대척점에 서 있던 대표적인 그룹이었습니다. 그래서 표현이 거칠기는 하지만 고대 그리스에서 수학을 업으로 삼는다는 것이 다른 선택지들보다 상대적으로 덜 매력적이었을 수 있었겠다는 생각도 듭니다.
그런 불리를 감수하고서라도 수학자들이 얻을 수 있는 유익은 무엇이었을까요? “놀라움을 줄 수 있다는 것”, 그것이 바로 제가 생각하기에 고대 그리스 수학자들이 수학을 공부함으로써 얻는 유익이자 중요한 동기였습니다. 수학을 통해서 그들은 동료 그리스 시민들에게 “아주 그럴듯하지 않은 이야기”를 주장할 수 있었습니다. 가장 그럴듯하지 않은 이야기로 수학이라는 일종의 비의祕儀에 입문하지 않은 사람들, 수학 밖에 있던 사람들exoterikoi\들에게 놀라움을 선사할 수 있다는 것이 수학의 핵심에 있었을 가능성이 있습니다. 사실 놀라움을 추구하는 것이 비록 수학자들만의 관심이었던 것은 아닙니다. 이를테면 제논의 역설을 생각해 볼까요? 호메로스의 서사시에서 늘 발이 날랜 영웅으로 묘사되었던 아킬레우스가 느릿느릿 걷는 거북이를 결코 따라잡을 수 없다니요? 또 이후에 기원전 3세기경에는 역설집paradoxography이라는 자연과 인간세계의 경이로운 일들을 모은 장르가 생길 정도로 놀라움은 고대 그리스의 지적 추구에서 중요한 한 축을 담당했습니다.
그렇다면 그들은 왜 놀라움에 천착했을까요? 그 답은 그리스 고전기의 치열한 지적 경쟁에서부터 찾아야 합니다. 소크라테스가 활동하던 시대에 많은 소피스트들이 그랬던 것처럼 여러 지적 스승들이 경쟁하는 상황 속에서 더 충격적인 이야기를 꺼내놓아야 했기 때문일 것입니다. 누구나 이미 알고 있는 이야기를 따분하게 전하는 것으로는 매력적인 지성으로 주목받기가 어려웠을 테니까요. 우리말로 역설逆說로 옮기고 있는 그리스 단어 파라독사παράδοξα: paradoxa도 역설의 본질이 놀라움과 경탄에 있다는 점을 증명합니다. 이 단어의 기본 뜻은 독사doxa에 반한다는 것입니다. 사람들이 공통적으로 받아들이고 있는 의견이나 상식적인 믿음이 독사인데 그것에 역행해 본다는 것이지요. 자신이 으레 받아들이고 있던 의견이 반박될 때 혹은 미처 예상하지 못했던 사실을 마주할 때 사람들은 놀라움을 경험합니다.
저는 그리스 수학에서 그런 파라독사와 같은 맥락에 속하는 주장들을 자주 발견합니다. 그리고 이 파라독사로 인한 놀라움의 효과를 더 극대화하기 위해서 그리스 수학자들은 도형들 간의 관계를 대수적인 관계로 환원시키지 않고 도형들 간의 관계로 남겨놓을 필요가 있었을 것입니다. 그것이 제가 생각하는 그리스 기하학에 수가 등장하지 않았을 결정적인 이유입니다. 예를 들어, 피타고라스 정리를 생각해볼까요? 단순히 3제곱과 4제곱을 더한 것이 5제곱과 같다 혹은 a제곱과 b제곱을 더한 것이 c제곱과 같은 세 수의 쌍들을 열거하는 것보다는 원론 1.47에서처럼 다음과 같이 말하는 것이 더 사람들의 눈길을 끌 만했을 것입니다.
“어떤 직각삼각형에서라도, 직각이 마주 보는 변을 한 변으로 갖는 정사각형의 크기는 직각을 끼고 있는 나머지 두 변을 각각 한 변으로 갖는 두 정사각형의 크기를 더한 것과 같다!”
피타고라스는 이 정리를 발견하고 너무 기쁜 나머지 백 마리의 소를 제사로 드렸다는 기록이 남아있습니다. 그만큼 그 스스로도 이 발견이 파라독사이자 경탄할 만한 발견이었기 때문일 것입니다. 사람들로 하여금 “설마 그것이 사실이겠어”라는 반응을 불러일으킬만한 주장을 거침없이 만들 수 있었던 것이 그리스 수학의 힘이었고 그것이 피타고라스가 수학에 빠져든 근원적인 매력이 아니었을까요?
글쎄요. 피타고라스 정리가 우리에게 익숙한 나머지 아직 놀라움에 대한 아무런 감흥을 느끼지 않으셨을 수도 있을 것 같습니다. 저도 아직은 그리스 수학이 사람들에게 던졌던 가장 경탄할만한 주장들을 제대로 보여드리지 못했습니다. 오늘은 그 놀라움의 순간들을 아껴두었다가 이번 연재를 통해서 차례로 하나씩 꺼내서 보여드리고자 합니다. 저로서도 그리스 수학자들처럼 HORIZON 독자들에게 수학으로 놀라움을 선사해야 할 의무가 있으니까요.
그래서 두 번째 글에서는 히포크라테스와 아르키메데스가 수학으로 어떻게 놀라움과 경탄을 이끌어냈는지 자세히 다루겠습니다[놀라움]. 세 번째 글에서는 그들이 가장 그럴듯하지 않은 사실들을 주장했기 때문에, 결과적으로 그 충격적인 주장이 참이라는 것을 보여야 할 책임을 짊어졌다는 점을 말씀드리려고 합니다[보임]. 어찌 됐건 거짓은 아무리 놀라운 것이라도 가치가 떨어지게 마련이지요. 흔히들 고대 그리스 수학의 가장 중요한 본질이 다른 고대 문화권의 수학에서는 등장하지 않았던 논리와 증명에 있다고 보는데, 저는 그 증명이 필요했던 이유가 그들이 당연한 주장이 아니라 놀라운 주장을 했기 때문이라고 말씀드리려고 합니다. 놀라움이 자연스럽게 보임의 단계로 연결되는 셈이지요. 네 번째 글에서는 그들의 수학 안에 있던 놀라움과 보임을 향한 추구가 허공으로 흩어지는 것이 아니라 결국 아름다움을 드러내는 것으로 귀결되었다는 점에 대해 다루겠습니다[아름다움]. 마지막 다섯번째 글에서는 이런 고대 그리스의 독특한 수학이 우리가 아는 16-7세기의 과학혁명 속에서 어떻게 부활했는지 살펴보려 합니다.
그리스 수학을 소개하기 위해서 놀라움-보임-아름다움이라는 세 단어를 꼽은 까닭은, 그리스 수학의 본질이 가장 그럴듯하지 않은 놀라운 사실을 가장 그럴듯한 방식으로 설득하면서 자연의 아름다움을 찾아가는 데 있었다고 보기 때문입니다. 동시에 오늘날 우리의 학교 수학이 실패하는 지점은 수학을 태동시켰던 이 세 가지 동력, 놀라움-보임-아름다움을 잃어버린 데서 그 원인을 찾을 수도 있습니다. 적어도 제가 아는 학교 수학에서는 놀라움을 느낄 여유가 없고, 그래서 지루해진 사실을, 증명을 통해 서로 설득하는 과정도 없이 공식만을 주입하여, 수학에 내재한 아름다움을 발견하기보다는 문제의 맞고 틀림에만 몰두해왔습니다.
저는 이번 연재를 서두로 고대 그리스 수학자들의 위대한 저작들을 차례로 소개하려고 합니다. 모쪼록 우리의 학교 수학이 무엇을 잃어버렸고 무엇을 되찾아야 하는지, 수학의 역사 속에서 가장 빛나는 시기 중 하나였던 고대 그리스에서 그 답을 찾을 수 있기를 희망합니다.
