지금 현대 사회에는 수많은 학문 분야가 존재한다. 그중에 오직 수학만이 갖는 특징이 있다. 그것은 바로 수학은 수천 년간 그 지식을 쌓아가며 지속해서 발전해 왔다는 점이다. 나는 오랫동안 수학사 강의를 해 오면서 학생들에게 이 말을 자주 해 왔는데 이 말을 듣는 학생들은 물론이고 심지어는 수학자들 중에도 “어? 그런가?” 하는 이들이 많다. 대다수 사람들은 그저 막연히 서양의 학문 중에는 “철학, 천문학, 법학 등 오래된 학문이 꽤 여럿 있지 않나?” 라고 생각할지 모른다.
서양의 학문 중에 오래된 학문은 수학 외에도 철학, 법학, 천문학, 의학, 음악, 지리학, 역사 등 여러 개가 있지만 그중에 수학과 같이 그 지식을 축적하며 발전해 온 학문은 없다. 과연 그런가 한번 따져 보자. 서양의 철학은 강력한 종교의 독점으로 인하여 1500년 이상 그 존재 자체가 확실치 않았다 할 수 있다. 법학은 시대와 상황에 따라 그 모습과 가치가 변해 왔으니 그 지식을 꾸준히 탑을 쌓듯 쌓는 학문이 아니다. 의학은 전문적인 학자들에 의해 학문 분야로 자리 잡은 지 그리 오래되지 못했다. 약 3백 년쯤 전에 유럽의 의학은 과학과 결합하며 그전의 (비과학적인) 의학과는 완전히 이별한 후에 획기적인 발전을 이루었다. 19세기의 세균의 발견과 위생이라는 개념의 탄생이 그러한 획기적인 발전의 좋은 예이다. 한편, 천문학이나 음악은 수학 못지않게 오랜 세월 동안 지속적으로 발전해 온 분야이지만 이 둘은 2천 년 이상 수학 내의 분야로 인식되어 왔다. 피타고라스는 수학 안에서 기하, 산술(정수), 음악, 천문이라는 네 개의 분야를 중시하였고, 유럽은 그 이후 오랜 세월 동안 이 전통을 지켜 왔다.
해와 달의 움직임으로부터 날씨와 밀물 썰물의 변화가 생겨나므로 야외에서 경제생활을 하던 옛사람들에게는 정확한 달력을 만드는 것이 매우 중요했다. 요즘과 같은 빛 공해가 전혀 없던 시절에는 하늘의 별을 관찰하고 그 변화를 기록하는 일에 종사하는 사람들도 많았을 것이다. 그리스의 히파르코스Hipparcos, BC 190-12, 알렉산드리아의 프톨레마이오스Ptolemaios, 83??-168?, 아라비아의 알바타니Al-Battani, 858?-929 등은 수학자로서 천문 연구를 위해 삼각법을 개발하고 발전시켰다. 지동설로 유명한 코페르니쿠스Copernicus, 1473-1543와 그의 제자 레티쿠스Georg Joachim Rheticus, 1514-1574는 천문 연구를 위해 오랫동안 발전되어 왔던 삼각법을 거의 정리, 완성하였다. 위대한 수학자 뉴턴, 라플라스, 가우스, 케플러 등도 당대 최고의 수학자이기도 했지만 천문 연구에 일생을 바쳤다. 물리학의 아버지로 불리는 뉴턴Newton, 1643-1727도 자신을 수학자로 여기며 살다가 죽었다. 특히 역사상 가장 위대한 수학자 중 한 명인 가우스Gauss, 1777-1855는 그가 평생 근무한 괴팅겐 대학에서 천문대장 직을 맡아 일을 하며 천문학의 현대화에 지대한 공헌을 하였지만, 당대에는 그를 그저 수학자로만 여겼지 수학자이면서 천문학자라고 여기지는 않았다. 어차피 하늘의 움직임을 관찰하고 기록하고 계산하는 것, 달력을 만드는 것, 기상을 예측하는 것 등이 모두 수의 기록과 계산을 다루는 일이다 보니 수천 년 동안 수학자들이 해 오던 일이었기 때문이다.
음악도 비슷하다. 소리를 내는 물건의 크기와 길이에 따라 음의 높낮이가 달라지고 음 사이에 화음이 존재하는 것에 매료되어 음을 수학의 한 분야로 삼은 피타고라스 학파의 영향으로 수학자들이 오랜 세월 동안 음체계의 구성이나 화성학 등을 연구해 왔고 중세 이후 유럽의 대학에서는 음악을 수학의 한 과목으로 학생들에게 가르쳤다. 현대에도 음악은 같은 예술 분야인 미술과는 크게 대비되는 점이 있는데 그것은 음악 연주자들이 대학에서 박사과정까지 이수하는 것을 흔히 볼 수 있는 반면, 미술에는 박사과정 자체가 없다는 점이다. 그것은 음악이 수학의 한 분야로서의 전통을 갖고 있기 때문이다.
수학의 역사는 고대 이집트까지 거슬러 올라간다. 3천 7백년 전 아메스가 파피루스에 쓴 수학, 고대 그리스의 유클리드, 아르키메데스, 아폴로니우스, 프톨레마이오스, 디오판토스 등이 연구한 수학, 이슬람 문화가 그리스의 기하학과 인도의 대수학을 융합해 발전시킨 수학 등의 내용이 어떤 것인지, 어떤 과정을 밟으며 발전해 왔는지 잘 알려져 있다. 특히 대수학의 아버지로 불리는 알콰리즈미(780-850)의 수학은 중세 유럽의 수학 발전에 지대한 영향을 미쳤다. 수학은 언제나 이전의 수학을 토대로 차근차근 발전해 왔다.
수학은 오랫동안 지속적으로 발전해 온 학문인 만큼, 인류가 남긴 지혜의 창고라 할 수 있다. 그리스 시대부터 수학은 ‘지식의 모둠’이라는 의미의 mathematics라는 말로 불렸고 수학자들은 요즘의 좁은 의미의 수학만이 아니라 기계, 역학, 천문, 광학, 음악 등 다양한 분야의 주제에 대해 연구해 왔다. 예전의 수학자들이 (요즘의 학문 분류 체계로 볼 때) 광범위한 분야를 연구했던 것은 첫째, 종교를 떠나서 자연을 관찰하고 논리적으로 해석하고 어떤 값을 계산하는 일이 예전에는 일부 지식인들만이 하는 아주 특별한 일이었고, 둘째, 지금과 같이 여러 독립적인 분야로 분리될 만큼 과학이 충분한 수준에 이르지 못했기 때문이다. 종교의 영향이 지대하던 시대를 겪어 오며 수학은 종교에 짓눌리기도 하고 또 다른 한편으로는 화합하며 발전해 왔다.
물리학, 화학(연금술 이후의 근대적 화학), 생물학, 지구과학 등의 자연과학이 독립적인 학문 분야로 자리를 잡은 것은 길어야 3백 년 정도이고 대부분의 공학 분야의 역사도 2백 년을 넘지 않는다. 과학science라는 용어도 19세기 초반에 와서야 지금의 의미를 갖게 되었다. 근대의 공학 또는 기술은 주로 군사 분야와 건설 분야로 이루어져 있었다. 그래서 지금도 토목공학을 영어로는 군대가 아닌 민간이 하는 공학이라는 의미의 ‘민간공학civil engineering’이라고 부른다. 19세기 중반부터 약 100년간은 광산학이 크게 주목받았다. 지난 2백 년 간 많은 이공계 분야가 탄생하고 기존의 분야도 분파를 거듭해 지금은 수학이라는 학문의 범위와 역할이 전에 비해 많이 좁아져 있지만 그래도 수학은 그동안 수많은 수학자들이 쌓아 올린 거대한 지식의 탑을 보유하고 있다.
수학이 갖는 중요한 특징은 수학은 완전한 해를 추구하는 학문이라는 것이다. 수학 내에도 근사적인 또는 확률적인 해를 추구하는 분야도 있고 또 최근에는 그런 분야가 중요해지고 있기는 하지만 수학이 오랫동안 추구했던 본연의 가치는 완벽한 해를 구하는 것이다. 수학자들은 원래 이 세상의 모든 문제에 관해 관심이 있었다. 다만 수학에서는 완전한 답을 추구한다는 철학이 있다. 예를 들어 한 나라의 경제 현상에 대한 문제를 경제학자와 수학자가 연구할 때, 경제학자들은 해답이 70%정도만 맞아도 만족할지 몰라도 수학자들에게 자신들이 구한 해에 1%의 예외가 있어도 그것은 의미가 없다. 실은 그래서 수학자들은 주로 완벽한 해를 구할 수 있도록 잘 구성된 문제들만 주로 다루게 된다.
한편, 수학의 또 다른 특징은 수학이 오랫동안 언어교육과 더불어 기초소양교육에 있어서 가장 중추적인 역할을 해 왔다는 점이다. 누구나 수학을 배우기 때문에 일반 대중은 ‘수학’하면 ‘수학교육’을 떠올린다. 둘은 서로 완전히 다른 개념이란 것은 알고 있지만 굳이 둘을 구별하고 싶어 하지 않는다. 그래서 사람들은 수학자들에게 “어려운 수학을 꼭 누구에게나 가르쳐야 하나요?” “학교에서 배우는 어려운 수학은 어디에 써먹나요?”라는 질문을 한다. 수학자들은 사실 수학이라는 학문을 연구하는 연구자일 뿐이고 대부분의 수학자는 초중고 과정의 수학교육에 대해서는 잘 모른다. 대다수의 수학자는 학교 수학교육에 대해 직접 관여하지 않는다.
수학교육이 학교 교육에서 큰 비중을 차지하고 있는 것은 세계 어느 나라나 똑같다. 우리나라 학생들이 어려운 수학 공부를 하느라 고생을 많이 하고 있지만 그것은 수학자나 수학 교육자들이 그런 상황을 만든 것이 아니다. 그것은 그저 수학이 치열한 입시 경쟁에 있어서 중요한 과목인데다 학생들 점수의 편차가 큰 과목이기 때문일 뿐이다. 학생들의 학습량이 과다하고 사교육 시장이 비대해지고, 사교육으로 인한 불평등이 발생하는 것은 좋은 고등학교, 좋은 대학교에 가고자 치열하게 경쟁하고 있는 사회적 요인 때문에 일어나는 일이다. 수학자들이나 수학교육 담당자들이 쓸모도 별로 없는 수학을 학생들에게 어렵게 가르치려고 하는 집단이기주의 때문으로 오해하는 사람들이 의외로 많다.
사실 수학은 본질적으로 어렵다. 왜냐하면 수학은 오랫동안 수많은 천재 수학자들에 의해 끊임없이 발전해 왔기 때문이다. 우리가 중고등학교에서 배우는 내용조차도 그 정도의 수학적 내용을 수학자들이 정리해 놓기까지 오랜 세월이 걸렸다. 그래서 지금의 수학은 수학적으로 재능이 있는 학생들에게조차도 그 내용이 어렵다. 수학을 쉽고 재미있게 가르치거나, 학생들이 쉽게 터득할 방법은 애초에 없는 것이다. 수학을 공부할 때는 그 어려움을 인정하고 그 어려움을 즐기고자 하는 마음의 자세가 필요하다. 수학 공부를 포기하는 학생들이 흔히 “수학이 너무 어려워요”라고 말한다. 그래서 수학을 쉽고 간단한 내용을 위주로 가르치면 수학 부진아의 비율을 낮아질 것이라고 생각하는 사람들이 상당히 많다. 하지만 수학을 포기하는 이유는 수학이 어려워서라기보다는 경쟁에서 뒤쳐졌기 때문이다. 수학을 간단한 내용만 가르치고 쉬운 문제만 출제한다고 해서 부진아 비율이 낮아지지는 않는다는 것은 이미 미국을 비롯한 세계 여러 나라에서 경험해 왔고 우리나라도 그중 하나이다.
미래의 과학에 관해 이야기 해 보자. 과학은 약 2백 년 전부터 인류의 삶을 크게 바꾸었다. 인류가 진화를 시작한 머나먼 과거로부터 현재에 이르는 긴 시간을 고려해 본다면 현재 우리는 (첨단과학의 시대에 살고 있다고 하기보다는) 과학의 태동기에 살고 있다고 할 수 있다. 과학은 이제 지구상의 대다수 사람에게 매우 중요한 관심사가 되었고 앞으로 인류는 과학이 지배하는 세상에 살게 될 것이다. 나는 만 년 후의 과학을 상상해 보자는 말을 자주 한다. 그것은 과학의 절대성을 강조하기 위해서이다. 지금 과학자들이 연구하고 있는 내용이나 궁금해하고 있는 것들은 대부분 언젠가는 그 해답을 알게 될 것이다. 먼 미래에 대하여 상상해 보는 것은 현재의 수학과 과학이 갖는 가치를 이해하는 데에 도움이 된다. 지금 수학자, 기초과학자들이 하고 있는 연구는 실용성에 가치를 두고 있는 것이 아니기 때문에 언제 어떻게 인류에게 도움을 줄지 모른다. 하지만 앞으로 과학은 무궁무진하게 발전할 것이고 현재 수학자, 과학자들이 하는 연구들이 언젠가는 그러한 발전에 기여할 것이다. 나 자신이 젊은 수학자이던 시절에 추상적이고 실용성이라고는 찾아볼 수 없는 순수 수학을 내가 연구하는 것이 인류와 이 사회에 무슨 도움이 될까 하는 회의에 빠진 적이 있었다. 하지만 현대의 과학기술이 (수학에 비해 연륜이 짧아) 아직은 그런 수준이 안되어서 그렇지, 미래 언젠가는 내가 연구하고 있는 수학 문제나 이론을 활용할 날이 오리라는 것을 깨닫게 되었다.
원래 수학과 과학이 추구하는 핵심적 가치는 진리 탐구이다. 약 5백 년 전까지 중국에 뒤지던 유럽의 수학(과학)이 중국을 앞지르고 그 후로도 빠른 속도로 발전하여 현재의 수준에 이르게 된 것은 진리 탐구 정신이라는 과학 철학을 배경으로 하고 있었기 때문에 가능했다. 반면에 명나라는 과학의 실용성에만 가치를 두었기 때문에 어려운 이론을 축적한다든지, 오랜 기간에 걸쳐 자연의 섭리를 연구한다든지 하는 것이 어려웠고, 수학자(과학자)의 사회적 지위도 낮았다. 중국의 수학자들이 처한 상황에서는 지동설, 만유인력, 미적분학, 병균, 주기율표와 화학식과 같은 현대 과학의 기본이 되는 지식을 알아내는 것은 불가능했다. 실은 우주와 자연의 섭리를 이해하고자 수학과 기초과학을 연구하는 것이라는 철학은 현대에도 매우 중요하다. 그러한 철학의 가치는 과학을 먼 미래까지 보는 시각을 갖고 있을 때 더욱 빛을 발하게 될 것이다. 코앞의 미래만 생각한다면 과학의 실용적 가치만 중시하고 수학과 기초과학이 갖는 진정한 중요성을 이해하지 못하는 일이 벌어질 수도 있기 때문이다.
수학의 이론이나 연구 내용은 그 역사를 통해 더 잘 이해할 수 있다. 400년 전에 데카르트가 어떤 연구를 하였고, 250년 전에 오일러가 어떤 수준의 수학을 이룩하였으며, 200년 전에 가우스가 남긴 위대한 업적이 어떤 것인지를 이해해야 현대 수학에서 다루고 있는 문제들과 이론들의 배경이 이해되는 것이다. 그런 의미에서 수학은 과거지향적일 것 같지만 오히려 현대의 수학이나 순수기초과학은 매우 미래지향적이다. 현대의 수학은 현대의 과학기술보다 한발 먼저 발전해 왔기 때문에 아직은 과학기술이 수학을 잘 충분히 활용하지 못하고 있지만 언젠가는 잘 활용할 날이 오게 될 것이다. 인공지능과 빅데이터 연구에 있어서도 지금까지 쌓아 온 수학적 도구와 그것의 활용 능력이 머지않은 미래에 획기적인 역할을 할 수 있을 것이라 믿는다.
