2017년 아벨상 수상자 Yves Meyer

그는 1939년 7월 19일 파리에서 태어났으나, 과거 프랑스 식민지였던 튀니지에서 어린 시절을 보내며 성장했다. 북아프리카 해안에 위치한 당시의 튀니지는 지중해 주변 여러 곳에서 안전한 곳을 찾아 피신한, 다양한 문화적 배경을 가진 사람들이 몰려들어 생활하는 곳이었다. 이러한 문화적 다양성 속에서의 자극들은 어린 메예르가 이질적 문화의 경계들을 넘나드는 것을 갈망하게 만들었다고 한다. 또한 이 시기의 독특한 경험은 후일 편향되지 않고, 다양한 분야를 아우르는 그의 학문적 성향을 형성하는데 기여했다고 메예르 교수는 이야기한다. 메예르 교수는 프랑스 전체 고등학생들을 대상으로 하는 경시대회^{Concours Général}의 수학 분야에서 수상한 바 있고, 고등사범학교 입학시험에서 일등을 하는 등 어린 시절부터 두각을 나타냈다. 1966년에 카핸^{Jean-Pierre Kahane}의 지도하에 학위를 받았으며, 그 후 프리타네 국립 군사학교^{Prytanée National Militaire}, 스트라스부르대학교^{Univ. of Strasbourg}, 파리 제11대학교^Paris-Sud, 에콜 폴리테크니크^{École Polytechnique}, 파리 제9대학교^{Paris-Dauphine} 등을 거쳐 현재 고등사범학교의 명예교수로 있다.

아벨상 수상위원회는 수상의 주된 이유로, ‘웨이브렛^Wavelet의 수학적 이론의 발전에 있어서 메예르 교수의 중추적 역할’을 들고 있다. 따라서 먼저 웨이브렛이 무엇인지, 어떻게 발전해 왔는지를 살펴보지 않고는 메예르 교수의 업적을 제대로 이해하기는 힘들다.

웨이브렛은 현대 과학과 기술에서 없어서는 안 될 중요한 위치를 차지하며 광범위한 응용 분야를 가지고 있다. 특히 신호 및 데이터 처리를 위해서 주로 활용되고 있어 우리의 일상생활과 밀접하게 관련되어 있다. 주된 응용 분야로는 통신 시스템, 의학 이미지, 레이더, 음향학, 제어시스템 등을 들 수 있다. 보다 구체적으로, 영상, 음향, 영화 등의 디지털화를 통한 데이터 압축, 신호처리 과정에서 발생하는 노이즈 줄이기에 사용된다. 실례로는 허블 우주 망원경의 이미지 데이터 분석과 최근 물리학의 개가인 중력파 발견에도 활용되었다고 한다.

웨이브렛의 기원은 200년 전 푸리에^{Jean Baptiste Joseph Fourier1)}로 거슬러 올라간다. 푸리에는 그의 논문 ‘열에 대한 해석적 이론’에서 구간 [O, 1] 의 모든 함수가 정수배의 진동수를 갖는 삼각함수의 선형 결합으로 표현이 가능하다고 주장했다. 이 아이디어는 동시대의 여러 수학자들로부터는 배척되었으나, 이후 디리클레^{Johann Peter Gustav Lejeune Dirichlet}, 리만^{Georg Friedrich Bernhard Riemann} 등에 의해서 수학적 정당성이 부여되었다. 함수를 이해하기 쉬운 기본 함수들로 분해한다는 것을 물리학의 원자론만큼이나 매우 혁명적인 것으로, 새로운 수학적 도구가 될 뿐만 아니라 자연현상을 이해하는 새로운 관점을 제공하게 된다. 푸리에의 아이디어는 수학뿐만 아니라, 물리학, 공학에서 널리 활용되었고 이들 분야의 발전에 기여하여 왔다.

그러나 푸리에 급수를 실제 문제에 응용할 때, 특히 시간에 따라 급격히 변화하는 신호나 데이터를 푸리에 급수로 근사하려고 할 경우 푸리에 급수는 효율적이지 못한 것으로 판명됐다. 전체 공간에 고르게 펴져 있는 삼각함수의 특성상 푸리에 급수로는 특정 위치의 정보를 추출해내는 국소적 특정화가 매우 어렵다. 또 정확도를 높이기 위해서는 진동수가 큰 진동 적분을 계산해야 하는데, 이러한 진동 적분에 대한 수치적 해석은 안정적이지 않아 계산의 어려움이 존재한다. 무엇보다 이러한 난관의 밑바탕에는 “주파수와 시간을 동시에 임의로 특정할 수 없다”라는 하이젠베르크^{Werner Karl Heisenberg}의 불확정성 원리가 있다.

좁은 의미에서 웨이브렛은 이러한 푸리에 급수의 단점을 보완하는 과정에서 탄생했다고 할 수 있다. 그러나 보다 넓은 의미에서 보면 웨이브렛 역사의 시작은 헝가리 수학자 하르^{Alfréd Haar}의 Haar basis로까지 거슬러 올라간다. 그 이후에 가보^{Dennis Gabor}는 Garbor frame에서 삼각함수를 변형한 다른 형태의 함수를 사용했다. 그러나 메예르 교수는 그의 저서[M1] 에서 적어도 7개 이상의 웨이브렛 이론의 기원들이 존재한다고 말하고 있으며, 구체적으로 이를 양자역학의 결 맞는 상태^{coherent state}, Littlewood-Paley 이론, 그리고 루진^{Nikolai Luzin}, 칼데론^{Alberto Calderón} 등에 의한 1930년대, 1960대의 연구들과 관련짓고 있다.

그러나 좁은 의미에서 웨이브렛의 역사는 그렇게 길지는 않다. 1980년대 초 에콜 폴리테크니크 출신의 프랑스 기술자인 장 몰레^{Jean Morlet}는 석유 탐사를 위한 지층 연구를 진행하고 있었다. 음파를 발사해서 반사된 파를 분석함으로써, 지층에 흡수되는 특정 파를 찾아 해당 지층의 특성을 밝히려 하였는데²⁾ 여기에 이전에 알려진 가보의 웨이브렛(위에서 언급한 Gabor frame)을 사용하였으나, 결과는 그리 만족스럽지 못했다.

가보의 웨이브렛은 간단히 말해 삼각함수에 가우스 함수를 곱한 것으로 이전의 삼각함수와 달리 급격히 감소하는 가우스 함수의 도움으로 공간 국소화의 장점이 있으나, 여전히 존재하는 진동으로 계산의 어려움이 있는 등 몇 가지 약점을 가지고 있었다. 이를 보완하기 위해 몰레는 ‘하나의 함수로 만들어지는 웨이브렛’이라고 하는 중요한 아이디어를 도입하게 된다. 진동이 존재하는 삼각함수 부분을 없애는 대신, 주어진 함수 \(\Psi \)를 \({ 2 }^{ m }\)배 dilation한 것과 섀넌^{Claude Shannon}의 샘플링 정리를 활용하여 dilation한 만큼 평행 이동한

\({\psi_{m,n}(t)=2^{-m}\psi(2^m(t-n2^m))}\) (여기서 \(m,n\)은 정수)

함수들을 기저로 사용하는 것이다. 다시 말해 주어진 함수 \(f\)를 아래와 같이 변환하게 된다.³⁾

\(\sum _{ -\infty }^{ \infty }{ \sum _{ -\infty }^{ \infty }{ \left< f,{ \psi }_{ m,n } \right> { \psi }_{ m,n }. } }\)

이로써 웨이브렛이 탄생하게 된다. 몰레는 이로 인해 이전보다 정확한 결과를 얻을 수 있었다. 그러나 자신의 아이디어가 수학적으로 옳은지를 확인하기 위해 프랑스 이론물리학센터^{Centre de Physique Théorique}에서 양자역학을 연구하던 이론 물리학자 그로스만^{Alexander Grossmann}과 그의 마르세유 연구팀과 공동연구를 하게 된다. 그들은 웨이브렛을 양자역학의 ‘결 맞는 상태’와 관련지어 보다 넓은 의미로 정의하여 연구를 추진하였다. 이들의 연구는 당시 새로운 데이터 분석 방법이 필요했던 다양한 학자들의 관심을 끌게 되었고, 특히 비선형 물리학 등 복잡한 현상을 분석하는데 활용되기 시작했다. 웨이브렛 혁명이 시작된 것이다.

이 무렵 메예르 교수는 에콜 폴리테크니크에서 강의를 하고 있었는데, 그 대학의 이론물리센터를 이끌고 있었던 라스코^{Jean Lascoux}로부터 웨이블렛에 관한 Grossmann-Morlet의 논문을 건네받게 된다. 메예르 교수는 당시 조화해석학 문제인 Calderon-Zygmund 연산자^operator를 연구하고 있었다. 그는 논문을 보자마자 이들 두 분야 사이의 깊은 연관성을 파악하고는 본능적으로 사로잡혔다고 한다. 그리고 마르세유로 가는 첫차를 타고, 마르세유 웨이브렛팀의 도브시^{Ingrid Daubechies}, 그로스만, 몰레를 만났다. 이후 메예르 교수는 도브 시, 그로스만과 함께 Calderón reproducing formula, atomic decomposition과 Littlewood-Paley-Stein의 이론 등 조화해석학의 이론과 기본 아이디어를 활용하여 웨이브렛 이론의 수학적 기초를 세우게 된다. 그로부터 코이프만^{Ronald Coifman}, 도브시, 멜럿^{Stéphane Mallat}등과의 공동 연구를 통해 이론을 더욱 발전시켰고, 다양한 분야의 사람들과 교류를 통해 웨이브렛을 전파하였으며, 다방면으로 웨이브렛의 응용을 모색하는 등 이후 웨이브렛의 발전에 중추적 역할을 하게 된다. 

웨이브렛의 등장과 발전에는 독특한 점이 있는데, 첫째, 필요한 기본적 이론의 대부분이 웨이브렛이 등장하기 전에 다른 형태의 수학으로 존재하고 있었다는 것이다. 특히 칼데론, 스타인^{Elias M. Stein}, 지그문트^{Antoni Zygmund}를 중심으로 하는 시카고 조화해석학 그룹은 atomic decomposition에 관한 연구를 오랫동안 진행해 오고 있었다. 이들 그룹의 연구결과들은 이후 웨이브렛 연구에 활용되기도 하고 종종 재발견되기도 했다. 둘째, 짧은 시기에 혁명적으로 빠르게 발전할 수 있었던 것은 웨이브렛 이론 자체의 독창성에 있다기보다는 과학 및 공학 등 다방면에서의 현실적인 요구가 이전의 수학적 이론을 재발견하게 하고 통합을 가능하게 했다는 것이다.

1970년대 말에서 1980년대 초에 푸리에 급수의 단점을 극복하기 위해 초기적 형태의 웨이브렛들이 공학자 및 과학자들에서 만들어졌고 이에 대한 수학적 이해의 필요성이 대두되고 있었는데, 이를 최초로 간파하고 대응한 수학자가 메예르 교수라고 할 수 있다. 카핸의 말을 빌자면 다음과 같다.

“Y. Meyer was the right man at the right time.”

웨이브렛 이론의 상당 부분은 고전적 이론의 응용과 재발견으로 보일 수 있어 수학적 독창성 측면에서 재고될 수 있으나, 웨이브렛을 수학의 영역으로 도입하고, 이후의 발전에 기여한 웨이브렛 혁명의 중심으로서의 메예르 교수의 공로에는 논란의 여지가 있을 수 없을 것이다.

처음 웨이브렛을 접했을 시기에 메예르 교수는 사십대 후반이었는데, 이 시점부터 본인의 두 번째 수학 인생이 시작된 것이다. 그는 끝을 모르는 에너지와 호기심의 소유자로 특정 연구 분야에 속박 받지 않고 경계를 넘나드는 지적 유목민이었으며, “한 분야에서 지나친 전문가가 된다면 그 분야를 떠날 때다”라고 이야기한다. 그는 선구자적 연구뿐만 아니라 교육에도 헌신적이었으며 “수학의 진보는 집단적 과업으로 이를 위해서는 모두가 필요하다”라며 협업의 중요성을 강조한다. 또한 연구에 관한 조언으로 “수학처럼 어려운 연구를 위해서는 완전히 몰입해야 하며, 본인의 생각들 속에 깊이 숨겨진, 언젠가는 드러날 보물을 가지고 있다는 믿음이 필요하다”라고 말한다. 마지막으로 프랑스 신문 피가로^{Le Figaro}와의 인터뷰에서 젊은 수학자들을 향한 메예르 교수의 조언을 전하며 이 글을 마친다.

“그대로 추종하지 않는 것. 전통을 계승하는 것 못지않게 이에 의문을 품는 것이 필요하다.
이것 없이 혁신은 없다.
To disobey. It is necessary to know the tradition but also to question it … without disobedience, no innovation.)” 

* 부록 : 웨이브렛 발전에 크게 공헌한 도브시가 공동 수상하지 못한데 대해서는 논란이 있다. 그런데, 도브시는 국제수학연맹^{International Mathematical Union, 이하 IMU}의 회장(2011~2014)으로서 아벨상 수상위원회 구성에 관여했고, 이후에도 IMU 집행위원회에 관련됨으로써 수상 자격이 없었다. 2021년 초까지 그러할 것이라고 한다.[T]

** 이 글은 대한수학회소식 제176호(2017.11)에 기고되었던 글입니다.