캐런 울렌벡Karen Uhlenbeck은 기하학적 미분방정식, 게이지 이론, 변분법을 도약시켜 해석, 기하, 수리물리에 업적을 남긴 공로로 2019년 아벨상을 수상하였습니다. 울렌벡은 최초의 여성 아벨상 수상자이며, 2000년 국가 과학 훈장National Medal of Science, 2007년 스틸상Leroy P. Steele Prize을 수상하는 등 유리천장을 부수어 온 여성입니다.

캐런 울렌벡은 1942년 미국 오하이오주에서 케스쿨라Keskulla가의 4남매 중 첫째로 태어났습니다. 울렌벡은 그녀의 첫 번째 남편 올크 울렌벡Olke Uhlenbeck의 성입니다. 참고로 올크 울렌벡의 아버지인 헤오르헤 외헤네 울렌벡George Eugene Uhlenbeck은 네덜란드의 뛰어난 이론 물리학자로, 1925년 호우슈미트Samuel Abraham Goudsmit와 함께 전자의 “스핀”이란 개념을 발표했습니다. 어린 시절 그녀는 동생들을 다루는 것이 꽤나 힘들었기 때문에, 처음 수학을 전공할 때는 혼자 일할 수 있고 타인과 경쟁하지 않아도 되는 점이 좋았다고 합니다. 하지만 울렌벡은 곧 다른 학생들과 교류하기 위해 타인과 사귀는 법을 배워야 했습니다. 그 과정에서 힘든 부분도 있었지만, 한편으로는 젊은 수학자들과 교류하는 것이 크게 도움이 된다는 것을 깨닫게 되었습니다. 그리고 이제는 다른 사람들과 일하는 것을 즐긴다고 합니다.

어린 시절 울렌벡은 도서관의 모든 과학 도서를 읽을 정도로 독서를 좋아했습니다. 특히 프레드 호일Fred Hoyle의 천체물리학 책들과 조지 가모브George Gamow의 <One, two, three…infinity>가 인상 깊었다고 합니다. 울렌벡은 성장하면서 대학에 진학하는 것을 당연하게 여겼었습니다만, 비싼 학비 때문에 진학하고 싶었던 MIT나 코넬Cornell은 갈 수 없었고, 미시간 대학University of Michigan으로 진학했습니다. 대학에서 만난 다른 여학생들은, 학부모들이 아들은 비싼 학비를 지불하고라도 아이비리그Ivy League 대학에 진학시키겠지만 딸들은 학비가 저렴한 미시간 대학으로 보낸다고 생각했다고 합니다. 미시간 대학에서 처음에는 물리학을 전공할 생각이었지만, 실험과 연구실 생활에 회의를 느껴 수학을 전공하기로 결정했습니다.

학부를 마친 뒤 울렌벡은 뉴욕 대학New York University의 쿠랑 연구소Courant Institute에서 1년간 대학원 생활을 하고, 생화학자인 올크 울렌벡을 만나 결혼했습니다. 남편이 하버드Harvard로 옮김에 따라 울렌벡은 브렌다이스Brandeis 대학원 과정으로 편입하고, 지도 교수인 리처드 팔레Richard Palais를 만났습니다. 팔레Palais의 지도 아래 울렌벡은 변분법을 공부하고 대역해석학으로 박사 학위를 받았습니다. 이후 변분법을 발전시켜 조화사상, 최소 곡면, 게이지 이론 등에 중요한 업적을 남기고, 다른 수학자들과 함께 기하학적 해석학이라는 분야를 열었습니다.

변분법

울렌벡의 많은 연구는 변분법을 기반으로 합니다. 변분법은 해석학의 가장 중요한 분야 중 하나로서, 18세기부터 연구되어 왔습니다. 변분법의 간단한 예로 일변수 함수 \(u(x)\)의 범함수 \(E\)가

\(E(u)=\int_0^1 F(u(t),u'(t))dt\)

주어져 있을 때, 어떤 함수 \(u\)가 범함수 \(E\)의 극값이라면, 특별히 함수 \(u\)를 \(E\)의 정류값이라고 부르며 미분 방정식

\(0= \frac{\partial F}{\partial u}-\frac{d}{dx} \frac{\partial F}{\partial u’}\)

을 만족합니다. 그리고 위의 방정식을 범함수 \(E\)의 오일러-라그랑주 방정식이라고 부릅니다. 변분법의 가장 널리 알려진 응용으로, 함수 \(u\)가 곡선, 곡면, 상태 등을 나타낸다면 범함수를 그들의 길이, 넓이, 에너지 등으로 정의하여, 그의 정류값인 최단 거리, 최소 곡면, 평형 상태 등을 연구합니다. 특히 최근 10년간은 범함수의 최대, 최소값 이외의 다른 정류값의 연구가 활발히 진행되어 수많은 미분기하학의 난제들이 줄지어 해결되고 있습니다.

전통적으로 해석학에서 주어진 미분 방정식이 어떤 범함수의 오일러-라그랑주 방정식일 경우, 변분법이 미분 방정식을 연구하는데 강력하게 사용되기 때문에, 변분법과 미분 방정식은 때로는 같은 분야로 분류되기도 합니다. 또한 기하학에서는 함수뿐만 아니라 사상, 계량metric, 접속connection 등의 기하학적 대상을 연구할 때, 이 대상들의 범함수를 생각하여 변분법을 통해 연구하기도 합니다. 

변분법은 18세기부터 연구되어왔지만, 20세기 초까지만 해도 고작 일차원인 경우와 선형 방정식에 대해서만 이론이 정립되어 있었습니다. 하지만 지난 한 세기 동안 변분법은 고차원의 비선형 방정식과 추상적인 공간에서 눈부신 발전을 이루어내었습니다.

 

조화 사상과 존재성

변분법으로 연구하는 가장 기본적인 범함수로 두 리만 다양체 \(M,N\)사이의 사상 \(u:M\to N\)의 디리클렛 에너지 \(E(u)=\int_M |\nabla u|^2\)가 있습니다. 그리고 특별히 디리클렛 에너지의 정류값을 조화사상이라고 부릅니다.

예를 들어, 리만 다양체의 측지선은 1차원 조화사상으로 이해할 수 있습니다. 리만 다양체 \(M\)위의 두 점 \(p,q\)를 잇는 곡선 \(\gamma:[0,1]\to M\)가 범함수 \(E(\gamma)=\int^1_0|\nabla \gamma|^2\)를 최소화한다면 곡선 \(\gamma\)는 정류값으로 오일러-라그랑주 방정식 \(\gamma”_k-\Gamma^k_{ij}\gamma_i’\gamma_j’=0\) 을 만족합니다. (\(g\)는 다양체 \(M\)의 계량이고, \(\Gamma\)는 국소 좌표계의 크리스토펠 기호입니다.) 이 방정식의 해들을 리만 다양체의 측지선이라고 부릅니다. 바위에 걸쳐진 고무줄을 생각해보면, 고무줄이 탄성 위치 에너지를 최소화하는 형태로 모양이 고정되는 것을 예상할 수 있습니다. 이때 바위에 의해 결정된 3차원 공간의 계량에 대해서 고무줄이 측지선이 됩니다.

이러한 조화사상의 존재 여부는 변분법의 중요한 질문입니다. 먼저 디리클렛 에너지는 음이 아니므로 하한이 존재하는 것을 알 수 있습니다. 따라서 디리클렛 에너지의 수열 \(\{E(u_j)\}\)가 최소값으로 수렴하는 사상열 \(\{u_i\}\)가 존재합니다. 이때 이 사상열이 어떤 사상으로 수렴한다면 이는 디리클렛 에너지를 최소화시키는 조화사상입니다. 

Palais와 Smale은 어떤 조건 하에 힐베르트 공간의 닫힌 집합 \(S\)가 범함수 \(E\)의 조화사상을 가지게 되는지를 연구했습니다. 연속인 프레셔Fréchet 도함수 \(E’\)를 가지는 범함수 \(E\)가 있고, \(S\)에서 \(E\)가 유계이면서 집합 \(\{E'(u):u\in S\}\)의 폐쇄closure가 원점을 포함한다는 조건을 만족한다면, \(S\)는 \(E\)의 조화사상을 갖습니다. 이를 Palais-Smale 조건이라고 합니다. 1차원의 경우 디리클렛 에너지는 Palais-Smale 조건을 만족합니다. 따라서, 1차원 조화사상의 존재성을 확인할 수 있습니다. 하지만 2차원 이상의 경우 디리클렛 에너지는 Palais-Smale의 조건을 만족하지 않습니다. 예를 들어, 2차원 리만 다양체 \(M\)의 등각변형 사상열 \(\{\phi_i\}\)가 주어져 있을 때, 주어진 함수 \(u\)의 디리클렛 에너지는 \(u\circ \phi_i\)의 디리클렛 에너지와 같습니다. 따라서 수렴하지 않는 등각변형 사상열 \(\{\phi_i\}\)에 대해서 집합 \(S=\{u\circ \phi_i:i\in \mathbb{N}\}\)은 유계인 디리클렛 에너지를 가지지만, \(S\)는 어떤 사상으로 수렴하지 않습니다.

 

거품화

울렌벡의 가장 중요한 업적 중 하나로, 2차원 조화 사상의 거품화bubbling가 있습니다. 1970년대에 울렌벡이 UIUCUniversity of Illinois,Urbana-Champaign에서 교수로 재직하고 있을 때, 박사 후 연구원 조나단 삭스Jonathan Sacks를 만나 새로운 관점에서 2차원 조화사상에 접근했습니다. 두 사람은 디리클렛 에너지를 최소화하는 사상열 대신, 디리클렛 에너지에 근사하는 범함수열

\(E_\alpha(u)=\int_M (1+|\nabla u|^2)^\alpha\)

를 고려했습니다. \(\alpha>1\) 이면 \(E_\alpha\)는 Palais-Smale조건을 만족시키고 \(E_\alpha\) 최소화시키는 정류값 \(u_\alpha\)가 존재합니다. 따라서 \(u_\alpha\)가 어떤 사상 \(\bar u\)로 수렴한다면 \(\bar u\)는 디리클렛 에너지의 정류값,즉 조화사상이 됩니다. 울렌벡과 삭스는 \(u_\alpha\)가 많아야 유한 개의 점들을 제외하고 사상 \(\bar u\)로 부드럽게 수렴한다는 것을 보였습니다. 또한, 그 수렴하지 않는 유한 개의 점들은 거품과 같은 특이점이라는 것을 보였습니다. 보다 정확히 말하면, 수렴하지 않는 점 \(x\in M\)가 존재한다면 상수가 아닌 조화사상 \(s: S^2 \to N\)이 존재하여, \(u_\alpha\)를 \(x\)를 중심으로 크기를 조정하여 \(s\)로 수렴하게 한다는 것을 보였습니다. 다시 말해, 특이점들은 모두 거품과 같은 위상이어야 합니다.

 

 

예를 들어 북의 한 면이 가죽이 아닌 고무로 되어 있고, 고무를 풍선처럼 불 수 있다고 합시다. 이제 엄지와 검지로 원을 그려서 한 쪽에 대고, 반대쪽에서 바람을 불어 풍선처럼 부풀어 오르게 만듭니다. 그럼 손가락을 기준으로 거품처럼 구와 비슷한 부분과 평평한 부분을 나눌 수 있습니다. 이제 손가락으로 만든 원을 점점 더 작게 만들면서 풍선을 붑니다. 그럼 결국 거품과 같은 구와 평평한 면이 한 점에서 만나는 모습을 상상할 수 있습니다. 이때 이 거품과 같은 구를 특이점, 평평한 면을 조화사상으로 이해할 수 있습니다.

일반적으로 미분 방정식열의 해나 범함수열의 정류값 등의 수렴성을 고려할 때, 전체가 균일하게 수렴함을 보이는 것을 목표로 합니다. 하지만 울렌벡과 삭스의 업적은 균일하게 수렴하지 않는, 심지어 특이점을 발현하는 정류값열에 대해 깊고 날카로운 관찰을 해냈다는 것에 있습니다. 또한 최소 곡면, 사교 위상, 야마베 문제 등에도 영향을 주었습니다.

 

게이지 이론

1980년대 초, 울렌벡은 변분법의 또 다른 응용으로 4차원 게이지 이론에 커다란 업적을 남겼습니다. 1986년 필즈상 수상자이자 4차원 게이지 이론의 대가인 사이먼 도널드슨Simon Donaldson은, 이 분야의 대부분의 이론이 울렌벡의 연구를 토대로 한다고 말했습니다.

조화사상에 대한 연구들과 마찬가지로, 게이지 이론의 주요 연구 과제 중 하나는 범함수들의 평형 상태를 찾는 것입니다. 예를 들어, 전자기학의 맥스웰 방정식을 일반화한 양-밀스 방정식은 양-밀스 범함수 \(
\mathcal{L}(A)=\int_M |F(A)|^2\)의 오일러-라그랑주 방정식입니다. 여기서, \(F(A)\)는 주어진 접속 \(A\)의 곡률입니다.

게이지 이론에 관한 울렌벡의 첫 번째 중요한 업적은, 국소 쿨롱 게이지가 존재함을 보이고, 그 게이지 위에서 양-밀스 방정식이 타원형 방정식임을 보인 것입니다. 타원형 방정식은 미분 방정식의 가장 기본이 되는 형태로 가장 연구가 발전되어 있는 이론 중 하나입니다. 울렌벡은 양-밀스 방정식이 타원형 방정식의 일종임을 보임으로써 오랫동안 발전되어온 타원형 방정식 이론을 적용할 수 있다는 것을 보였습니다.

울렌벡의 두 번째 중요한 업적은 양-밀스 방정식의 제거 가능한 특이점에 관한 연구입니다. 울렌벡은 4차원의 고립된 특이점이 거품화될 수 없다는 것을 보였습니다. 다시 말해, 양-밀스 방정식의 해가 유한한 에너지를 가지고 한 점을 제외한 어떤 열린 집합에서 정의된다면, 그 점에서도 해가 잘 정의됨을 보였습니다.



여성 수학자

위에 열거한 바와 같이 울렌벡은 다양한 분야에 많은 업적을 남긴 훌륭한 수학자입니다. 하지만 울렌벡은 여성 학자로서 차별을 받기도 했습니다. 박사 학위를 마친 후, 울렌벡은 MIT에서 1년, UC Berkeley에서 2년을 일하고 다음 직장을 찾는 동안, 지원했던 많은 학교들로부터 규정상 여성을 임용할 수 없다는 이야기를 들었습니다. 하지만 나중에 다시 그 문제에 관해 물어봤을 때, 학교측은 울렌벡에게 그런 말을 한 것을 잊어버렸고, 실제로 그런 규정도 없었다고 합니다.

울렌벡이 젊었던 시절에는 아무도 여성의 문제에 관심이 없었습니다. 1971년에 여성수학협회Association for Women in Mathematics가 설립된 이후에나 수학계에서 성별에 관한 쟁점들이 공론화되었습니다. 하지만 1990년대 초까지 여전히 여성들은 수학계에서 힘든 시간을 보냈고, 여성 수학자의 수가 늘지 않았습니다. 그래서 울렌벡은 다른 여성 수학자들과 IAS의 Park City Mathematics Institute에서 평등에 관한 연구협의회를 열었으며 현재까지도 계속 이어져 오고 있습니다. 울렌벡은 지금은 예전에 비해 눈에 띄는 불평등은 없어졌지만, 여전히 여성들이 육아와 연구의 병행에 어려움을 겪는 등 많은 문제가 남아있다고 이야기합니다. 울렌벡은 앞으로 여성 수학자들의 수가 더욱 늘어나고, 지도력에 있는 위치에 오르기를 원한다고 말합니다.

최경수
매사추세츠 공과대학교 수학과 강사