MBTI와 기약분수 : 분류 문제
예전에는 혈액형으로 사람의 성격을 네 가지로 분류하던 적이 있었습니다. 지금은 시대가 바뀌어 $16$개의 성격으로 구분하는 것이 유행하고 있습니다. $16$개도 수십억의 사람들을 모두 정확하게 분류하기에 충분하지는 않겠지만, 우리는 서로 “MBTI가 어떻게 되세요?”라고 질문하고, 나와 같은 유형의 사람을 만나면, “우리는 같은 부류의 사람이야”라며 동질감을 느끼기도 합니다.
사실 우리가 수학 시간에 가장 먼저 배운 `분류’는 초등학교때 배운 분수입니다. 초등학교 $3$학년은 $\frac{1}{3}$과 $\frac{2}{6}$은 서로 다른 숫자라고 배웁니다. 피자를 $6$조각으로 등분한 것 중 $2$조각과 $3$조각으로 등분한 것 중 $1$조각은 모양이 다르기 때문입니다. 하지만, $2$년이 지나서 $5$학년이 되면 사실은 $\frac{2}{6}$와 $\frac{1}{3}$의 크기가 같다고 배우고, 심지어는 $\frac{1}{3}=\frac{2}{6}$이라고 씁니다. 모양은 달라도 크기는 같으니 이 두 숫자를 같은 수라고 부르는 것입니다. $\frac{1}{3}=\frac{2}{6}=\frac{3}{9}=\cdots$ 중에서 기약분수 $\frac{1}{3}$을 대표선수로 생각하면 됩니다. 사실 두 분수 $\frac{b}{a}$와 $\frac{d}{c}$에 대해서, $ad=bc$이면 $\frac{b}{a}=\frac{d}{c}$가 성립합니다. 이때, $\frac{b}{a}$와 $\frac{d}{c}$는 초등학교 3학년때 배웠던 정의에 따르면 분명히 다른 숫자인데, `같다’라는 의미의 등호관계를 사용하고 있습니다.
`같다’는 것의 수학적 정의 : 동치 관계
분수의 크기가 같음을 대학교 3학년 대수학 시간의 용어로 쓸 수 있습니다. $ad=bc$라는 관계는 동치 관계equivalence relation이고, 두 분수는 동치equivalent이고, $\frac{b}{a}\sim\frac{d}{c}$라 쓰는데 이 기호 대신에 $\frac{b}{a}=\frac{d}{c}$라 써도 무방한 것입니다. 그리고, $\frac{1}{3}$과 동치인 분수들 중에서 기약분 $\frac{1}{3}$이 대표주자라고 이해할 수 있겠습니다. 하지만, $\frac{1}{3}$과 $\frac{3}{4}$은 동치가 아니기 때문에, $\frac{3}{4}$은 다른 형태의 대표주자가 됩니다.
동치 관계는 다음의 세 조건을 만족하면 됩니다. 반사적($A\sim A$)이고, 대칭적($A\sim B$이면 $B\sim A$)이고, 추이적($A\sim B$, $B\sim C$이면, $A\sim C$)입니다. 앞서 설명한 분수는 동치 관계가 됨을 쉽게 확인할 수 있습니다. 그래서 모양이 다른 물체들 사이의 동치 관계를 정의할 수 있으면, 우리는 그 물체들을 분류할 수 있습니다.
이야기의 시작 : 복소영역
이제 본격적으로 오늘 이야기를 시작하려고 합니다. 16세기에 여러 대수방정식의 해를 구하는 과정에서 실수 이외의 수의 필요성이 대두되면서, 허수 $i=\sqrt{-1}$에 관심을 갖기 시작했습니다. 복소수 $z=x+iy$를 $xy$-평면의 점 $(x,y)$에 대응하여 $xy$-평면을 복소평면complex plane이라고도 합니다. $x,y$를 변수로 보면, 실 $2$차원 공간 $\mathbb{R}^2$이 되고, $z$를 변수로 보면 복소 $1$차원 공간 $\mathbb{C}$가 됩니다.
실함수의 미분 가능성을 논할 때 끝점을 포함하지 않은 열린구간open interval에서 설명합니다. 복소평면에서는 중요한 부분집합이 바로 열린집합open set입니다. 정의를 엄밀하게 해야하지만, 직관적으로 경계를 포함하지 않은 영역으로 생각해도 됩니다. 여기에 연결성을 추가하여 연결된 열린집합open connected set을 영역domain이라 합니다.
복소평면의 집합임을 강조하기 위해 복소영역complex domain이라고도 합니다. 예를 들면, 원의 내부, 삼각형의 내부, 사각형의 내부, 도넛 모양의 집합 등 수없이 많은 복소영역들이 있습니다.
확대와 선형 근사 : 미분가능 함수
먼저 우리에게 익숙한 실함수 $f:\mathbb{R}\rightarrow\mathbb{R}$의 그래프 $y=f(x)$는 $xy$-평면에 그려서 연속성과 미분 가능성을 관찰합니다. 여기에서 `미분 가능하다’는 것은 무엇을 의미할까요? 매끄러운 곡선? 접선이 존재하는 함수? 모두 맞는 말이지만, 가장 본질적인 의미는 바로 `확대’를 이해해야 합니다. $y=f(x)$의 미분 가능한 점 근방을 크게 확대해보면, 구부러진 곡선이 점점 펴져서 직선에 가까워집니다. 그 직선이 바로 접선이며 그때의 기울기가 $f'(x)$가 됩니다. 그래서, 그 점에서 $x$가 아주 조금 $dx$만큼 변할 때 $y=f(x)$의 그래프가 국소적으로 직선이 되기 때문에, $y$가 변하는 양은 $dy=f'(x)dx$가 됩니다. 이것은 미적분학 시간에 배우는 국소적 선형근사locally linear approximation입니다.
이번에는 정의역의 차원만 $1$개를 높여서 생각해봅시다. 즉 $f:\mathbb{R}^2\rightarrow\mathbb{R}$의 그래프는 $3$차원에서 곡면이 됩니다. 앞서 설명한 국소적 선형근사 기법을 생각해보면, $z=f(x,y)$의 미분 가능한 점 근방을 크게 확대해보면 평면이 됩니다. 여기에서 $z$는 복소수가 아니라 실수입니다.
그런데, 1차원과 달리 변수가 $x$와 $y$ 두 개이므로, 기울기를 구하려면 방향을 나누어 생각해야 하는데, 여기에서 필요한 것이 바로 편미분partial derivative입니다. 하나의 변수를 상수로 고정하고, 다른 변수의 방향으로만 변할때의 변화율을 측정하는 값입니다. 즉, $y$를 고정하고 $x$ 방향으로의 변화율을 $f_x(x,y)$라 하고, 반대로 하면 $f_y(x,y)$를 구할 수 있습니다. 따라서 $(x,y)$가 아주 조금 $(dx,dy)$만큼 변할 때 $x$방향으로 변하는 양인 $f_x(x,y)dx$와 $y$방향으로 변하는 양인 $f_y(x,y)dy$가 더해집니다. 결과적으로 $z$가 변하는 양은 $dz=f_x(x,y)dx+f_y(x,y)dy$가 됩니다.
실 미분 vs 복소 미분 : 등각사상
이제 차원을 높여서 이변수함수 $f:\mathbb{R}^2\rightarrow\mathbb{R}^2$와 복소함수 $f:\mathbb{C}\rightarrow\mathbb{C}$를 생각해 봅시다. 구체적으로 $f(x,y)=(u,v)$와 $f(z)=w$라 하고, $z=x+iy$라고 쓰는 것처럼 $w=u+iv$라고 하면 됩니다. 그런데, 이 두 함수들의 그래프는 실수 $4$차원이 되어 종이 위에 `하나의 평면에’ 그릴 수 없습니다. 그래서, 어쩔수 없이 두 개의 평면으로 그려야 합니다. 두 함수의 `미분 가능하다’는 것을 비교해보겠습니다.
먼저 $f(x,y)=(u,v)$가 미분 가능하면, $u$와 $v$ 모두 미분 가능한 함수입니다. 국소적 선형근사 기법을 다시 한번 적용하면,
\begin{align*}
&du=u_xdx+u_ydy\\
&dv=v_xdx+v_ydy
\end{align*}
가 되고, 이를 행렬로 표현하면
$$
\begin{pmatrix}
du\\dv
\end{pmatrix}
=
\begin{pmatrix}
u_x & u_y\\
v_x & v_y
\end{pmatrix}
\begin{pmatrix}
dx\\dy
\end{pmatrix}=J\begin{pmatrix}
dx\\dy
\end{pmatrix}
$$
가 됩니다. 이때, 행렬 $J$를 야코비 행렬Jacobi matrix이라 합니다.
드디어 복소함수 $f(z)=w$ 차례입니다. 극한
$$f'(z)=\lim_{h\rightarrow0}\frac{f(z+h)-f(z)}{h}$$
이 존재하면, 복소함수 $f(z)=w$가 미분 가능이라고 합니다. 복소수 $h$가 실수축을 따라 $0$으로 다가가면, $f'(z)=u_x+iv_x$가 됩니다. 또한, $h$가 허수축을 따라 $0$으로 다가가면, $f'(z)=\frac{1}{i}(u_y+iv_y)=v_y-iu_y$가 됩니다. 극한값은 유일하기 때문에, 두 값을 비교하여 $u_x=v_y$, $u_y=-v_x$가 성립함을 알 수 있습니다. 이 식은 코시-리만 방정식Cauchy-Riemann equations이라 합니다. (이 부분은 복소해석학 책을 보면 더 자세히 이해할 수 있습니다) 그러면 야코비 행렬은 적당한 $\theta$에 대해
$$
J=\begin{pmatrix}
u_x & -v_x\\
v_x & u_x
\end{pmatrix}
=\sqrt{u_x^2+v_x^2}
\begin{pmatrix}
\cos\theta & -\sin\theta\\
\sin\theta & \cos\theta
\end{pmatrix}
$$
가 되어 회전변환과 확대/축소 변환의 합성이 됩니다. 이제 실 미분과 복소 미분을 비교할 수 있습니다. 실 미분은 영역을 모든 방향으로 `매끄럽게만’ 변환하면 됩니다. 하지만, 복소 미분은 오직 `회전과 확대/축소’만 가능하기 때문에 모양은 변함없이 보존됩니다. 결국 복소함수의 미분가능성은 국소적으로 평면이면서 동시에 각도까지 보존해야 합니다. 이러한 성질을 등각성conformal이라 합니다. 그래서, $f'(z)\neq0$이면 미분 가능한 복소함수는 항상 등각사상conformal mapping이 됩니다. 국소적으로 모양이 보존된다….이제 복소영역의 동치 관계를 정의할 준비가 끝났습니다.
복소영역의 분류 : 쌍정칙사상
이제 본격적으로 복소영역들을 분류해보려고 합니다. 이를 위해서는 분수에서 $\frac{1}{3}$과 $\frac{2}{6}$가 다르지 않고, `같다’라고 보는 것처럼 형태는 다른 두 영역이 `동치’임을 판별할 기준 및 정의가 필요합니다.
복소영역 $D_1$과 $D_2$가 `같다’라고 하려면 어떤 조건이 필요할까요? 가장 먼저 두 영역의 점들을 하나도 빠짐없이 짝지을 수 있는 일대일 대응bijective 함수 $f:D_1\rightarrow D_2$가 존재해야 할 것 같습니다. 그리고, 복소 구조를 보존하려면 미분가능성이 필수적입니다. 즉, $f$와 역함수 $f^{-1}$도 모두 복소 미분가능complex differentiable해야합니다. 이는 미적분학 시간에 배운 역함수 정리와 밀접한 관련이 있습니다. 함수 $f$가 미분 가능하고 미분계수가 $0$이 아니면 그 역함수 역시 미분 가능합니다. 복소함수에서도 이 논리는 성립합니다.
정리하자면, 우리는 다음 조건을 만족하는 복소함수 $f$가 존재할 때 두 영역 $D_1$과 $D_2$를 정칙 동치biholomorphically equivalent라고 정의합니다.
[1] 일대일 대응 : $f$는 $D_1$에서 $D_2$로 가는 전단사함수이다.
[2] 정칙성 : $f$는 정칙함수holomorphic function이다.
[3] 역함수의 정칙성 : 역함수 $f^{-1}$도 정칙함수이다. (이는 $f'(z)\neq0$을 의미하기 때문에 등각함수가 됩니다)
이러한 함수 $f$를 쌍정칙함수biholomorphic function라 하고, 이것이 바로 두 복소영역들 사이를 연결해주는 동치 관계를 정의합니다. 복소해석학 책을 보면, analytic function 또는 holomorphic function 모두 사용합니다. analytic해석적은 급수 전개가 가능하다는 뜻이고, holomorphic정칙은 우리가 지금 설명하고 있는 복소 미분 가능하다는 뜻입니다. 그런데, 복소함수에서는 두 개념이 동치임이 증명되어 있습니다. 특히 다변수 복소함수에서는 holomorphic을 훨씬 더 많이 사용합니다.
복소영역의 기약분수 : 단위원판Unit disk
앞서 말한 것처럼 실함수에서는 열린구간이 중요한 역할을 합니다.
그렇다면 복소함수에서는 무엇이 그 역할을 할까요?
복소해석학 책을 펼쳐보면 가장 많이 보이는 도형은 바로 `원circle‘입니다. 그 중에서도 가장 먼저 주목해야 할 영역은 중심이 원점이고, 반지름이 $r$인 원의 내부, 즉 원판disk입니다. 즉, $\Delta_r:=\{z\in\mathbb{C} : |z|<r\}$인데, 여기에서 $|z|$는 원점에서 복소수 $z$까지의 거리입니다.
재미있는 것은 모든 양수 $r$에 대해서, $\Delta_1$과 $\Delta_r$은 정칙 동치입니다. 이유는 간단합니다. $f(z)=rz$라는 함수를 생각하면, 확대/축소하여 다른 원판으로 보내는 일대일 대응 함수이며, 미분 가능한 정칙함수입니다. 역함수 역시 정칙함수임은 자명해 보입니다.
따라서, $\Delta_r$들 중에서는 단위원판unit disk이라 불리우는 $\Delta_1$가 $\frac{1}{3}$과 같은 기약분수 역할을 하며, 대표모델이라 할 수 있습니다.
그렇다면 원판이 아닌 영역들은 어떨까요? 정삼각형이나 정사각형처럼 각진 도형의 내부도 부드러운 단위원판과 같아질 수 있을까요? 무한히 뻗어나가는 상반평면 $H=\{z=x+iy\in\mathbb{C} : y>0\}$은 어떻게 될까요? 가운데 구명이 뚫린 도넛 모양이나 타원도 단위원판과 정칙 동치가 될 수 있을까요?
리만의 주장 : 리만 사상 정리
수학에 관심이 있는 분이라면 한번쯤은 리만가설Riemann hypothesis을 들어보셨을 겁니다. 소수prime number의 분포를 복소함수인 리만 제타 함수Riemann zeta function의 성질과 연관지은 내용입니다. 이 가설의 주인공은 게오르크 프리드리히 베른하르트 리만Georg Friedrich Bernhard Riemann, 1826-1866인데 1859년에 제시한 리만가설은 아직까지도 해결되지 않은 중요한 가설입니다. 리만은 리만적분, 리만기하학 등 많은 분야에 영향을 끼쳤지만, 복소해석학에 가장 큰 영향을 끼친 것은 1851년 박사학위 논문에서 주장한 리만 사상 정리Riemann mapping theorem입니다. 내용은 다음과 같습니다.
복소평면 전체가 아닌 모든 단순연결영역은 단위원판과 정칙 동치 관계이다.
여기에서 단순연결영역simply connected domain은 영역의 내부에 구멍이 없는 영역이라 생각해도 괜찮습니다. 리만의 주장에 따르면, 구멍만 없으면 영역의 경계의 모양과 상관없이 항상 단위원판과 정칙 동치가 됩니다. 정말 아름다운 정리입니다.
리만의 주장이 사실이라는 근거로 구체적인 두 가지 예를 설명하겠습니다.
무한을 유한으로 : 상반평면과 케일리 변환
앞서 설명한 $f(z)=rz$와 같은 확대/축소를 제외하면, 모양이 다른 두 영역 사이의 쌍정칙함수를 구체적인 수식으로 찾아내는 것은 쉬운 일이 아닙니다. 존재성과는 다른 문제입니다.
첫번째 복소영역은 상반평면입니다. 허수부분이 양수인 복소수들의 집합인 상반평면 $H=\{z=x+iy\in\mathbb{C} : y>0\}$은 무한히 뻗어나가는 영역입니다. 놀랍게도 단위원판 $\Delta_1=\{z\in\mathbb{C}:|z|<1\}$과 상반평면 $H$는 정칙 동치가 됩니다. 단위원판은 유한bounded 영역이고, 상반평면은 무한unbounded 영역입니다. 더욱 믿기 힘든 사실은 쌍정칙함수까지 구체적인 함수로 만들 수 있다는 점입니다. 케일리 변환Cayley transform이라 부르는 선형 분수 변환 $f(z)=\dfrac{z-i}{z+i}~$를 통해 정칙 동치가 된다는 사실을 설명할 수 있습니다.
[1] 경계의 이동 (실수축 $\rightarrow$ 단위원) 만약 $z$가 실수축 위의 점($z=x)$이면, $i$와 $-i$가 대칭이므로, $x$에서 $i$와 $-i$까지의 거리가 같습니다. 따라서, $|f(z)|=\dfrac{|x-i|}{|x+i|}=1$이 됩니다. 즉, $f$는 실수축을 단위원으로 보내는 일대일대응함수입니다.
[2] 내부의 이동 (상반평면 $\rightarrow$ 원판) 한편, $f(i)=0$이므로, $f:H\rightarrow \Delta_1$가 되고, 간단한 계산에 의해 $f$가 쌍정칙함수가 됨을 확인할 수 있습니다.
[3] 역함수도 계산할 수 있으며, 미분 가능합니다.
결론적으로 상반평면과 단위원판이 정칙 동치가 되기 때문에, 상반평면을 친숙한 단위원판으로 바꿔서 연구할 수 있게 됩니다.
원을 다각형으로 : 다각형과 슈바르츠-크리스토펠 변환
앞서 설명한 케일리 변환은 무한히 뻗어 있는 실수축 직선을 부드럽게 구부려서 원판의 경계인 원으로 보내는 사상이었습니다. 그렇다면, 직선을 둥글게 구부리는 대신, 몇 군데에서 꺾어서 닫힌 도형을 만든다면, 다각형을 만들 수 있지 않을까요? 이것이 바로 잘 알려진 슈바르츠-크리스토펠 변환Schwarz-Christoffel transformation입니다.
사실 이 변환은 직선이 한 번 꺾이는 원리만 이해하면 충분합니다. 이해를 돕고자 90도로 꺾이는 상황을 예를 들어 설명하겠습니다. 여기에서 중요한 아이디어는 함수 $w=f(z)$가 아니라 변화량인 $dw=f'(z)dz$를 제어한다는 것입니다. 이는 우리가 앞서 설명했던 국소적 선형근사인 $dy=f'(x)dx$의 아이디어를 복소평면으로 가져온 것과 같습니다. 일변수에서는 기울기를 통한 `크기 변화’를 의미하지만, 복소평면에서는 복소수 곱셈의 성질 때문에 `회전(방향 전환)‘을 의미하게 됩니다. 복소수에는 원점을 중심으로 회전하는 각도를 뜻하는 편각argument, arg이라는 개념이 있는데, 두 복소수를 곱하면 편각은 더해지는 성질을 만족합니다.
그러면 $dw=f'(z)dz$를 편각의 관점으로 보겠습니다. $z$가 실수축에서 움직일 때 $dz$는 항상 실수이므로 편각 $\arg dz=0$입니다. 따라서, $\arg dw=\arg f'(z)+\arg dz=\arg f'(z)$가 됩니다. 그래서, $w$의 움직임은 $f'(z)$의 편각의 변화에 의해 결정됩니다.
이제 실수 $a$에 대해 $f'(z)=(z-a)^{-1/2}$인 경우를 생각해보면, 실수축에서 $z$가 $a$를 지날 때, $w$가 90도 꺾이는 변환이 됩니다. 이유는 다음과 같습니다.
$z<a$인 실수이면, 예컨대 $z-a=-1$이면 $f'(z) = \frac{1}{i} = -i$여서 편각이 $-90$도이므로 $\arg f'(z)=-\frac{\pi}{2}$가 되고, $z>a$인 실수이면,
예컨대 $z-a=1$이면 $f'(z) = 1$이어서 편각이 $0$도이므로 $\arg f'(z)=0$가 됩니다. 즉, $z$가 실수축을 따라서 움직일 때, $a$를 지나는 순간, $w$는 직선으로 움직이다가 반시계방향으로(왼쪽으로) 90도만큼 꺾은 후에 다시 새로운 직선을 따라서 이동하게 됩니다.
드디어 90도 회전방법을 네 번 사용하면 정사각형을 만들 수 있습니다.실수축 위의 점 $\pm1,\pm1/k$에서 꺾이도록
$
f'(z)=(z-1)^{-1/2}(z+1)^{-1/2}(z-1/k)^{-1/2}(z+1/k)^{-1/2}
$
인 경우, 즉
$$
f'(z)=\frac{k}{\sqrt{(1-z^2)(1-k^2z^2)}}
$$
을 생각해볼 수 있고, 이 때 $f(z)$를 구하려면 이 식의 부정적분을 계산하면 됩니다.
하지만, 재미있는 것은 이 함수의 부정적분은 기본함수(다항식, 삼각함수, 지수함수 등)로 표현할 수 없는 타원적분elliptic integral이라는 점입니다. 이와 같이 우리는 기본함수는 아니더라도 적분 형태로 상반평면(혹은 단위원판)과 다각형 내부 영역 간의 쌍정칙함수를 구할 수 있었습니다. 케일리 변환을 활용하여 원을 직선으로 보내고, 다시 슈바르츠-크리스토펠 변환을 통해서 다각형으로 정칙 동치를 설명할 수 있다는 점이 매우 흥미롭습니다.
푸앵카레의 발견 : 리만 사상 정리 증명의 완성과 배신
사실 리만은 1851년에 박사학위 논문에서 이 정리를 주장했지만, 증명에 약간의 헛점이 있었습니다. 20세기에 들어서면서 오스굿William Fogg Osgood, 1864-1943이 중요한 진전을 이루었고, 1907년에 쾨베Paul Koebe, 1882-1945와 푸앵카레Henri Poincaré, 1854-1912가 각각 독립적으로 증명을 완성하였습니다. 특히 푸앵카레는 리만의 아이디어를 일반화하여 uniformization theorem 을 완성합니다. 이 정리는 모든 1차원 복소 다양체는 평면plane, 구shpere, 원판disk 뿐이라는 것인데, 이는 각각 유클리드 기하학, 구면 기하학, 쌍곡 기하학과 관련됩니다.
그렇다면, 다변수복소공간에서도 리만사상정리 또는 그와 비슷한 정리가 존재하면 상황이 간단해질 수도 있습니다. 일변수 복소공간의 완성인 리만사상정리를 마무리한 푸앵카레는 사실 다변수복소함수론에 의미를 부여한 수학자이기도 합니다. 그가 생각했던 다음과 같은 영역을 생각해 보겠습니다. $\mathbb{C}^2$에서 다음과 같이 정의된 영역 $D_1$과 $D_2$를 정의합니다.
\begin{align*}
D_1:=\{(z_1,z_2)\in\mathbb{C}^2:|z_1|^2+|z_2|^2<1\},\quad
D_2:=\{(z_1,z_2)\in\mathbb{C}^2 : |z_1|<1,~|z_2|<1\}.
\end{align*}
불행히도, 복소 2차원부터는 실변수로 4차원 이상이므로 종이에 영역의 형태를 그릴 수 없고, geogebra나 desmos를 활용해도 이해할 수 없습니다. 비록 그림은 그릴수는 없지만, $D_1$과 $D_2$는 각각 원과 정사각형 모양이 떠오릅니다. 그렇다면, 앞서 설명했던 슈바르츠-크리스토펠 변환처럼 정칙 동치가 될까요? 하지만, 놀랍게도 답은 “NO!!”입니다.
일반적으로 두 영역이 정칙동칙이면 성립하는 성질을 찾아봅시다. 영역 $D\subset\mathbb{C}^n$에 대해서, $D$의 자기동형군automorphism group을
${\rm{Aut}}(D)=\{f:D\rightarrow D~|~f 가 쌍 정칙사상\}$
와 같이 정의합니다. 이는 두 함수의 합성 $\circ$에 대해서, 군group이 됩니다.
두 영역 $D_1,D_2$에 대해서 쌍정칙사상 $\varphi:D_1\rightarrow D_2$가 존재한다고 합시다. 그러면, $f\in{\rm{Aut}}(D_1)$에 대해서, $\varphi\circ f\circ\varphi^{-1}\in{\rm{Aut}}(D_2)$가 되는 것은 쉽게 확인할 수 있습니다. 즉,
$F:{\rm{Aut}}(D_1)\rightarrow {\rm{Aut}}(D_2)$, $F(f)=\varphi\circ f\circ\varphi^{-1}$
는 군 동형사상이 되므로, 두 자기동형군의 성질이 같아야 합니다.
두 개의 동형인 군은 같은 성질이 많습니다. 예를 들어 두 개의 군의 차원dimension이 같아야 합니다.
구체적으로 자기동형군의 형태를 계산하는 대신에 실차원real dimension만 계산해보겠습니다. 먼저 단위원판의 경우에는 임의의 점을 원점으로 보내고(2차원), 회전(1차원)하면 되기 때문에 3차원입니다. 그래서, $D_2$는 $z_1$과 $z_2$가 독립적으로 단위원판을 이루는 경우와 같기 때문에 ${\rm Aut}(D_2)$의 실차원이 $3+3=6$차원이 됩니다. 하지만, $D_1$은 조금 다릅니다. 임의의 점을 원점으로 보내고(4차원), 복소2차원 구의 회전(4차원)을 생각하면, ${\rm Aut}(D_1)$의 실차원이 $4+4=8$차원이 됩니다. 따라서, $D_1$과 $D_2$는 정칙동치가 되지 않습니다.
사실 임의의 $n$차원에 대해서, 단위구($D_1$)의 자기동형군의 차원은 $2n+n^2$이 되고, 다중원판($D_2$)의 경우는 $3n$이 됩니다. $n$이 커질수록, 둘의 차이가 점점 커진다는 것을 알 수 있습니다.
푸앵카레의 이러한 발견으로 다변수 복소해석학several complex variables, SCV은 1차원과는 전혀 다른 세계가 펼쳐집니다.
구멍이 사라지다 : 하르톡스 현상Hartogs phenomenon
사실 다변수 복소공간 $\mathbb{C}^n$이 복소평면과는 다른 성질을 갖는다는 것은 비슷한 시기인 1906년에 프리드리히 하르톡스Friedrich Hartogs, 1874-1943에 의해 발견되었습니다. 이를 하르톡스 현상Hartogs phenomenon이라고 하는데, 쉬운 경우로 설명하겠습니다.
복소평면에서 극점pole은 제거할 수 없습니다. 극점이란 함수값이 무한대로 발산하는 경우입니다. 예를 들어 $f(z)=1/z$라는 함수는 원점을 제외한 모든 점에서 미분 가능한 정칙함수이지만, 원점에 다가갈수록 함수값은 무한대로 발산합니다. 이때 원점 주변에서는 다른 극점이 존재하지 않는데, 이처럼 일변수 복소함수에서는 극점pole이나 영점zero이 항상 고립되어isolated 나타나는 성질이 있습니다. 여기서 영점이란 $f(z)=0$이 되는 점 $z$를 뜻합니다.
이제 다변수복소공간에서는 어떤 현상이 생길까요? 일변수처럼 영역의 구멍이 중요한 역할을 할까요? 이 질문에 대한 답이 하르톡스 현상Hartogs phenomenon입니다. $n\geq2$에 대해서 $\mathbb{C}^n$의 영역 $D$에 포함되는 콤팩트compact 집합 $K$를 생각해 봅시다. 예를 들어 $K$가 점 한 개로 이루어진 경우를 생각해 볼 수 있습니다. 그러면, 놀랍게도 하르톡스 현상에 따르면, $D\setminus K$에서 정의되는 모든 정칙함수는 $D$에서 정칙인 함수로 (유일하게) 확장됩니다.
사실 이 현상은 정칙함수의 영점zero의 성질과 관련이 있습니다. 일변수에서는 상수가 아닌 정칙함수의 영점은 고립isolated되어 있습니다. 하지만, 다변수에서는 그렇지 않습니다. 예를 들어, 정칙함수 $f(z)=z_1^2+z_2^2$의 영점들의 집합은 $\{(z_1,\pm iz_1):z_1\in\mathbb{C}\}$이므로, 4차원 공간 안에 들어있는 2차원 평면과 같은 연결된 집합이 됩니다.
다시 하르톡스 현상을 쳐다보겠습니다. 일변수에서는 영점이 고립되어 있기 때문에 영점 $z_0$이 정칙함수 $f(z)$의 영점이라 할때, $z_0$을 극점으로 갖는 함수 $1/f(z)$는 절대 $z_0$에서 정의될 수 없습니다. 하지만, 다변수에서는 영점이 고립되어 있지 않기 때문에, 어떠한 콤팩트 집합으로도 가둘 수 없습니다. 결과적으로 일변수에서처럼 특정 점이나 부분영역에서만 정의되지 않는 함수를 억지로 만들어낼 수 없으며, 이것이 바로 하르톡스 현상의 근본적인 이유가 됩니다.
따라서, 다변수 복소 공간은 내부는 걱정하거나 고민할 필요가 없고, 오직 경계에만 집중하면 됩니다. 일변수보다 더 단순해 보일 수 있지만, 우리가 만날 벽은 이제부터 시작입니다.
함수가 정의되는 영역 : 정칙영역과 의사볼록영역
다변수복소공간에서는 하르톡스 현상처럼 정칙함수의 정의역이 확장될 수 있습니다.
이때, 어떤 정칙함수가 있어서 그 영역에서는 잘 정의되고, 정의역을 더이상 확장할 수 없는 영역의 개념이 필요하겠습니다. 이러한 영역을 정칙영역domain of holomorphy이라 합니다.
그러면 어떤 영역이 정칙영역이 되겠는가? 레비 문제Levi problem라 알려졌던 이 문제는 매우 어려운 문제였습니다. 이때 등장한 개념이 바로 의사볼록영역pseudoconvex domain입니다. 기하적으로 볼록geometrically convex인 영역은 임의의 실수 직선(식으로 표현하면 $z=a+bt$, 단 $t$는 실수)으로 찔러보았을 때 만나는 단면이 끊기지 않고 하나의 이어진 선분이 됩니다. 하지만, 이 조건을 조금 약화시켜서 모든 방향의 선을 확인하는 것이 아니라 복소 직선(식으로 표현하면 $z=a+b\zeta$, 단 $\zeta$는 복소수) 방향으로 영역을 잘라내서 생기는 2차원 단면들이 볼록한 성질을 유지하면, 우리는 의사볼록영역이라 합니다. 정확한 정의는 복잡해서 여기는 설명을 줄이겠습니다. 중요한 점은 기하적으로 볼록인 영역은 항상 의사볼록영역이지만, 그 역은 성립하지 않습니다.
| 복소 2차원 공간에서 다음과 같이 정의된 영역 $D$를 생각해봅시다. $$ D=\{(z_1,z_2)\in\mathbb{C}^2 : |z_1|<1, |z_2|<1, |z_1z_2|<0.1\} $$ 이 영역 $D$의 두 점 $(0.9,0)$과 $(0,0.9)$의 중점인 $(0.45,0.45)$는 $D$에 속하지 않으므로, 볼록영역이 되지 않습니다. 그러나, 함수 $f(z_1,z_2)=1/(0.1-z_1z_2)$는 경계면 $|z_1z_2|=0.1$에서 함수값이 무한대로 발산하여 이 경계면 바깥으로 확장될 수 없습니다. (나머진 경계인 $|z_1|=1$과 $|z_2|=1$에서도 비슷하게 확장을 막을 수 있습니다.) 결과적으로 이 영역은 정칙영역이 됩니다. 그런데, 아래에서 설명할 오카의 업적을 적용하면 의사볼록영역이 됩니다. |
기요시 오카Kiyoshi Oka, 1901-1978가 1940년대 초반에 전혀 상관없을 것 같은 두 개념인 정칙영역과 의사볼록영역이 사실은 동치가 된다는 것을 증명하였습니다. 그래서, 복잡한 함수의 존재성을 연구하는 문제는 경계의 모양만 확인하는 것으로 바뀝니다. 이제 다변수복소해석학에서는 의사볼록영역에만 집중하면 됩니다.
완벽한 대칭 : 유계대칭영역과 유계동질영역
오카의 업적 덕분에 우리는 의사볼록영역은 항상 정칙함수를 갖는다는 것을 알게 되었습니다. 마지막으로 의사볼록영역 중에서 아름다운 대칭구조를 갖는 영역을 설명하려고 합니다. 이를 위해서 두 개의 핵심 정의를 소개합니다.
[1] 유계동질영역bounded homogeneous domains: 영역 내부가 얼마나 동등한지 살펴봅니다. 영역 $D$의 임의의 두 점 $p,q\in D$에 대해서, $f(p)=q$를 만족하는, 즉 $p$를 $q$로 보내는 $D$의 자기동형사상 $f\in {\rm{Aut}}(D)$가 존재하면 영역 $D$를 유계동질영역이라 정의합니다. 유계동질영역에서는 한 점의 정보만 알면 다른 모든 점에서의 정보는 $f$를 통하여 얻을 수 있습니다.
[2] 유계대칭영역bounded symmetric domains: 여기에서 말하는 대칭은 `점대칭’입니다. 정확히는 임의의 점 $p\in D$에 대해서, $p$만 고립된 고정점isolated fixed point으로 갖고, $f\circ f$가 항등함수가 되는 $f\in {\rm{Aut}}(D)$ 가 존재하면 영역 $D$를 유계대칭영역이라 정의합니다.
예를 들면, 단위원판은 유계동질영역도 되고, 유계대칭영역도 됩니다. 이 사실은 선형 분수 변환인 $\varphi_a(z)=\frac{a-z}{1-\overline{a}z}$의 성질로부터 나옵니다. $\varphi_a(z)$는 단위원판의 자기동형사상이 되고, $a$와 $0$을 교환합니다.
먼저 임의의 점 $p,q$에 대해서, $\varphi_q\circ\varphi_p$는 $p$를 $q$로 보내는 단위원판의 자기동형사상이기 때문에 유계동질영역이 됩니다. 그리고, 원점에 대한 점대칭 사상을 $\tau(z)=-z$라 하면, $\varphi_{a}^{-1}\circ\tau\circ\varphi_a$는 점 $a$를 중심으로 대칭사상이 됩니다. 따라서, 단위원판은 유계대칭영역도 됩니다.
흥미로운 사실은 모든 유계대칭영역은 유계동질영역이 됩니다. 임의의 $p,q\in D$에 대해서, $p$와 $q$를 연결하는 최단 경로geodesic을 생각하고 그 경로의 중점 $r\in D$을 선택합니다. (이 부분은 더 깊은 설명이 필요합니다) 영역 $D$가 점대칭영역이면, $r\in D$에서의 점대칭사상은 $p$를 $q$로 보냅니다. 따라서, 모든 유계대칭영역은 항상 유계동질영역이 됩니다.
그러면 모든 유계동질영역은 유계대칭영역이 될까요? 그렇지 않습니다. 1959년, 피아테츠키-샤피로Ilya Piatetski-Shapiro, 1929-2009가 복소 4차원의 영역 중에서 유계동질이지만, 유계대칭이 되지 않는 영역을 발견하였습니다. 즉, 유계동질영역이 유계대칭영역보다 훨씬 많습니다.
그렇다면, 유계대칭영역이나 유계동질영역은 의사볼록영역이 될까요? 1950년대에 하리시-찬드라Harish-Chandra, 1923-1983는 모든 유계대칭영역은 적절한 좌표 변환을 통하여 볼록영역convex domain으로 구현할 수 있음을 설명했습니다. 볼록영역은 항상 의사볼록영역이 됩니다. 유계동질영역의 경우에도 비슷한게 설명할 수 있는데, 이 경우에는 의사볼록영역이지만, 볼록영역은 아닐 수도 있습니다.
마지막 질문입니다. 얼마나 많은 유계대칭영역이 존재할까요? 이는 1930년대부터 1950년대까지 다음과 같이 정리되었습니다. 먼저 엘리 카르탕Élie Cartan, 1869-1951이 추상적인 대칭공간들을 4개의 고전적 유형classical type과 2개의 예외적 유형exceptional type으로 완벽하게 분류하였습니다. 앞서 언급되었던 하리시-찬드라는 이 추상적인 공간들을 우리 눈에 보이는 유계볼록영역으로 구체화realization하였습니다. 마지막으로 중국의 수학자 화뤄겅Hua Loo-Keng, 1910-1985은 행렬의 집합을 이용하여 이 공간들의 해석학적 성질을 구체적인 수식으로 계산하였습니다.
가장 대표적인 제1형Type I 영역을 예로 들어보겠습니다. 이는 $I-Z\overline{Z}^t$가 양의 정부호positive definite인 복소 $p\times q$ 행렬 $Z$들의 집합으로 구체화되었습니다. 이때, $p=q=1$이면 우리가 잘 아는 단위원판이 되고, $p=1$, $q=n$이면 복소 $n$차원 단위구 $\{z\in\mathbb{C}^n : |z_1|^2+\cdots+|z_n|^2<1\}$ 가 됩니다.
마무리하며
본 글에서는 리만 사상 정리에서 출발하여 하르톡스 현상으로 대변되는 일변수와 다변수 복소해석학의 본질적인 차이를 살펴보았습니다. 정칙영역의 성질과 복소영역의 분류 문제로 이어지는 의사볼록성과 대칭성도 설명했습니다.
오늘날 다변수복소해석학several complex variables, SCV은 단순히 독자적인 이론을 구축하는 데 그치지 않고, 현대 수학의 중요한 중심 역할을 하고 있습니다. 복소 다양체의 구조를 탐구하는 복소기하학과 대수기하학의 토대가 되고, 편미분방정식의 이론은 $\overline{\partial}$-방정식에 적용할 수 있습니다. 또한, 유계대칭영역에 관한 연구는 정수론 및 수리물리학과도 깊이 연결되어 있습니다.
이렇게 해석학, 기하학, 대수학이 교차하는 곳에서 다변수복소해석학은 여전히 활발한 연구와 새로운 발견이 이어지고 있습니다. 구체적으로 베르그만 핵함수Bergman kernel function, $\overline{\partial}$-노이만 문제$\overline{\partial}$-Neumann problem, $L^2$-확장 정리$L^2$-extension theorem, 복소 몽주-암페어 방정식complex Monge-Ampère equation 등에서 다양한 방면으로 연구가 진행되고 있습니다.
특히, 본 글의 저자는 베르그만 핵함수Bergman kernel function를 중점적으로 연구하고 있습니다. 베르그만 핵함수는 해당 영역에서 정의된 모든 정칙함수의 정보를 단 하나의 수식으로 함축하고 있는 새로운 함수라고 할 수 있습니다. 각 영역은 저마다 고유의 핵함수를 갖고 있고, 정칙 동치가 되는 영역들은 베르그만 함수의 성질을 공유합니다. 따라서, 베르그만 핵함수의 구체적인 식을 계산하고 그 성질을 분석하는 것은 본 글의 주제였던 영역의 분류 문제를 해결하는 데에 핵심적인 역할이 됩니다. 결국 베르그만 핵함수는 해석학적인 도구를 통해 복소 영역의 기하학적 구조를 밝히는 중요한 도구로서, 다변수복소해석학이 추구하는 함수와 공간 사이의 관계를 규명하는 지표가 됩니다.
