ⓒ J. FGI

Ⅰ.동역학계의 발전과정

동역학動力學, dynamics은 움직이는 혹은 변화하는 물체들에 대한 역학으로 어떤 현상을 오랜 시간동안 관찰하였을 때 나타나는 성질을 연구하는 학문이다. 동역학은 애초에 복잡한 천체의 움직임을 설명하려는 과정에서 뉴톤으로부터 출발하였다. 물리적 현상을 모델링하였을 때 나타나는 당구대 위에서 당구공의 움직임을 연구하기도 하고, 로지스틱 맵logistic map, 만델브로트 집합mandelbrot set처럼 어떤 함수를 여러번 반복하였을 때 그 수열의 극한이 어떻게 변하는지 살펴보기도 한다. 많은 예들에서 초기값에 따라 아주 다른 궤적을 가지나, 그 궤적들이 공유하고 있는 성질들이 있으며 이러한 성질들을 찾아내고자 한다.

수학자들은 자연에서 실제로 일어나는 일에 대한 수학적 모형을 만들고, 그 모형에 어떤 구조를 연관시킨다. 수학자의 관심사에 따라 그것은 기하학적, 위상적, 또는 해석적인 구조가 될 수 있다. 따라서 수학자에게 동역학이란 하나의 모형을 특정한 구조에 따라 연구하는 것이라 할 수 있다. 동역학이 재미있는 이유 중 하나는 이런 식으로 여러 분야를 융합할 수 있다는 것이다. 지난 2014년 서울에서 열린 세계수학자대회에서도 동역학 분야의 연구자 2명이 필즈상을 받았다. 여성 수상자였던 이란 출신의 마리암 미르자카니는 기하적인 관점에서 동역학을 연구했으며, 다른 수상자인 브라질의 아르투르 아빌라는 해석학적인 관점에서 동역학을 연구했다. 둘의 수학적 접근방법은 조금 다르지만 궁극적으로 변화하는 물체의 장시간에 걸친 성질을 연구한다는 점에서 공통점이 있다.

그렇다면 처음으로 자연을 모형으로서 이해하려 한 사람은 누구일까? 주요 인물들을 통해 동역학계의 발전 과정을 살펴보도록 하자.

 

아이작 뉴턴 (1643-1727)

자연을 최초로 수학적으로 모형화한 사람은 뉴턴이라고 할 수 있다. 그는 천체의 움직임을 미분방정식으로 이해하려고 했으며, 그러한 패러다임은 백여 년간 세계를 지배했다. 이를 두고 시인 알렉산더 포프은 다음과 같은 추모 시를 헌사했다.

자연과 자연의 법칙은 어둠에 잠겨 있는데
신이 ‘뉴턴이 있으라!’ 하시매 세상이 밝아졌다.

그러나 수학자들이 풀 수 있는 미분방정식은 상당히 제한적이었다. 따라서 미분방정식을 풀 수 있는 아주 간단한 동역학계를 제외하고 알아낼 수 있는 것이 별로 없었다.

 

 앙리 푸앵카레 (1854-1912)

뉴턴 이후 200년 간 진전이 없던 동역학계에 푸앵카레가 등장한다. 푸앵카레의 추측으로도 잘 알려진 그는, 카오스 이론의 선구자이기도 하다. 그의 업적이 놀라운 이유는 동역학계를 바라보는 시각을 완전히 바꾸었기 때문이다. 뉴턴 이후의 학자들이 미분방정식의 정확한 해를 구해 궤도를 분석하려 했다면, 푸앵카레는 미분방정식을 풀 수 없더라도, 그것의 해가 가지는 일반적이고 정성적인 성질을 분석하고자 했다. 그것이 현대 동역학의 출발이었다.

푸앵카레는 “시인이 똑같은 것들에 다른 이름을 붙이는 예술이라면, 수학은 서로 다른 것들에 같은 이름을 붙이는 예술이다.”라는 말을 남겼는데, 서로 다른 현상에서 본질을 포착하면 사실은 같을 것이라는 그의 통찰력이 드러난다.

 

 조지 데이비드 버코프 (1884-1944)

푸앵카레 이후 동역학계의 또 다른 중요한 수학자로 버코프를 꼽을 수 있다. 미국의 수학자 1세대 격인 그는 1942년에 발표한 버코프 에르고딕 정리Birkhoff ergodic theorem로 잘 알려져 있다. 대략적으로 얘기하면 아주 긴 시간을 놓고 보았을 때, 공간의 평균과 시간의 평균은 같다는 것이다. 이에 대해서는 뒤에 다시 언급하도록 하겠다.

 

 안드레이 콜모고로프 (1903-1987)

콜모고로프는 확률론을 정립하였으며, 러시아 콜모고로프 학교를 설립하는 등 교육자로서도 뛰어난 면모를 보였고, 오일러 다음의 수학자라는 평가까지도 받는 인물이다. 동역학계에서는 KAM 이론콜모고로프-아르놀트-모저 이론이라는 금자탑을 시작하였는데, 이 이론은 수학을 공부하는 사람이라면 거의 대부분이 들어보았을 것이다. KAM 이론에 사용된 수학이나 방법론은 다른 분야에도 큰 영향을 주었으며 많은 수학자들에게 영감을 주었다.

 

 아르투르 아빌라 (1979-현재)

가장 최근에 동역학계에서 두각을 나타내고 인물로 2014년 필즈상 수상자인 아빌라를 들 수 있다. 그는 2011년 당구의 동역학에 관한 연구로 브린 상을 수상했는데, 이 업적에 대해서는 뒤에 소개하겠다.

 

Ⅱ.동역학계의 예

동역동역학계는 크게 두 가지 관점으로 연구할 수 있다. 그 예로서 쥘리아 집합Julia set과 만델브로트 집합Mandelbrot set을 살펴보자. 복소평면 위에서 점화식 \({z_{n+1}=z_n^2+c}\)로 정의되는 수열을 생각해보자. 

 

만일 \(c\)의 크기가 충분히 작다면, 어떤 초기값  \({z_0}\)에 대해서는 이 수열이 수렴할 것이다. 주어진 매개변수 \(c\)에 대해 위의 수열이 수렴하는 복소수 집합의 경계가 바로 쥘리아 집합이다.

다른 관점에서, \(c\)가 변화함에 따라 쥘리아 집합이 어떻게 변하는지를 관찰할 수도 있다.  \({z_0}\) 일 때 위 복소 수열이 수렴하는 매개변수 \(c\)의 집합이 바로 만델브로트 집합이다. 이러한 집합을 일반적으로 매개변수 집합parameter set, 혹은 수학적인 용어로 모듈라이 공간Moduli space이라고 부른다. 이를 염두에 두고 다음 여러 예시들을 살펴보자.

 

 무리각 회전

그림1처럼 고정된 무리수 \(\alpha\)가 주어져 있을 때 둘레가 \(1\)인 원 위의 한 점을 시계 방향으로 각도 \(\alpha\)만큼 움직이는 회전을 생각해보자. [그림1] 이것은 원 위에 가장 간단한 동역학계를 만들어준다. (그러나 KAM 이론과 같은 대단한 업적은 사실 이런 매우 쉬운 예시로부터 출발했다는 것을 기억하자! 수학을 하다 어려움과 부딪혔을 때 쉬운 예시들을 다른 각도로 바라보면 매우 쉬워지는 경우가 많다). 다른 방식으로, 무리각 회전을 [\(0\),\(1\))에서 정의된 함수로 표현할 수 있다. [그림2]  이를 묘사하는 또 다른 표현은 길이가 \(1\)인 선분을 고정된 두 개의 구간으로 나눈 뒤, 두 구간을 서로 교환하는 것이다. [그림3]

 

 구간 교환(interval exchange map)

무리각 회전을 두 구간을 교환하는 것으로 표현하던 방식을 일반화하여, 길이가 1인 선분을 고정된 여러 개의 구간으로 나눈 후, 그 구간들을 서로 교환하는 함수를 생각하자. 이것은 일종의 ‘일반화된 회전’의 동역학을 정의한다.

J. FGI

 

 당구 

어떤 특정한 모양의 당구대 안에서 움직이는 당구공 역시 간단하지만 흥미로운 동역학계의 예이다. 수학자가 당구에서 궁금한 것은 당구공의 움직임이 어떤 주기를 띄게 될 것인지, 아니면 전혀 반복이 없이 공간을 거의 움직이며 섞이는 양상을 보일 것인가 등이다. 이에 대해서는 뒤에 다시 살펴보기로 하자.

 

 로지스틱 맵(logistic map)

로지스틱 맵은 어떤 매개변수 \(c\)에 대해서 

\({f_c(x)=cx(1-x)}\)

와 같이 정의되는 함수이다. 이 함수는 생태계에서 포식자의 개체 수를 간단하게 모형화 하는 데 사용할 수 있다. 개체 수가 너무 많다면 경쟁을 통해 다음 세대에는 개체 수가 감소할 것이기 때문이다. 

이제, \({x_n=f_c(x_{n-1})}\)로 정의하면 \(c\)와 초기값 \({x_0}\) 값에 따라\({x_n}\) 이 어떻게 움직일까? 이 단순한 동역학계는 놀랍게도 매개변수 \(c\)값에 따라 카오스적인 양상을 보이기도 한다. 예를 들어 \(c=4\)이면 초기값 \({x_0}\)에 아주 민감하게 된다. 그러나 \(c=2\)인 경우는 모든 \(0\) 아닌 \({x_0}\)에 대하여 \({x_n}\)이 \(\frac { 1 }{ 2 } \)로 수렴하는 것을 쉽게 보일 수 있다.

 

Ⅲ. 섞임의 종류와 예시

이제 동역학계가 가질 수 있는 여러 가지 섞임 성질들에 대해 알아보자.

 회귀 (recurrent) 

회귀성은 가장 기본적인 섞임 성질 중 하나이다. 엄밀하게 동역학계를 \((X, \mathfrak{F}, \mu, T)\)로 표현해보자.  \((X, \mathfrak{F}, \mu, T)\)는 \(X\)위의 \(\sigma\)-대수(\(\sigma\)-algebra) \(\mathfrak{F}\)와 \(\mu(X)=1\)인 측도(measure) \(\mu\)로 정의되는 확률 측도 공간probability measure space이며, \(T\)는 측도 보존 함수measure preserving map, 즉 모든 \(A\in\mathfrak{F}\)에 대해 

\(\mu(T^{-1}(A))=\mu(A)\)

를 만족하는 함수이다.

위의 조건들을 만족하는 동역학계에 대해, 푸앵카레는 다음과 같은 질문을 했다.

 

이에 대답은 ‘그렇다’는 것이며, 그 증명은 연습문제로 남긴다. 이렇게 자기 자신과 섞이는 성질을 동역학계의 회귀성이라고 한다. (여기서 \(\mu(X)=1\)이라는 조건이 없다면, 예를 들어 실직선에서 \(x\)를 \(x+1\)로 보내는 함수로 정의되는 동역학계는 회귀성을 가지지 않는다는 것을 알 수 있다.)

 

 에르고딕 (ergodic)

만일 \(T^{-1}(A)=A\)을 만족하는 모든 \(A\in\mathfrak{F}\)에 대해 반드시 \(\mu(A)=0\)이거나 \(\mu(A)=1\)이면, 그 \(T\)를 에르고딕이라고 한다.

동역학계의 에르고딕이라는 개념은 매우 자연스럽게 나온다. 만일 집합 \(A\)에 속한 점들은 시간이 지나도 \(A\) 안에서만 움직인다면, 전체 공간 \(X\)가 아닌 집합 \(A\)의 동역학만 살펴보아도 충분하기 때문이다. 그런데 이런 에르고딕 성질을 가진 동역학계에 대해 다음과 같은 놀라운 정리가 성립한다. 바로 앞서 언급했던 버코프의 에르고딕 정리이다. 아래 식에서 \(T^i(x)\)는 \(T(T(T(\cdots T(x)\cdots)))\)처럼 \(x\)에 \(T\)를 \(i\)번 합성한 함수를 적용하여 얻은 값을 나타낸다.

 

위의 극한에서 좌변은 일종의 시간에 대한 평균, 우변은 일종의 공간에 대한 평균으로 해석할 수 있다. 대략적으로 말해 모든 집합이 매 순간 움직이면, 항상 위와 같은 정칙성regularity이 있다는 것이다.

 

 약한 섞임 (weak mixing)

위 예제 3의 형태를 조금 강화하면 약한 섞임이라는 또 다른 섞임 성질을 생각할 수 있다. 임의의 \(A,B\subseteq X\)에 대하여

\({\lim_{n\rightarrow\infty}\frac1n\sum_{i=0}^{n-1}\left|\mu(T^i(A)\cap B)-\mu(A)\mu(B)\right|=0}\)

 

를 만족하면 이런 \(T\)는 약하게 섞인다고 정의한다. 에르고딕 성질이 성립할 때처럼, \(A\)가 \(T\)에 의해 움직일 때 \(B\)에 속하는 영역이 거의 대부분 \(\mu(A)\mu(B)\)와 일치해야 한다는 것을 알 수 있다. (에르고딕인 경우에는 평균을 취한 것이 \(\mu(A)\mu(B)\)가 된다는 것을 상기하자.)

 

 섞임 (mixing)

임의의 \(A,B\subseteq X\)에 대하여

\({\lim_{i\rightarrow\infty}{\mu(T^i(A)\cap B)=\mu(A)\mu(B)}}\)

를 만족하면 그런 \(T\)는 섞인다고 정의한다.

 

 기타

그 외에도 \(K\)-섞임K-mixing 혹은 베르누이Bernoulli와 같은 다른 종류의 섞임 성질도 있지만 여기에서는 다루지 않도록 한다. 이 성질들은 뒤에 나오는 엔트로피를 이용하면 더 쉽게 정의할 수 있다.

이제 섞임 성질들의 관점에서 앞서 살펴보았던 예들을 재조명해보자.

 

 무리각 회전

이미 앞에서 무리각 회전은 에르고딕이며, 한 점의 궤도 \(\{x,T(x),T^2(x),\ldots\}\)는 조밀dense하다는 것을 살펴보았다. 그러나 무리각 회전은 약하게 섞이지는 않는다는 것이 알려져 있다.

 

 구간교환

구간 교환에서 나오는 동역학계를 생각해보자. 구간의 개수가 2개인 경우는 무리각 회전과 동일하므로, 이 경우 동역학계는 에르고딕이지만 약하게 섞이지는 않는다는 것을 이미 앞에서 언급하였다. 그렇다면 구간의 개수가 3개일 때는 어떨까? 카톡과 스테핀은 구간의 개수가 3개인 경우를 2개인 경우로 재규격화renormalize하는 기법을 써서 3개 구간 교환이 약한 섞임이라는 것을 1967년에 증명했다. 그러나 일반적인 개 구간 교환이 약한 섞임인지 여부는 한동안 난제로 남아있었다. 결국 2007년 아빌라와 포르니는 다음 정리를 증명했고, 아빌라는 이 업적으로 2011년 브린 상을 수상했으며 2014년 필즈상을 받게 된다.

구간 교환의 동역학계는 각 구간의 길이로 이루어진 매개변수 공간에 의존한다. 따라서 엄밀하게 말하면 아빌라와 포르니는 ‘거의 대부분’의 매개변수 공간에 대하여 약한 섞임 성질이 만족됨을 증명한 것이다.

너무나 단순한 구간 교환에 관한 결과를 증명하는데 왜 그렇게 오랜 시간이 걸렸으며, 또한 그 결과가 왜 그렇게 많은 주목을 받은 것일까? 그 이유는 이 동역학계가 여러 중요한 동역학계와 연관되어 있기 때문이다. 예를 들어 당구의 동역학계는 경계면과 초기 각도에 의해 결정되는데, 이것은 대응하는 구간 교환에 의해 결정된다고 해석할 수 있다. 또 다른 예로서 타이히뮐러 공간Teichmüller space에서의 평행 흐름translation flow 역시 구간 교환과 밀접한 관련이 있다.

이와 비슷하게, 동역학계에서는 대단한 결과를 끌어낼 가능성이 높은 아주 간단한 예나 질문이 여전히 많이 남아있다.

 

 당구

당구에 관한 동역학 문제가 재밌는 이유는 무엇보다 간단하게 서술할 수 있다는 점 때문일 것이다. 우선 [그림4]와 같이 가장 일반적인 직사각형 모형을 생각해보자.

변의 길이가 정수라면 좌측 하단에서  방향으로 쳐낸 당구공의 궤적은 언제나 주기적이라는 것을 알 수 있으며, 벽과 몇 번 부딪히는지도 정확히 알아낼 수 있다. 당구대의 모양을 오각형으로 바꾸어도 조금 복잡하지만 여전히 주기적인 궤적을 얻을 수 있다. 하지만 [그림5]와 같이 직사각형의 양쪽을 반원으로 바꾼 경기장stadium 모형에서의 동역학계는 그렇게 단순하지 않다.

 

당구의 동역학계는 당구대의 모양에 의존하는데, 너비가 어느 정도 길면 동역학계는 초기값에 민감한 카오스적 양상을 띠게 된다. 반면 너비가 짧으면 당구공의 궤적은 결정적deterministic, 엔트로피=0이다.

 

 로지스틱 맵

 \(c=4\)인 경우 로지스틱 맵 \(f(x)=4x(1-x)\)는 \(x=\frac{1}{2}\)에서 최대값 \(1\)을 갖는다. 이 로지스틱 맵에 의해 정의되는 동역학계는 초기값에 민감하다는 성질을 가진다. 다음 표는 초기값이 \(x_0=0.4\)인 경우와 \(x_0=0.41\)인 경우 궤도가 점점 어떻게 변하는지 보여준다.

J. FGI

처음에는 엇비슷하던 값이 도중에 차이가 확 벌어지거나 일정한 규칙 없이 변하는 것을 알 수 있다. 따라서 초기값 \(0.4\)에 대한 동역학계의 양상을 완전히 알아내더라도 그로부터 초기값 \(0.41\)에 대한 양상을 짐작할 수는 없다.

J. FGI


반면 \(c=2\)인 경우 로지스틱 맵 \(f(x)=2x(1-x)\)에 의해 정의되는 동역학계는 매우 안정적이다. 어떤 점 \(x\)에서 시작하더라도 항상 \(f^n(x)\)는 \(\frac{1}{2}\)로 수렴하기 때문이다. 이렇듯 매개변수 값에 따라 동역학계의 양상이 완전히 바뀌는 현상을 분기bifurcation라고 한다. 다음 그림은 로지스틱 맵 \(f_c(x)=cx(1-x)\)의 분기 다이어그램을 나타낸다. 각 매개변수에 대해 오랜 시간이 지난 후 안정된 동역학계가 가질 수 있는 값들(고정점 및 주기점)을 표현한 것이다. \(c\)의 값이 \(4\)에 가까워짐에 따라 카오스 현상이 점점 더 나타나는 것을 볼 수 있다.

 

 엔트로피

앞서 몇몇 동역학계의 카오스적인 성질을 살펴보았다. 그렇다면 그 정도를 비교할 수 있을까? 엔트로피entropy란 동역학계가 얼마나 카오스적인가를 측정하는 양이다. 어떤 동역학계 \((X,\mathfrak{P},\mu, T)\)가 카오스적이라고 하자. 여기서 \(\mathfrak{P}\)는 \(X\)의 유한한 분할partition들의 집합이다. 콜모고로프의 정의에 따르면 \(P\in\mathfrak{P}\)에 대한 엔트로피는 다음과 같다.

\(
\begin{align*}
h_\mu(T,P)&=\lim_{n\rightarrow\infty}\frac{1}{n}H\left(\bigvee_{i=0}^{n-1} T^{-i}(P)\right)\\
&=\lim_{n\rightarrow\infty}\frac{1}{n} H\left(\sum_{A\in\bigvee_{i=0}^{n-1} T^{-i}(P)}-\mu A\log \mu A\right)\\
&=\lim_{n\rightarrow\infty} H\left(P\mid \bigvee_{i=0}^{n-1} T^{-i}(P)\right).
\end{align*}
\)

위에서 \(H(x)=-x\log x\)이며, 일종의 `평균적인 정보량’를 반영하는 함수로 보통 엔트로피 함수라고 불린다. 독립적인 분할 \(P,Q\in\mathfrak{P}\)에 대해 \(H(P\vee Q)=H(P)+H(Q)\)이므로, 이 함수는 분할이 독립적이면 정보의 양이 더해진다는 성질을 가진다.

엔트로피는 무작위성 혹은 예측 불가능성과 관련된 값이며, 과거의 정보에 의존하여 어느 정도로 미래를 예측할 수 있는지를 말해준다. 즉, 양의 엔트로피를 가지는 동역학계는 카오스적이다. 예를 들어 인 경우 로지스틱 맵은 어떤 한 점의 근방에서의 정보(과거)를 알아도 그 점(미래)의 정보를 예측할 수 없다. 반면 무리각 회전은 카오스가 굉장히 없는 엔트로피가 0인 계이다. 비슷하게 주기적인 움직임이나 구간 교환은 엔트로피가 0이다.

엔트로피가 0인 동역학계는 어떤 복잡도를 가질 수 있는가? 구간 교환이나 주기적인 움직임처럼 거의 복잡도가 없는 것들인가? 엔트로피가 양인 계가 가지는 여러 성질들이 전혀 성립하지 않는가? 등은 앞으로 해결해야 할 문제들이다.

 

고등과학원 고계원 교수의 2015년 4월 17일 “정오의 수학 산책” 강연을 듣고 KAIST 박민재 학생(현재 MIT 대학원생)이 정리한 내용에서 발췌하였습니다.

 

고계원
고등과학원 난제연구센터 연구교수