카오스Chaos는 대개 ‘혼돈(혼란)’으로 번역되지만, 그리스-로마 신화에 의하면 카오스는 태초에 존재했던 비어 있고 측량할 수 없는 공간(틈)을 의미합니다. 이러한 혼돈의 빈 공간으로부터 대지의 여신인 가이아Gaea 등이 태어났고, 질서(정돈) 있는 세상Cosmos이 만들어집니다. ‘질서를 잉태한 혼돈’ 또는 ‘혼돈에서 떠오른 질서’, 사뭇 모순되는 신화적인 표현이지만, 이는 과학에서 정의되는 카오스 개념을 잘 함의하고 있습니다. 가령 물리나 수학의 어떤 현상은 일견 아주 무질서하고 예측 불가능unpredictable인 것처럼 보이지만, 자세히 들여다보면 간단한 규칙으로 결정되곤deterministic 합니다. 이에 비해서 무작위성randomness 현상은 제아무리 곰곰이 살펴봐도 규칙성을 찾아볼 수 없습니다. 아래 그림은 대표적인 카오스 계System인 로지스틱 맵Logistic map의 시계열 자료(\(x_{n}\))와 무작위 수 시계열 자료(\({y}_{n}\))를 비교하여 카오스와 무작위성의 차이를 잘 보여 줍니다. 1차원 시계열 자료를 비교해보면 계가 모두 무질서하게 보이며 구분하기 어렵지만, 시계열 자료를 3차원 공간에 투사해서 비교하면 로지스틱 맵의 숨겨져 있던 결정성이 뚜렷하게 보입니다.
카오스 이론의 간추린 역사: 푸앵카레에서 글릭으로
카오스 이론은 비교적 최근인 20세기 중반부 이후에 본격적으로 연구되기 시작했으며, 1998년 제임스 글릭James Gleick의 『카오스: 새로운 과학 만들기』란 베스트 셀러가 등장하면서 대중적인 관심을 불러일으켰다. 카오스 이론에 기여한 학자들을 나열하자면 수없이 많겠지만, 최초의 기여자로는 푸앵카레Poincaré를 들 수 있습니다. 그는 1880년대에 3체 문제를 연구하면서, 천체의 궤도가 비주기적이며 초깃값에 민감하게 결정될 수 있음을 발견했습니다. 아다마르Hadamard는 초기 조건에 대한 연속적 종속성과 불연속적 종속성을 모두 나타내는 편미분 방정식의 틀을 개발했습니다. 리아프노프Lyapunove는 계의 동역학적 특성을 위상 궤적Phase trajectory 위에서 서로 가까이 있는 두 상태가 시간이 지남에 따라 얼마나 많이 멀어지는가를 정량화하는 방법을 제시하였습니다. 이는 해당 계의 초기조건에 대한 민감성을 계산하여 카오스 현상의 발현 유무를 알 수 있게 하였습니다. 로렌츠Lorenz는 일기예보에 관한 연구를 진행하였는데 초깃값의 미묘한 차이가 크게 증폭되기에 장기적인 날씨 예측이 불가능하다(나비 효과Butterfly effect)는 것을 발견했습니다. 브누아 망델브로Benoit Mandelbrot는 1967년에 영국의 해안선의 기하학적 모양을 연구하면서 해안선의 불규칙성이 서로 다른 척도에 대해 일정하게 나타난다는 것(자기 유사성)을 발견했습니다. 이를 수식적으로 표현한 것이 프랙탈Fractal입니다. 카오스 이론을 활용한 인공위성 궤도 제어, 카오스 암호화 등에 대한 다양한 연구도 있습니다. 그리고 최근에는 양자역학과 (고전 역학에 속하는) 카오스 이론을 접목하는 연구가 시도되고 있습니다.1
카오스 현상의 특징들 – 로지스틱 맵 예를 중심으로
카오스는 물리나 수학뿐만 아니라, 생물, 화학, 공학 등 다양한 분야에서 발견됩니다. 이렇게 다양한 카오스 현상을 명확하게 정의하기는 어려운 일입니다만, 일반적인 특징으로는 1) 결정성deterministic, 2) 비선형성, 3) 모델에 의한 예측 가능성, 4) 초깃값에 대한 민감성, 5) 비주기성Aperiodic, 6) 자기유사성Self-similiarity, Fractal 등을 들 수 있습니다. 이 중 1) – 3)의 특징들은 앞서 설명한 로지스틱 맵 방정식과 그림에서 쉽게 찾아볼 수 있습니다. 4)와 5)에 대한 설명을 위해 로지스틱 맵에 대해 조금 더 자세히 알아보겠습니다. 로지스틱 맵은 뒤집어 놓은 포물선(특징 2) 함수인데, 대각선과의 기하학적 관계로 해를 쉽게 찾을 수 있습니다(아래 [그림2](좌) 패널 참조). 이러한 해는 초깃값에 의해 민감하게 바뀔 수 있습니다(특징 4). 아래 [그림2](우) 패널은 각 시계열 자료들의 작은 차이가 시간이 지남에 따라 얼마나 크게 달라지는지를 보여 줍니다. 그림에서 파란색 선은 초깃값을 0.200으로, 붉은색 선은 0.201, 초록색 선은 0.199로 시작된 로지스틱 맵 시계열을 나타냅니다. 0.01이란 작은 초기 차이가 약 7단위 시간이 지난 후 시계열 값에서 큰 차이가 나는 것을 알 수 있습니다. 이러한 차이를 수식을 사용하여 정량적으로 계산한 것을 리아프노프Lyapunov 지수입니다. 이 지수 값이 양수면 작은 초깃값 차이가 지수적으로 증가함을 의미합니다. 따라서 카오스 계에서는 초기에 아주 미묘한 차이, 즉 거의 구분되지 않았던 두 상태일지라도 일정 정도의 시간이 지나면 서로 완전히 상이한 상태로 구분될 수 있습니다. 다시 말해서 카오스 계는 결정론적(특징 1)이며 모델에 의해 정확한 예측이 가능한(특징 3) 계입니다만, 특정 시점에서의 상태 값을 측정하는 것에서 미묘한 오류가 발생하는 것을 배제할 수 없기 때문에, 자칫 예측이 어려운 무질서한 계인 것처럼 오해받기 쉽습니다.
로지스틱 맵은 계수\((\lambda)\)의 크기에 따라 다양한 형태의 해를 가집니다. 아래 [그림3](좌) 패널은 2.8 \(\le \lambda \le\) 4.0 인 경우 해를 표현한 것입니다. 가령 \(\lambda\)가 3.0 이하에서는 해가 하나만 존재하는데, 이 값은 초기 조건과 무관합니다. 대개의 동역학계가 그러하듯이, 주어진 초깃값에 의해 해가 다소 변동하지만, 어느 정도 시간이 지나면 하나의 값으로 수렴(단일 해)합니다. 그런데 그림에서 볼 수 있듯이 \(\lambda\)가 3.0보다 커지면, 해가 두 개로 분기birurcation되면서 두 해가 주기적으로 반복되는 현상(period-doubling,(주기 2))이 보입니다. 그리고 \(\lambda\) 가 3.45 부근에서 이러한 분기가 아래위 두 군데에서 다시 일어나 네 개의 해가 주기적으로 반복(주기 4)됩니다. 이러한 현상을 도표로 정리한 것이 분기도표Bifurcation diagram 입니다. 그림에서 볼 수 있듯이 이러한 해의 분기는 \(\lambda\)가 커지면서 지속적으로 일어나면서 주기가 2의 기하급수인 해가 복잡하게 등장합니다. 하지만 \(\lambda\) 가 대략 3.57인 지점부터는 비주기적인 해가 발생하기 시작합니다. 아래 [그림3]에서 가운데 패널은 왼쪽(좌) 패널에서 3.7 \(\le \lambda \le\) 3.9인 부분을 확대한 것입니다. 대부분의 \(\lambda\) 구간(가령,\(\lambda\)=3.82)에서는 해가 무수히 많으며 비주기성(특징 5), 즉 카오스 현상이 나타남을 볼 수 있습니다. 이러한 카오스 현상의 발현을 보다 정확하게 알아보기 위해서는 앞에서 언급한 리아프노프 지수를 계산해야 합니다만 여기서는 생략하겠습니다. 그리고 [그림3](우) 패널은 보다 좁은 구간(3.840 \(\le \lambda \le\) 3.856)으로 좁혀서 해를 보인 것인데, 대략적인 해의 분포가 [그림3](좌)과 유사합니다. 이러한 특징을 자기유사성(특징 6)으로 표현합니다.
로지스틱 맵은 생물학적 계의 개체 수 변화를 설명할 때 자주 사용되는 모형입니다. 일반적으로 \({n+1}\)번째 세대의 개체 수 \(x_{n+1}\) 는 직전 세대의 개체 수 \(x_{n}\)에 비례할 것입니다. 이 비례상수를 \(\lambda\)로 한다면 개체 수는 기하급수적으로 증가하게 됩니다. 하지만 이로 인한 과밀화의 문제가 발생하게 되기 때문에 인구가 특정 한계치에 도달한 경우 비례상수에 대한 조정이 필요합니다. 즉, \(\lambda\)가 \(\lambda(1-x_n)\)으로 바뀌게 되어, 비선형 항 – \(\lambda\)\((x_n)^2\)이 등장하게 됩니다. 이러한 비선형 특성에 의해 로지스틱 맵은 일견 매우 간단해 보이지만, 앞 단락에서 설명했듯이 \(\lambda\)값에 따라서 카오스를 비롯한 다양한 해를 가지게 됩니다. 이상으로 로지스틱 맵 예를 통해서 카오스 현상의 특성에 대해 간략하게 소개하였습니다.
일반적으로 고전역학계에서 상태는 비교적 간단한 법칙에 의해 지배되어 있으며 초기조건에 무관하게 결정됩니다. 이에 비해서 카오스 이론은 초깃값의 아주 작은 차이가 엄청난 결과를 초래할 수 있음을 보여줬습니다. 이러한 의미해서 카오스 이론은 고전역학이 제한하고 있었던 결정론의 틀을 깨뜨렸다고도 볼 수 있습니다. 계의 궤적이 정해져 있는 듯해도, 시작점에서의 조그마한 차이가 큰 결과를 가져올 수 있다는 카오스 이론은 어쩌면 우리들의 삶에도 적용되지 않을까요? 자연과학의 발전은 흔히 우리 삶에 많은 영향을 가져왔습니다. 특히, 20세기 초반 발전한 양자역학의 법칙들은 삶을 바라보는 철학에 많은 변화를 가져왔습니다. 파동함수로 설명되는 양자역학계의 상태는 관찰자와 측정이란 문제와 결부되어 확률적으로 결정되는데, 이러한 해석은 자연에 대한 해석의 문제, 대상과 관측자 사이의 관계성에 대한 철학적 사유에도 많은 영향을 끼쳤습니다. 양자역학의 법칙들이 삶의 철학에 변화를 가져왔듯이 카오스 이론들도 우리가 새로운 세상을 볼 수 있는 토대를 제공할 수 있으리라 기대합니다.
