힐베르트의 6번째 문제에 관하여: 거시 세계의 물리학을 미시 세계의 물리학으로 환원할 수 있을까?

저는 다음 질문으로 이야기를 시작해 보고 싶습니다. 어떤 계의 특정 시점에서의 상태를 안다고 했을 때, 우리는 그 계의 시간에 따른 추이를 예측할 수 있을까요? 이러한 문제를  초기치 문제라 하는데, 이 문제는 다양한 물리적 상황을 모델링하여 예측하고자 할 때 (예를 들어, 기상 예측, 충돌 시뮬레이션 등) 우리가 마주하게 되는 근본적인 문제입니다.

이러한 중요성 때문에, 초기치 문제에 대한 많은 연구가 이루어져 왔습니다. 저는 그 중 한 가지 접근법을 살펴보고자 합니다. 이 접근법에서 우리는 먼저 계를 구성하는 단위들의 움직임을 지배하는 규칙을 찾고, 이를 이용해 계의 운동을 기술하는 방정식을 쓴 후, 그 방정식을 풉니다. 이렇게 말하면 굉장히 추상적으로 보이지만, 아마 독자분들은 이미 학교에서 이러한 접근법을 보셨을지도 모릅니다- 중고등학교 물리 시간에 보는, 자유 낙하하는 물체의 운동을 기술하는 문제, 조화 진동자의 운동을 기술하는 문제 등이 모두 이러한 접근법을 통해 계의 운동을 기술하는 문제입니다.

이 방법은 위대한 성공을 거둘 수 있었습니다. 뉴턴 역학을 필두로 한 여러 가슴 뛰는 성공 사례가 있지만, 이 글에서 언급하기에는 지면이 충분하지 않아 보입니다. 특히 계의 복잡성이 비교적 낮을 때, 우리는 계의 운동을 무척 만족스럽게 기술할 수 있습니다. 예를 들어, 두 천체가 중력에 의해 서로 상호작용하면서 움직이는 경우(케플러 문제), 우리는 두 천체의 궤적을 기술하는 “공식”을 찾을 수 있고, 운동을 기술하는 공식 또한 적절한 매개변수의 도입을 통해 찾을 수 있습니다. ([1] 등 일반적인 고전 역학/천체 역학 교과서에서 구체적인 계산을 볼 수 있습니다.)

하지만, 계의 복잡성이 높아질수록, 이 방법을 통해 계의 운동을 기술하는 일에는 새로운 도전이 생깁니다. 심지어는 천체가 세 개만 되어도(삼체 문제) 운동을 기술하는 만족스러운(닫힌 형태의 공식^{closed form formula}) 공식을 일반적으로 찾을 수 없음이 알려져 있지만, 이 글에서는 다루지 않겠습니다. 첫 번째 도전은, 계를 구성하는 입자가 굉장히 많다면, 이 각각의 입자들의 초기 조건(위치, 속도)을 확정하는 작업이 어려워집니다. 두 번째 도전은, 입자들 사이의 상호작용 또한 빈번해지면서, 계의 운동을 계산해 나가는 작업은 점점 더 많은 계산적 자원이 필요한 작업이 됩니다. 예를 들어, 김장 김치 통 속의 기체 분자의 움직임을 기술하는 문제에 우리가 관심이 있다면, 이러한 계의 입자의 개수는 어림잡아 \(10^{23}\)개 정도가 됩니다. 이렇게 많은 입자계의 운동방정식은 원칙적으로는 풀 수 있지만, 현실적으로 너무 많은 자원이 요구됩니다.

그렇다면 우리는 어떻게 해야 할까요? 한 가지 방법은, 우리의 목표를 재점검해 보는 것입니다. 앞서 이야기한 통 속 기체 분자의 운동을 생각해 봅시다. 첫 번째로, 우리는 이 계의 운동을 왜 알고 싶은 것일까요? 여러 가지 이유가 있겠지만, 가장 큰 이유는 이 계가 가진 거시적 성질을 더 잘 이해하고 싶기 때문이 아닐까요? 예를 들어, 기체 분자들이 평균적으로 더 높은 속도로 움직인다면, 기체 분자들이 김치 통 벽에 부딪힐 때 평균적으로 더 큰 운동 에너지를 전달할 것입니다. 더 쉽게 말해서, 용기가 더 강한 압력 때문에 부풀어 오르겠지요. 이러한 현상은 우리 눈으로도 쉽게 관찰할 수 있기에, 거시적이라 부릅니다. 반면에, 개별 기체 분자의 운동은 우리 눈으로 관찰하기에는 규모가 훨씬 작아서, 미시적이라고 부릅니다.

그렇다면, 계의 거시적 성질을 더 잘 이해하기 위해서는, 우리가 개개의 초기 상태에 대한 운동의 미시적 기술을 정확하게 알고 있어야 할까요? 결국은 우리에게 필요한 정보는 분자의 평균 속력과 같은 거시적 양이기에, 만약 우리가 거시적 운동을 잘 기술할 수 있다면, 미시적인 운동을 정확히 기술하는 것이 꼭 필요하지는 않을 것입니다.      

이러한 거시적인 운동의 기술은 많은 경우 연속체 역학^{continuum mechanics}을 통해 이루어집니다. 연속체 역학의 접근 방식은 다음과 같습니다. 첫 번째로, 거시적인 통계적 변수를 도입합니다. 예를 들어, 용기를 매우 작은 상상의 구획들로 나누고, 각 구획 안의 입자들의 밀도, 입자들의 평균 속도, 평균 운동 에너지 등을 생각합니다. 각 구획을 점점 작게 만들어 점으로 보내는 극한을 생각하면, 우리는 위치 및 시간의 함수인 유체의 밀도, 속도, 내부 에너지 등의 장을 얻을 수 있습니다. 두 번째로, 고전 역학에서부터 잘 알려진 보존 법칙(질량 보존, 선운동량 및 각운동량 보존, 에너지 보존)을 이용하여 각 변수의 시간적 추이를 기술하는 방정식을 구합니다. 일반적으로 이 과정에서 얻어진 방정식은 닫혀 있지 않습니다: 예를 들어, 선운동량 보존 법칙은 유체의 속도의 시간적 추이를 기술하는 방정식을 이끌어내지만, 이 추이는 변형력 텐서^{stress tensor}라는 새로운 양에 의존합니다. 그래서 마지막 단계로, 방정식 계를 닫기 위하여, 각 방정식의 새로운 양(변형력 텐서, 열 선속^{heat flux} 등)을 구성식^{constitutive equation}을 이용하여 밀도, 속도, 내부 에너지의 함수로 표현합니다. 여기서 짚고 넘어갈 점은, 구성식은 꽤 많은 경우, 관찰과 실험 결과 등에 근거한 경험칙이라는 점입니다.

다소 송구스럽지만, 연속체 역학의 접근법을 좀 더 구체적으로 보겠습니다(더 자세한 계산은 [2]를 참조하시기 바랍니다). 첫 번째 단계에서, 우리는 유체의 밀도장 \(\rho(x,t)\), 유체의 속도벡터장  \(v(x,t)\) 을 얻습니다(내부 에너지는 논의의 간편성을 위해 무시하도록 하겠습니다). 두 번째 단계에서, 우선 질량 보존의 법칙(여기서는 유체를 이루는 입자가 자발적으로 생겨나거나 소멸하지 않는다)을 생각해 보겠습니다. 통 속의 어떤 구역 \(\Omega\) 을 생각하면, 구역  \(\Omega\) 안의 총 유체 양은 \(\int_{\Omega} \rho dV\) 이고, 이 값의 시간에 따른 변화를 생각해 보겠습니다. 질량 보존의 법칙에 의해서, \(\int_{\Omega} \rho dV\) 의 시간에 따른 변화에 기여할 수 있는 유일한 요소는 구역의 경계면을 통해 드나드는 유체입니다. 구역의 경계면  \(\partial \Omega\) 위의 한 점에서 유입 혹은 유출되는 유체 양은, 그 경계면을 관통하여 구역 안으로 들어오거나 바깥으로 나가야 하고, 그 지점에서 유체는 \(v\) 의 속도를 가지고 있으므로, 경계면 \(\partial \Omega\) 의 수직 방향 벡터를 이라 하면, 그 지점에서의 유체의 출입이 전체 유체 양의 변화에 기여하는 정도는 \(\rho v \cdot n dS\) (여기서 \(dS\)는 경계면의 넓이 요소)입니다. 이를 수식으로 표현하면,

\(\frac{d}{dt} \int_{\Omega} \rho dV = -\int_{\partial \Omega} \rho v \cdot n dS,\)

가 되고, 스토크스의 정리를 이용한 후 \(\Omega\) 를 우리가 임의로 선택할 수 있다는 점을 이용하면, 우리는 다음과 같은 편미분방정식을 얻습니다.

\(\partial_t \rho + \sum_{i=1} ^3 \partial_{x_i} (\rho v_{x_i} ) = 0.\)

마찬가지로, 선운동량 보존의 법칙을 통해 우리는 어떤 구역  \(\Omega\) 내에서의 선운동량 \(\int_{\Omega} \rho v dV\) 의 시간적 추이를 살펴보는데, 구역  \( \Omega\) 내부의 총 선운동량의 변화에 기여할 수 있는 요소는 세 가지가 있습니다. 첫 번째로 중력 등 구역 내의 모든 입자에 동등하게 작용하는 힘^{body force}의 존재가 있는데, 편의상 여기에서는 고려하지 않겠습니다. 두 번째는 구역의 경계면 \(\partial \Omega\) 을 통해 드나드는 유체가 가지는 선운동량인데, 그 기여분은 앞의 질량 보존의 경우와 비슷하게 \(-\int_{\partial \Omega} \rho v (v\cdot n) dS\) 가 됩니다. 마지막으로 구역의 경계면 \(\partial \Omega\) 에 가해져 구역의 선운동량을 변화시키는 변형력이 있습니다. 얼핏 보기에는, 변형력의 모양에 대한 일반적인 진술을 쉽게 얻을 수는 없어 보입니다. 그렇지만, 경계면  \(\partial \Omega\) 위의 한 점에 작용하는 변형력은 그 점에서의 경계면의 수직 방향 벡터 \(n\) 에만 의존한다고 가정한다면(즉, 경계면의 곡률과 같은 2계 이상의 미분에 의존하지 않는다면), 뉴턴의 제 3 운동법칙과 간단한 차원 분석^{dimension analysis}에 의하여 우리는 다음과 같은 결과를 얻을 수 있습니다:

[코시의 변형력 정리] 다음과 같은 성질을 만족하는 2차 텐서(행렬)  \(\sigma = \sigma_{ij} \) (코시 변형력 텐서라 불립니다)가 존재합니다: 임의의 구역 \( \Omega\) 의 경계면 \(\partial \Omega\) 위의 한 점에 대해, 그 점에서의 경계면의 수직 방향 벡터가 \(n\) 이라 하면, 그 점에서 경계면에 작용하는 변형력은 \(n \cdot \sigma =  \sum_{i=1} ^3 n_{x_i} \sigma_{ij}\) 입니다.

이로부터, 구역의 경계면 전체에 가해지는 변형력의 총합은 \(\int_{\partial \Omega} n \cdot \sigma dS\) 가 되고, 다시 스토크스 정리를 이용하면 다음과 같은 미분방정식을 얻을 수 있습니다.

\(\partial_t (\rho v_j) + \sum_{i=1} ^3 \partial_{x_i} (\rho v_j v_i – \sigma_{ij} ) = 0.\)

이 방정식에는 새로운 변수 \(\sigma\) (코시 변형력 텐서)가 도입되었고, 우리는  코시 변형력 텐서의 값을 알기 전까지는 이 방정식을 통해 밀도 \(\rho\) 와 속도 \(v\) 의 값을 예측할 수 없습니다. 그렇다면, 다시 \(\sigma\) 의 시간 추이를 구하는 방정식을 세우면 문제가 해결될까요? 안타깝게도, 그 방정식에는 다시 새로운 변수가 도입되고, 그 변수를 위한 방정식을 세우면 다시 새로운 변수가 도입되는 일이 반복됩니다. 그렇기에, 우리는 어느 시점에서 이 순환을 끊어내야 하고, 여기에 구성식이 도입됩니다.

이 구성식은 관찰과 실험을 통해 얻어집니다. 유체를 두 얇고 넓은 판 사이에 가둬 놓고, 위쪽 판을 쭉 평행하게 밀어낸다면, 위쪽 판부터 유체가 끌려 나가면서 층층이 밀려 나가는 식으로 변형이 생길 것입니다. 그에 대한 반응으로, 유체는 변형력을 발휘하게 되고, 이를 측정하여 우리는 코시 변형력 텐서의 판에 평행한 쪽 성분인 전단 변형력 텐서를 구할 수 있습니다. 물, 공기와 같은 일상적인 유체가 일상적인 환경일 때,이 전단 변형력 텐서가 속도의 구배에 비례함이 실험 등을 통해 알려져 있습니다:

\(\tau_{ij}  = \mu (\partial_{x_i} v_j + \partial_{x_j} v_i )\)

여기서 \(\tau\) 는 전단 변형력 텐서, \(\mu\) 는 비례상수(점도)입니다. 역으로 이러한 관계를 만족하는 유체들을 뉴턴 유체^{Newtonian fluids}라고 합니다. 마지막으로 판에 수직한 쪽 성분까지 합쳐서 전체 코시 변형력 텐서의 형태를 나타내면 다음과 같습니다.

\(\sigma_{ij} = -p \delta_{ij} + \lambda \sum_{k=1} ^3 \partial_{x_k} v_k \delta_{ij} + \mu (\partial_{x_i} v_j + \partial_{x_j} v_i )\)

여기서 \(p\) 는 열역학적 압력입니다. 마지막으로 \(p\) 의 값을 다른 열역학적 변수인  \(\rho\) 등으로 (엄밀하게는 계가 동적인 상태에 있지만, 유체의 각각의 지점 주변에서는 국소적인 열역학적 평형을 이루고 있다고 가정합니다) 표현하는 등의 상태 방정식^{equation of state}을 도입함으로써, 우리는 계를 온전히 \(\rho, v\) 의 시간 변화에 대한 편미분 방정식을 통해 기술할 수 있습니다.

이 방정식은 나비에-스토크스 방정식^{Navier-Stokes equation}이라고 합니다. 만약 상태방정식으로 비압축성 조건 \(\rho = 1\) 을 도입하면, 비압축성 나비에-스토크스 방정식이 됩니다.

\(\partial_t v_j + \sum_{i=1} ^3 v_i \partial_{x_i} v_j = -\partial_{x_j} p + \mu \sum_{i=1} ^3 \partial_{x_i} ^2 v_j, \qquad \sum_{i=1} ^3 \partial_{x_i} v_i = 0. \)

 이 편미분 방정식의 해의 존재성 및 유일성, 특이점 형성 등의 문제는 현대 수학계의 중요한 난제 중 하나이며,  현재에도 활발한 연구가 이루어지고 있습니다(정인지 교수님께서도 호라이즌 웹진에서 관련 내용을 다루신 적이 있습니다 [3]).

이러한 연속체 역학은 우리가 다루고자 하는 계의 거시적 변수에만 집중함으로써 문제의 복잡도를 크게 낮춥니다. 우리는  각 입자의 위치와 속도를 추적할 필요가 없이, 각 위치에서의 평균적인 입자 밀도 및 속도만 알고 있으면 됩니다. 물론 독자 여러분께서는 의문을 품으실 수도 있습니다. 원래의 미분방정식은 비록 변수가 많기는 하지만 유한 차원의 문제였는데 (각 입자마다의 위치 및 속도가 변수이므로, 약 \(10^{23}\)차원 정도의 문제), 이 편미분 방정식의 변수는 각각의 위치마다 값이 다른 장이므로, 무한 차원의 문제입니다. 그렇다면 문제의 복잡도가 오히려 높아진 것이 아닐까요?

한 가지 다소 불충분한 대답은 다음과 같습니다. 우리가 실용적인 목적으로 편미분 방정식의 해를 구할 때는 수치적 방법을 사용하는데, 근본적으로는 방정식을 유한 차원 계의 방정식으로 근사하는 일입니다. 그리고 해의 성질이 좋다면, 원래 문제보다 상당히 낮은 차원으로의 근사를 가지고도 원래 편미분 방정식의 해와 충분히 유사한 값을 얻을 수 있습니다. ([4], [5]) 한 가지 짚고 넘어가고 싶은 점은, 이러한 이유로 해의 성질이 좋음을 논하는 해의 존재성, 유일성, 정칙성 등의 문제는 실용적으로도 중요한 문제라는 점입니다.

이러한 연속체 역학의 접근법 또한 위대한 성공을 거두었습니다. 파동 방정식, 열 방정식, 나비에-스토크스 방정식 등 다양한 편미분 방정식을 통해 우리는 우리 주변의 물질계의 운동을 거시적인 수준에서 상당히 성공적으로 기술할 수 있었습니다. 그런데, 연속체 역학의 방정식이 유도되는 과정을 검토하면서 우리는 다음과 같은 질문을 던질 수 있습니다. 우리는 편미분 방정식을 유도하는 과정에서, 방정식을 변수 \(\rho, v\) 등에 닫힌 계로 만들기 위해 구성식을 도입했습니다. 그 과정에서 우리는 실험과 관찰의 결과에 의해 구성식을 정당화했습니다. 여기에서 우리의 미시적 세계에 대한 이해와 거시적 세계에 대한 이해 사이의 간극이 발생합니다: 우리는 원칙적으로 미시적 세계를 기술하는 방법을 알고 있습니다. 한편, 우리의 거시적 세계에 대한 모델은 경험칙에 의거했고, 그 모델의 정당성은 근본적으로는 모델이 세계를 잘 설명한다는 점에 의지합니다. 두 모델이 결국 같은 세계를 설명한다는 점을 생각하면, 다음과 같은 질문은 자연스러워 보입니다:

“우리는 거시적 세계의 모델을 미시적 세계에 대한 모델로부터 연역할 수 있을까요?”

이 문제는 많은 수학자들의 관심을 끌어왔습니다. 1900년 파리에서 열린 제 1차 국제 수학자 대회에서, 다비드 힐베르트는 수학계의 발전 방향을 제시하는 23개의 문제를 발표했습니다[6]. 그 중 6번째 문제(물리학의 공리에 대한 수학적 논법^{Mathematical Treatment of the Axioms of Physics})가 이 문제를 다루고 있습니다. 그는 19세기에 이루어진 기하학의 공리화에 영감을 받아, 물리학에 엄밀한 수학적 기초를 세우고자 하였습니다. 특히 그는 확률론과 역학, 그 중에서도 기체 등 유체의 역학을 첫 번째 목표로 제시했습니다.

조금 더 부연 설명을 해 보겠습니다. 수학에는 수많은 결과들(정리, 공식 등)이 있고, 또 지금 이 순간에도 많은 결과들이 생산되고 있습니다. 이렇게 생산된 지식들을 체계적으로 정리하는 일은 매우 중요한데, 생산된 지식들 사이의 관계를 밝히고, 우리들의 지식 생산 과정을 점검할 수 있기 때문입니다(예를 들어, 부주의하게 논리를 전개하다 보면 순환 논법에 빠지는 경우도 있고, 이미 증명되었거나 반증된 정리를 다시 증명하기 위해 노력하는 경우도 있습니다). 수학에서는 지식을 체계적으로 정리하기 위해 공리적 접근을 취합니다. 맨 먼저, 토론장에 있는 모두가 합의할 수 있는 밑바탕을 준비합니다. 모호함을 배제한 정제된 언어 및 합의된 추론 규칙에 더하여, 모두가 정의 없이도 이해할 수 있는 기본적 개념과 합의할 수 있는 가장 기초적인 명제인 공리들을 준비하는 것입니다. 그렇게 자명해 보이는 공리들 로부터 시작하여, 추론 규칙들을 이용하여 더 복잡하고, 전혀 자명해 보이지 않는 어려운 정리들을 연역하여 차곡차곡 쌓아 나가는 방법이 공리적 접근입니다. 유클리드가 “기하학 원론”에서 이렇게 평면기하학을 공리적 체계로 만드는 “공리화”를 한 뒤, 공리적 접근법은 수학의 표준적인 방법이 되었고, 특히나 19세기에 유클리드 기하학의 평행성 공리를 배제한 비유클리드 기하학이 태동하면서 다양한 기하학들 또한 성공적으로 공리화되었습니다.

그런데, 이러한 공리적 접근법은 물리학의 환원주의와도 유사성이 있습니다. 물리학 (특히 역학) 또한 가장 기본이 되는 입자의 운동 규칙을 알아내고, 더 큰 계의 운동을 기본 입자들의 운동의 종합으로써 설명하는 접근법, 다시 말하면 더 큰 계의 운동을 기본 입자들의 세계로 환원시키는 방법을 즐겨 사용합니다. 그렇게 본다면, 유체 역학을 뉴턴 역학으로부터 엄밀하게 연역해 내는 문제는, 이러한 환원 과정에 수학적으로 엄밀한  기초를 제공하는 문제이자, 수학자들의 시선에서는 어떤 의미로는 뉴턴 역학과 유체 역학을 종합하여 하나의 공리 체계로 만드는 작업으로 생각할 수 있겠습니다.

힐베르트가 이 문제를 제시한 이후, 많은 수학자들의 노력을 통해 이 문제에 대한 많은 진전이 이루어졌고, 그 과정에서 우리는 수학을 더 심도 있게 이해할 수 있었습니다. 또한, 20세기 들어 상대성 이론과 양자 역학 등 새로운 물리학의 분야가 열리면서, 힐베르트의 프로그램은 더욱 활기를 띄게 되었습니다. 이러한 다양한 발전을 모두 소개할 수는 없겠지만, 만약 다음 원고를 쓸 기회가 주어진다면, 미시 세계의 운동방정식으로부터 유체 역학의 기초를 세우는 작업을 소개해 보고자 합니다.