필자의 지난 번 글 연속성의 상대성에서 시간의 흐름, 강물의 흐름 등을 이야기하며 흐름이라는 말이 “연속적인 변화”를 나타내고 있다는 이야기를 하였다. 다시 생각해봐도 시간의 흐름은 필자에게는 너무 어려운 이야기인 것 같고 강물의 흐름을 생각해보려고 한다. 강물이 차지하고 있는 공간 자체는 변하지 않고 그대로 유지된다고 가정해보자. 이 속에 속해있는 물 분자들은 시간에 따라 이 공간 내의 한 점에서 다른 점으로 연속적으로 이동해간다. 강물이 차지하고 있는 공간을 M라고 했을 때, 이렇게 물 분자들이 흘러가는 것이 바로 M에서의 흐름이다. 사실 공간의 흐름이라는 개념이 Horizon에 처음 소개되는 것은 아니다. 고등과학원 최경수 교수님의 ‘곡면의 열방정식‘ 연재 글, Postech 최범준 교수님의 ‘등주부등식, 곡률흐름 그리고 질량‘, KAIST 박지원 교수님의 ‘휘어진 공간의 극한은 어떻게 생겼을까‘ 등에서 기하학적인 흐름이 무엇인가에 관해서 다루어졌었다. 그러한 흐름을 생각하는 문맥과 배경, 그를 통해 알 수 있는 것들에 대해서 잘 소개된 글들이지만 흐름 그 자체가 무엇인지를 조금 더 이야기해보는 것도 의미가 있겠다는 생각이 들었다. 이러한 기하학적인 흐름들이 푸앙카레 추측의 증명을 포함하여 현대 수학에 굵직한 하나의 흐름이 되고 있다는 것을 생각하면 흐름에 대한 생각의 흐름을 정리해둘 필요가 있을 것 같다.

다시 강물로 돌아가보자. 강물이 차지하는 공간이 변함없이 유지된다는 가정도 물리학적으로 무리인데 수학적인 흐름에 대해서 이야기하려면 더 무리한 가정을 해야할 것 같다. 우선 물 분자 하나가 시간에 따라 어떻게 이동하는지를 쭉 지켜보았을 때의 전체 궤적을 흐름선이라고 부른다. 물리적으로는 물 분자들 사이에는 틈이 존재하겠지만 M의 모든 점에 물 분자가 하나씩 있는, 틈 없는 연속적으로 꽉 찬 것으로 이해해보도록 하자 이런 생각을 할 때마다 세상 자체는 이산적인데 연속적인 것처럼 근사를 하는 것은 그저 인간의 관점이 아닌가 하는 생각이 든다. M에 속한 임의의 점 p를 골랐다고 해보자. 어떤 시각에 그곳에 있는 물 분자를 고려한다면 이 점 p는 이 물 분자가 가는 길, 즉 어떤 흐름선에 속하는 점이 된다. 실제로는 어떤 두 개의 서로 다른 시점 t1, t2에 p를 지나가는 물 분자 O1, O2를 생각하면, 이 시점들 이후 O1이 가는 경로와 O2가 가는 경로가 같을 이유는 없을 것이다. 그러나 일반적으로 수학적으로 어떤 공간의 흐름이라고 하면 흐름선 자체는 변하지 않고 안정된 것으로 본다. 즉, t1 이후 O1이 가는 길과, t2 이후 O2가 가는 길은 같다고 가정하자. 이러한 가정 하에서는 두 개의 흐름선은 교차할 수 없다.

지금까지 설명한 상황 하에서 M의 모든 점이 어떤 흐름선에 속하고, 흐름선들은 서로 만나지 않는다, 그래서 공간 M자체를 흐름선들의 다발로 생각할 수 있다. 위에서 들었던 강물의 예시처럼, 우리는 항상 M을 3차원 공간으로 가정할 것이다. 가장 큰 이유는 아무래도 우리에게 가장 친숙한 차원이기 때문이다. 3차원 공간은 아무리 복잡해도 그 속에 들어가 있다고 생각하면 시각화가 가능하다 최소한 필자의 스승인 윌리엄 서스턴William Thurston은 그렇게 말했다 . 이렇게 어떤 공간을 그보다 낮은 차원의 부분공간들을 다발로 묶어놓은 것처럼 보는 관점을 수학에서는 엽층구조 foliation 이라고 부른다. 이때 사용된 부분공간들의 차원에 따라 엽층구조의 차원을 정의한다. 즉 위에서 설명한 것을 요약하면 M에 어떤 흐름이 있을 때 M이 흐름선들로 구성된 1차원 엽층구조를 가진다는 것이다.

공간 상의 흐름은 군의 작용으로 해석하면 사실 아주 간단하다. 군에 관해서는 필자가 이미 이전 글들에서 여러 번 설명한 바 있다. 한 문장으로 요약하면 집합에 이항연산이 있고, 항등원이 존재하고, 모든 원소가 역원을 가지며, 결합법칙이 성립할 때 이를 군이라고 한다. 실수들의 집합인 R도 덧셈 연산을 고려하면 군으로 볼 수 있다. 모든 실수는 0과 더했을 때 자기 자신이므로 0이 항등원이고, 또 임의의 실수에 –1을 곱한 수와 원래의 수를 더하면 0이 되므로 –1을 곱한 수가 역원이 된다. 세 실수 a, b, c가 있을 때 a와 b의 합에 c를 더하는 것과 a에 b와 c의 합을 더하는 것의 결과는 같으므로 결합법칙 또한 성립한다. 어떤 공간 M에 R이 작용한다는 것은, 각각의 실수에 대응되는 M의 동형사상이 있고, 이 동형사상들의 모임이 군으로서 R과 같아진다는 것이다.

동형사상은 M에서 M으로 가는 일대일 대응인 연속함수이면서, 그 역함수 또한 연속인 함수이다 함수가 연속이라는 것의 의미에 대해서는 필자의 이전 글 ‘연속성의 상대성‘을 참고하기 바란다. 일대일 대응이기 때문에 원래의 함수를 가지고 역방향으로 가는 함수를 정의할 수 있는데, 원래의 함수와 이 역방향 함수를 연달아 적용하면 모든 원소가 자기 자신으로 가는 M상의 항등함수가 얻어진다. 항등함수와 어떤 동형사상을 연달아 적용해도 주어진 동형사상과 같은 함수가 되므로 항등함수는 항등원의 역할을 한다. 그래서 R의 원소들을 동형사상들에 대응시킬 때 R의 항등원인 0은 반드시 항등함수에 대응되어야 하며, 실수 a에 대응된 함수와 –a에 대응된 함수는 서로 역함수 관계이어야 한다. 이렇게 R과 군으로서 같은 동형사상의 모임이 존재할 때, R이 M에 (연속적으로) 작용한다고 한다.

필자의 이전 글 ‘자유를 원한다면 탁구를 쳐라‘에서 사용했던 표현을 빌리면 M에서 M으로 가는 함수는 M상의 ‘움직임’으로 표현하였다. 함수를 적용하면 M에 있는 점들이 다른 점들로 이동해가기 때문이다. 동형사상의 정의를 이러한 움직임 관점에서 다시 곱씹어보면, 동형사상이란 어떠한 두 점도 같은 점으로 이동하지 않는 연속적인 움직임이면서 역방향의 움직임도 잘 정의되고 이 또한 연속적인 움직임인 함수이다. R이 M에 작용이 있다고 하고, f를 R의 원소 1에 대응되는 동형사상이라고 하자. 그러면 2는 1+1이므로, 2에 대응되는 함수는 f를 두 번 연달아 적용한 함수이다. f2라고 표기하자. 같은 방식으로 생각하면 임의의 자연수 n에 대응되는 함수는 f를 n번 연달아 적용한 함수 fn이 된다. M의 점들이 f를 연달아 적용하면서 어떻게 이동하는지 보는 관점은 ‘자유를 원한다면 탁구를 쳐라‘에 묘사된 상황과 같다. 이것은 M상의 흐름을 시간이 1초, 2초, 3초, … 흐른 뒤 어떻게 변하는지 보는, 즉 스냅샷으로 움직임을 관찰하는 것과 같다. 흐름이란 이렇게 스냅샷으로만 움직임의 정보가 주어지는게 아니라 연속적인 시간의 흐름에 따라 어떻게 변화하는지 그 움직임 전체를 보여주는 것으로 생각할 수도 있다.

3차원 공간의 흐름 중 2차원 공간의 움직임으로부터 건설되는 녀석들이 있다. 이는 비교적 상상해보기 쉽고 수학적으로도 많은 것들이 알려져 있으니 어떤 흐름들인지 한번 같이 살펴보자. 먼저 2차원 공간, 즉 곡면을 하나 생각하고 S라고 부르자. 또 S의 동형사상 f를 하나 생각하도록 하자. 먼저 S가 무시할 수 없는 두께를 가지고 있다고 생각해보자. 예를 들어 S가 원판이었다면 두께를 고려하면 사실은 원기둥 모양이 된다. 이렇게 두께를 고려하면 3차원의 도형이 되고, 양쪽에 S 모양의 경계면이 하나씩 있다. 이렇게 S를 두껍게 만들어 얻어진 3차원 모양을 N이라고 부르자. 그리고 N의 한쪽 경계면을 S0, 다른 쪽 경계면을 S1이라고 하자. S0과 S1은 모두 S와 생긴 것은 같은 곡면이다. 즉, S0나 S1의 모든 점은 S의 어떤 점과 대응관계를 줄 수 있다. S0상의 모든 점을 그에 대응되는 S1의 점으로 N안에서 선으로 연결해보자. 그러면 N은 두 경계면을 연결하는 선들의 다발의 형태를 가지게 된다, 즉 1차원 엽층구조이다 (그림 1).

이번에는 S1과 S0를 f를 이용해서 이어 붙이려고 한다. 먼저 예시와 같이 S0, S1이 원판이었다면 N은 원기둥 모양이다. 원기둥 모양을 둥글게 구부려서 양쪽에 있는 원판을 이어붙이면 도넛 모양이 된다. 여기서 이어 붙인다는 것은 S1의 각점을 S0의 한점에 대응시키고, 이 대응관계에 속하는 점들이 한 점이 되도록 S1을 S0위로 포갠다는 것이다. S1의 각 점은 S의 한 점으로 이해했을 때 f를 통해 다른 점으로 이동되고 이에 대응되는 S0의 점이 있다. 이런 식으로 f를 이용하여 S1의 각 점을 S0의 한 점에 대응시킬 수 있고, 이 대응관계를 이용하여 포개어 본다. 그러면 일종의 도넛 모양의 3차원 공간이 얻어지는데, 이를 Mf라고 부르자. Mf와 같은 공간을 사상 원환 mapping torus 라고 한다 (그림 2).

원판을 가지고 만든 도넛은 어느 지점의 단면을 잘라보아도 원판이듯이, Mf의 단면은 항상 S과 같은 모양의 곡면이다. 여기서 중요한 것은 N의 다발을 이루던 선들이 Mf에서 이어 붙어서 다발을 이룬다는 것이다. f가 동형사상이기 때문에 S0에서 S1 방향으로 이동하여도 선이 무한히 이어지고, S1에서 S0 방향으로 이동하여도 선이 무한히 이어진다. 즉, Mf에도 1차원 엽층구조가 존재하고, 이 엽층구조를 이루는 선들은 양방향으로 무한한 직선이 된다. 이 직선들을 따라 모두 같은 속도로 이동한다고 생각하면 이것은 Mf에서의 흐름이 된다. 이런 방식으로 건설된 사상 원환 속의 흐름을 서스펜션 흐름 suspension flow 라고 한다.

Mf의 단면 S를 생각하자(예를 들어 포개어진 후의 S0를 고려해보면 된다). 서스펜션 흐름과 S사이의 관계로부터 다음과 같은 사실들을 관찰할 수 있다. 먼저 서스펜션 흐름의 모든 흐름선은 S를 관통한다. 즉, 흐름선이 S에 닿았다가 반대방향으로 넘어가지 않고 그대로 돌아나오는 경우는 없다. 그리고 S의 한 점 p에서 출발하여 서스펜션 흐름의 흐름선을 따라 가다가 처음 다시 S를 만날 때 만나는 곳을 보면 사실은 f(p), 즉 f를 통해 p가 옮겨진 점이 된다는 것을 알 수 있다. 애초에 사상 원환이 어떻게 건설되었는지 생각해보면 당연한 것이다. 즉, S에서 출발하여 서스펜션 흐름을 따라가서 S로 돌아오는 것이 함수 f와 같다. 여기까지는 당연한 관찰들인데, 당연하지 않고 사실 엄밀히 설명하기 어려운 관찰은 바로 Mf 안에 서스펜션 흐름의 흐름선들이 관통하는 다른 곡면들이 무수히 많이 있다는 것이다. 이 중 하나를 S’이라고 해보자. 여기서 역시 S’에서 출발하여 서스펜션 흐름을 따라가다가 S‘로 돌아오는 것을 함수 f’라고 하자. 이것이 무슨 말인지 생각해보면 Mf와, S’과 f’을 이용하여 위의 방식으로 건설한 사상 원환 Mf‘가 사실 같은 공간이라는 것이다. 즉, 사상 원환으로 만들어진 3차원 공간은 같은 공간을 사상 원환으로 볼 수 있는 서로 다른 방법이 무수히 많이 존재한다! 그리고 이 무수히 많은 방법들을 관통하고 있는 것이 바로 Mf의 서스펜션 흐름이다. 이 무수히 많은 방법들이 서스펜션 흐름을 공유하고 있기 때문이다 또 이 흐름선들이 각 곡면을 관통하고 있으니 관통한다는 표현이 제법 그럴 듯하다 .

주어진 곡면에서 자기 자신으로 가는 동형사상은 윌리엄 서스턴에 의해서 분류되었다. 사상을 연속적으로 변화시키는 것을 허용하면 곡면의 자기 동형사상은 세 가지 유형을 가진다. 첫 번째는 주기성을 가지는 사상, 즉 몇 번 반복해서 적용하면 항등함수가 되는 사상이다. (유형 1)  두 번째는 곡면 위에 놓여진 몇 개의 서로 만나지 않고, 자기 자신을 통과하지 않는 닫힌 곡선들을 보존하는 사상이다. 이렇게 서로 만나지 않는 닫힌 곡선들이 보존되면, 이 사상은 곡면을 이 곡선들을 잘라서 만들어지는 곡면 상의 사상으로 해석할 수 있다. 이렇게 곡선들을 따라 잘라낸 곡면은 기존의 곡면보다 위상적으로 더 간단한 곡면이 되고, 이 간단한 곡면 위에서 다시 서스턴의 분류 정리를 적용한다. 두 번째 경우도 또 나타나면, 그 곡면을 또 곡선을 따라서 잘라내고 분류 정리를 적용하는 것을 반복할 수 있다. 이런 과정에서 곡면이 더 이상 단순화될 수 없는 작은 조각들로 쪼개지고 나면 분류가 끝난다. (유형 2)

곡면에 대해서 조금 더 지식이 있는 독자들을 위해 여기서 단순하다는 것의 의미를 이야기하자면, 곡면의 종수의 3배에 경계선의 개수를 더한 것을 곡면의 위상적 복잡도라고 정의한다. 곡면을 닫힌 곡선을 따라서 자르면 종수가 1 줄어들고 대신 자르는데 이용한 닫힌 곡선이 두 개의 경계선을 추가하여 경계선의 개수가 2 늘어난다. 그러면 결과적으로 복잡도는 1이 줄어든다. 복잡도는 자연수이므로, 계속 줄이다보면 더 이상 줄일 수 없는 순간이 반드시 오게 되어있고, 이때가 분류가 끝나는 순간이다. 참고로 말하면 3차원 공간도 이렇게 곡면을 따라 잘라서 더 단순한 모양들로 나누고, 각 단순한 모양이 어떤 형태들이 나타나는지 분류하는 방법으로 이해할 수 있다. 언젠가 이 주제로도 독자들을 만나볼 수 있도록 하겠다.

마지막 세 번째 유형이 바로 수도아나사브 사상이다. (유형 3) 수도아나사브 사상을 엄밀히 정의하는 것은 어려우니 여기서는 앞의 두 가지 유형이 아닌 모든 사상이라고만 해두려고 한다. 특징은 곡면 위에서 어떤 자기 자신을 통과하지 않는 닫힌 곡선 두 개를 가지고 와도, 한 곡선에 사상을 반복 적용하면 반드시 다른 한 곡선을 통과하게 만들 수 있다는 것이다. 곡면의 어떤 부분도 빼놓지 않고 골고루 잘 섞어주는 함수라고 상상해보면 좋을 것 같다. 서스턴이 보인 것은 사상 원환 Mf가 3차원 쌍곡 공간이 될 필요충분조건이 f가 수도아나사브 사상이라는 것이다. 앞의 두 유형은 주기성을 가지거나 어떤 닫힌 곡선들을 보존하기 때문에 곡면 상의 점들을 충분히 골고루 잘 섞어 주지 못한다. 서스턴의 정리는 곡면 위의 점들을 잘 섞어주는 모든 사상은 이로부터 만들어지는 3차원 공간에 쌍곡 공간의 구조를 준다는 매우 심오하고도 중요한 정리이다. 2차원 동역학계의 특성이 3차원 공간의 기하적인 특성을 결정 짓는다. 참고로 쌍곡 공간의 생김새에 대해서는 김동률 학생의 최근 연재 글 ‘3차원 쌍곡 공간의 강직성‘을 참고하면 좋을 것 같다.

수도아나사브 사상으로 만들어지는 사상 원환의 서스펜션 흐름은 수도아나사브 흐름pseudo-Anosov flow 라고 부르는 흐름의 특별한 경우이다. 수도아나사브 흐름은 몇 개의 흐름선을 제하면 남은 부분이 아나사브스 흐름이 되는 흐름이다. 아나사브 흐름은 다음과 같이 생각할 수 있다. 흐름선을 따라 가는 방향에 수직한 정확한 표현은 아니지만 그렇게 상상해보면 도움이 된다 두 개의 방향이 있어, 흐름선을 따라 갈 때 한 쪽 방향으로는 주변의 점들이 그 방향을 따라 점점 더 멀어지고, 또 다른 방향으로는 주변의 점들이 그 방향을 따라 점점 가까워진다. 점점 멀어지는 방향을 불안정한 방향, 점점 가까워지는 방향을 안정한 방향이라고 한다 (그림 3, 3-1, 3-2)

흐름선들로 이루어진 공간, 말하자면 흐름선 다발의 단면을 보면 불안정한 방향들을 이어서 만드는 1차원 엽층 구조 불안정한 엽층구조 와 안정한 방향들을 이어서 만드는 1차원 엽층구조 안정한 엽층구조 , 이렇게 두 개의 1차원 엽층구조를 얻게 된다. 흐름선들의 다발로 이루어진 정사각형을 생각해볼 수 있는데, 여기서 정사각형은 흐름선 다발의 단면에 그려져있고, 마주보는 한 쌍의 변은 불안정한 엽층구조의 선들의 일부로, 다른 한 쌍은 안정한 엽층구조의 선들의 일부로 이루어진 것이다. 흐름선을 따라 가면서 이 사각형이 어떻게 변하는지 살펴보면 불안정한 엽층구조의 선들로 이루어진 변들은 점점 길어지고, 안정한 엽층구조의 선들로 이루어진 변들은 점점 짧아진다. 이것이 반복되면 결국 한쪽으로는 계속 길어지고 다른 한쪽으로는 계속 좁아져서 점점 더 얇고 긴 직사각형이 된다. 유한한 공간에서 이렇게 무한히 길어지는 직사각형은 결국 공간 전체에서 구석구석 돌아다니게 된다. 수도아나사브 사상의 서스펜션 흐름이 수도아나사브 흐름인 것과 수도아나사브 사상이 곡면의 점들을 잘 섞어 준다는 것을 이렇게도 연결지어 볼 수 있다. 수도아나사브 흐름으로부터 아나사브 흐름을 만들 때 제거해준 몇 개의 흐름선을 따라갈 때는 이렇게 가까워지고 멀어지는 방향이 한 쌍만 존재하는게 아니라 여러 쌍 존재한다. 예를 들어 세 쌍이 존재하는 흐름선의 주변에는 위에서처럼 안정한 엽층구조와 불안정 엽층구조의 선들을 번갈아가면서 이용해서 만드는 육각형 모양의 다발이 있다. 흐름선을 따라갈 때 이 육각형의 서로 인접하지 않은 세 개의 변은 점점 더 길이지고, 나머지 변들은 점점 더 짧아지면서 짧아지는 쪽으로는 육각형 자체가 점점 길어진다. 상상력이 풍부한 독자라면 이미 깨달았겠지만 이 육각형은 한참의 시간이 흐른 후에는 삼각형으로 점점 더 수렴해갈 것이다.

수도아나사브 흐름과 같이 특별한 구조를 가진 흐름들은 3차원 공간 안의 순전삼각화, 빽빽한 2차원 엽층구조 등 다양한 다른 구조들과 긴밀한 관계를 가지고 있다. 서로 다른 구조들이 어떻게 연관되어 있고, 각 구조가 3차원 공간의 다양한 특성을 어떻게 반영하고 있는지를 살피는 것은 3차원 공간 연구에 가장 중요한 흐름 중의 하나로 자리잡았다.

백형렬
KAIST 수리과학과 부교수