거친 기하학coarse geometry은 거리공간metric space이 먼 경우에도 드러나는 특징에 대해서만 집중하는 기하학의 분야이다. 무한한 평면상에 수직선들과 수평선들로 이루어진 격자무늬를 생각해보자. 이웃한 두 수직선 간의 거리가 정확히 1만큼 떨어져 있도록 무한히 많은 수직선들을 그리고, 같은 방식으로 무한히 많은 수평선들도 그렸다고 해보자. 가까이서 보면 이 격자무늬에 뚫린 구멍들이 아주 잘 보일 것이다. 그런데 관찰자가 평면으로부터 점점 멀어지면 격자무늬가 어떻게 보일까?

 

수평선들 간의 간격에 비해서 관찰자와 평면 사이의 거리가 훨씬 멀다면, 사실 수평선들 사이의 틈은 잘 보이지 않을 것이다. 수직선들의 경우도 마찬가지다. 따라서 우리 눈에 보이는 격자무늬는 점점 더 촘촘해져 보일 것이다. 수직선들 간의 간격과 수평선들 간의 간격이 1이 아니라 0.1, 0.01, 0.001, … 과 같이 점점 더 촘촘하게 그려진 격자무늬를 보는 것과 그 효과는 동일하다. 그렇다면 관찰자가 무한히 멀리 떨어져서 볼 경우, 격자가 평면 전체를 다 채우고 있는 것처럼 보일 것이다. 즉 무한히 멀리 떨어져서 본다면 격자무늬와 평면 그 자체는 구분할 수가 없다. 이 경우 우리는 격자무늬와 평면이 ‘거칠게 보면 똑같다coarsely equivalent‘라고 표현한다.

거친 기하학의 세계에서 유한한 물체는 모두 점과 같다. 지구와 같이 큰 물체를 생각하더라도, 무한히 멀리 떨어져서 보면 한 개의 점처럼 보일 것이기 때문이다. 거친 기하학의 관점에서 두 공간이 다르게 보이려면 최소한 두 공간은 무한히 커야 하고, 멀리서 보기에도 전혀 다른 어떤 특징을 가지고 있어야 한다. 거친 기하학의 관점에서 평면과 다른 무한한 공간의 예로는 어떤 것이 있을까? 가장 대표적인 예가 바로 ‘쌍곡평면hyperbolic plane‘이다. 쌍곡평면은 평평한 평면과 같이 무한한 2차원 공간이지만, 그 기하적인 생김새는 꽤 다르다. 수학적으로는 모든 곳에 동일한 음의 곡률negative curvature를 가지는 공간으로 정의를 할 수 있지만, 이번 글에서는 곡률 자체를 설명하기보다 음의 곡률을 가지는 거리공간의 특징을 좀 더 쉬운 방식으로 이야기하고자 한다.

쌍곡평면과 구분하기 위해, 앞서 이야기하던 평평한 평면을 유클리드 평면이라고 부른다. 20세기 가장 위대한 수학자 중 하나인 미하일 그로모프Mikhail Gromov, 1943~는 쌍곡평면에서의 삼각형들과 유클리드 평면에서의 삼각형들의 모양을 비교해보면서 재미있는 차이점을 발견했다. 삼각형 안쪽에 쏙 들어가면서 삼각형의 각 변과 접하는 원을 그릴 수 있는데, 이를 내접원inscribed circle이라고 부른다. 유클리드 평면에서는 커다란 삼각형을 그리면 내접원의 크기도 같이 커져서, 아무리 큰 수를 생각하여도 그 수보다 큰 지름의 내접원을 갖는 삼각형을 그릴 수가 있다. 하지만 쌍곡평면에서는 아무리 큰 삼각형을 그려도 그 삼각형의 내접원의 지름은 어떤 특정한 수보다 항상 작거나 같게 된다. 이 말의 의미를 잘 생각해보면 쌍곡평면에서 삼각형의 각 변은 엄청나게 길더라도, 전체 삼각형의 모양은 아주 날씬한 형태여야 한다는 것을 알 수 있다.

 

이러한 특징을 가지는 거리공간이 있으면, 우리는 이 거리공간의 삼각형들이 ‘균일하게 날씬하다uniformly thin‘고 한다. 그로모프는 이렇게 균일하게 날씬한 삼각형들을 가지는 것이 거리공간이 음의 곡률을 가진다는 것의 정의로써 가장 적합하다고 보았고, 이러한 거리공간들을 쌍곡거리공간이라고 이름 붙였다. 따라서 쌍곡평면은 쌍곡거리공간의 한 예다.

 

쌍곡평면과 유클리드 평면을 멀리 떨어져서 바라본다고 상상해보자. 양쪽에 점점 더 커다란 삼각형을 그려나가면, 쌍곡평면에서는 이들이 균일하게 날씬하고, 유클리드 평면에서는 점점 뚱뚱해지므로 두 공간의 생김새가 구분될 것이다. 이렇게 두 공간의 삼각형의 날씬한 정도를 비교하는 관점을 이용해 쌍곡거리공간의 개념을 더 일반화한 CAT(k) 공간*이라는 개념이 정의되었고, 이후 이러한 거리공간의 이론들과 거친 기하학과의 관계가 많이 연구되어 왔다.

재미있는 사실은 ‘모든 삼각형들이 균일하게 날씬하다’는 성질이 거칠게 보아 똑같은 두 거리공간 사이에서는 보존된다는 것이다. 다시 말해서 어떠한 거리공간에서 모든 삼각형들이 균일하게 날씬하다면, 이 거리공간과 거칠게 보아 똑같은 임의의 또 다른 거리공간에서도 모든 삼각형들이 균일하게 날씬하다. 이것은 그로모프로 하여금 쌍곡군hyperbolic group, 즉 음의 곡률을 가진 군group의 개념을 창시할 수 있게 한 중요한 관찰이었다.

group은 그 정의 자체로만 보면 순수하게 대수적인 대상이다. 어떠한 집합에 몇 가지 대수적 규칙을 만족하는 연산을 정의한 것이 군이다. 예를 들어 정수들의 집합에 덧셈이라는 연산을 생각하면 군이 된다. 군의 어떤 부분집합이 있어서 그 부분집합 안의 원소들만으로 군의 모든 원소를 만들어낼 수 있을 때, 이 부분집합을 생성집합generating set이라고 하고, 생성집합의 원소들을 생성자generator라고 한다. 정수들로 이루어진 군의 경우에는 1이라는 원소 하나가 생성집합을 이룬다. 임의의 정수를 가져와도 1을 여러 번 더하거나 빼는 것만으로도 그 정수를 만들 수 있기 때문이다. 그러나 군이 주어져도 생성집합은 유일하게 결정되지 않는데, 예를 들어 정수 2와 3으로 이루어진 집합도 정수들의 군의 생성집합이 된다. 3에서 2를 빼면 1을 만들 수 있고, 이것을 여러 번 더하거나 빼서 모든 정수를 만들 수 있기 때문에, 3과 2를 여러 번 더하거나 빼서 모든 정수를 만들 수 있다는 것을 쉽게 알 수 있다.

정수들의 군과 같이 유한 개의 원소로 이루어진 생성집합을 가지는 군을 유한생성군finitely generated group이라고 한다. 유한생성군의 경우 쉽게 이것을 거리공간으로 만들 수 있다. 주어진 유한생성군의 각 원소를 하나의 점으로 생각하자. 하나의 원소에 생성자를 하나 더해서 다른 원소를 얻을 수 있을 때, 이 두 원소를 표현하는 두 점 사이에 변을 긋는다. 이렇게 하면 주어진 유한생성군 전체를 하나의 그래프로 만들 수 있다. 생성집합이 유한 개의 원소만 갖기 때문에, 이 그래프의 각 점에는 유한 개의 변만 연결되어 있다. 변 하나의 길이를 1이라고 하고, 임의의 두 점 사이의 거리는 이 두 점을 연결하는 그래프 상의 경로 중 최소 개수의 변을 사용하는 경로에 포함된 변의 개수로 정의하자. 즉, 그래프 상에서 가장 효율적으로 이동할 때 몇 개의 변을 지나가는지에 따라 두 점 사이의 거리가 결정되는 것이다. 이렇게 만들어진 그래프를 군의 케일리 그래프Cayley graph라고 한다. 앞서 말했듯, 생성집합이 유일하게 결정되지 않기 때문에 케일리 그래프는 주어진 군뿐만 아니라 군의 생성집합을 어떤 것으로 선택했느냐에 따라서도 달라진다.

 

그런데 수학적으로 쉽게 증명할 수 있는 사실은, 주어진 유한생성군에서 두 개의 서로 다른 유한한 생성집합을 선택하였을 때, 두 집합으로 얻어지는 두 개의 서로 다른 케일리 그래프가 사실은 거칠게 보면 똑같다는 것이다! 따라서 유한생성군은 거친 기하학의 관점에서는 하나의 잘 정의된 거리공간으로 볼 수 있다. 이렇게 거리공간으로 보았을 때 쌍곡거리공간이 되는 유한생성군을 쌍곡군이라고 한다. 거칠게 보면 똑같은 거리공간에서 ‘삼각형들이 균일하게 날씬하다’는 성질이 보존되는 것을 다시 떠올려보면 쌍곡군의 개념이 특정한 케일리 그래프의 성질이 아니라 군 자체가 가지고 있는 성질이라는 것을 알 수 있다.

 

유한생성군을 거친 기하학의 관점에서 거리공간으로 봤을 때 나타나는 기하학적인 특징과, 그 군이 “표현”하는 공간의 기하 사이에는 매우 밀접한 관련이 있다. 저차원 공간의 경우 주어진 기하적인 모양이 자연스럽게 쌍곡거리공간이 되는 경우가 압도적으로 많은데, 이 때문에 우리가 쉽게 접할 수 있는 많은 군들은 사실 쌍곡군이 된다. 군의 기하와 공간의 기하 사이의 관계에 관한 재미있는 이야기는 다음 기회에 좀 더 자세하게 해보고 싶다. 쌍곡군이라는 개념은 군론group theory에서 제기되는 순수하게 대수적인 문제들을 해결하는 데에도 큰 도움이 되었다. 예를 들어 주어진 군의 두 원소가 켤레인지를 판단하는 문제는 일반적인 군에서는 어려우나, 쌍곡군에서는 아주 빠르게 답을 할 수 있는 알고리즘이 알려져 있다. 쌍곡군의 개념과 그 성질에 대한 많은 연구들은 현대에 와서 기하군론geometric group theory이라는 분야의 큰 부분을 차지하고 있다.

백형렬
HORIZON 편집위원, KAIST 수리과학과 조교수