연속성의 상대성

학생들을 가르치는 직업을 가지고 있다 보니 스스로 나이가 들어가는 것을 종종 잊곤 한다. 그만큼 항상 젊은 마음을 유지할 수 있다는 것이기도 하겠지만, 문득 정신을 차려보면 순식간에 지나간 시간에 놀라곤 한다. 이런 느낌은 비단 필자만 느끼는 것이 아니라 많은 사람들이 느끼는 듯하다. 우리는 종종 이를 두고 ‘시간이 빠르게 흐른다’라고 한다. 그런데 시간의 변화를 흐른다고 표현하는 것이 흥미롭다. 마치 강물이 흘러가는 것처럼 유유히, 그리고 끊임없이 지나가고 있는 시간을 흐른다고 표현하게 된다. 이렇게 시간을 흐르는 대상으로 느낀다는 것은 다시 말해 우리가 그것이 ‘연속적이다’라고 느낀다는 것이다. 시간은 어느 순간 갑자기 멈췄다가 갑자기 다시 흐르지 않는다. 그 어떤 ‘불연속’적인 순간도 없이 항상 흘러가고 있는 것이다.

이렇게 말하고 보면 무엇인가가 ‘연속적이다’라는 것은 직관적으로 이해하기 쉬운 개념인 것 같다. 공간상에서 벌어지는 어떠한 변화가, 마치 강물이 흐르는 것 같이 ‘연속적인’ 변화라는 것은 수학적으로는 어떤 의미일까. 예전에 필자가 Horizon에 ‘거리 개념이 없는 공간에서 가깝고 멂을 정의하기’라는 글을 쓴 적이 있다. 여기서는 수학적으로 ‘공간’이라는 것, ‘형태’라는 것, 어떤 점 주변의 ‘근방’이라는 것들이 어떤 의미를 가지는지 이야기를 해보았다. 그 글의 서두에 위상수학을 대개의 사람들이 다음과 같이 설명한다는 말을 하였다.

위상수학이 무엇이냐고 물으면 다들 비슷한 이야기로 시작한다. 물체 혹은 공간을 자르거나 붙이거나 하지 않고, 마치 고무 밴드와 같은 물질로 만들어져 있다고 상상하면서 구부리거나 늘리거나 압축하는 등의 변화를 허용하면서 공부한다는 것이다.

여기서도 ‘변화’라는 단어를 사용했다. 두 개의 위상공간이 같은 공간으로 여겨지려면 이때의 변화가 수학적으로 연속적인 것이라야 한다. 공간을 자르는 행위는 무언가 연속적으로 이어진 공간을 끊음으로써 불연속함을 끌어들인다. 반대로 원래 이어져있지 않은 부분을 갑자기 붙이는 것도 연속적이라는 말에 어울리지 않는다. 2023년 12월 25일이 끝나는 순간과 2024년 12월 25일 시작하는 순간을 이어붙이면 이틀 연속 크리스마스라서 신나긴 하겠지만 시간의 흐름의 관점에서 보면 1년이라는 시간을 건너뛰고 불연속적인 점프를 하게 된다. 이런 변화들은 자연스럽게 불연속적인 것으로 여겨진다. 반대로 어떤 물체를 꾸준히 같은 속도로 천천히 구부린다면, 말 그대로 연속적으로 구부린다고 표현할법하다. 정말 이렇게 공간상의 모든 변화가 한눈에 보아도 연속인지 불연속인지 쉽게 드러나는 것일까. 거리 개념이 없는 공간에서 공간을 잘라내어 잘라진 두 단면 사이의 거리는 아무런 의미도 없는 것일 때, 이때도 우리는 이 변화가 불연속하다고 단언해서 말할 수 있을까. 끊임없이 같은 속도로 물체를 구부리는 것이 연속적이라는 것은 시간의 흐름의 연속성을 이미 전제한 뒤에 하는 말일 것이다. 시간의 흐름의 연속성 같은 것은 그냥 의심 없이 받아들여도 되는 것일까. 연속적이라는 말이 단순히 수사적인 표현이 아니라 수학적으로 살아 숨쉬는 엄밀한 단어가 되기 위해서 우리는 어떤 것들을 생각해야할까.

이런 질문에 답하기 위해서는 우선 함수의 연속성이 무엇인지 정의를 해야 한다. 하나의 함수가 정의되기 위해서는 두 공간이 있어야 한다. 공간 A와 공간 B라고 하자. 공간 A에서 공간 B로 가는 함수란, 공간 A의 각 점에 공간 B의 어떤 점의 이름이 쓰여진 이름표를 붙여주는 것이다. 무슨 말인지는 알 것 같지만 정말 이게 학교에서 배웠던 그 함수랑 같은 것인지 살짝 고개를 갸우뚱하는 분도 있을 법하다. 0부터 2까지의 구간에서 정의된 실수 값을 가진 함수를 떠올려보자. 0부터 2까지의 모든 실수에 임의의 실수를 값으로 부여한다. 이를 각 점에 한 개의 실수를 이름 붙여 준다고 표현할 수 있다. 위에서 “이름표”라고 표현한 것이 바로 함수값에 해당하는 것이다. 이름 붙인다는 표현대신 함수가 공간 A의 점들을 공간 B의 점들로 “보낸다”라고 표현하기도 한다. 0에서의 함수값이 2.7이라면 0을 2.7로 보낸다고 말하는 것이다. 함수라는 것을 공간 A에서 공간 B로 가는 움직임으로, 즉 좀더 동적인 대상으로 보는 관점에서 온 말이다. 최근에 필자가 ‘자유를 원한다면 탁구를 쳐라’라는 글에서 한 공간 위에서의 움직임들로 만들어지는 군에 대한 이야기를 다룬 적이 있는데, 이러한 움직임들은 어떤 공간에서 자기 자신으로 가는 함수들이기도 하다. 본질적으로 같은 것을 이렇게 여러 가지 관점에서 볼 수 있다.

강물의 흐름을 함수로 이해한다면 어떻게 생각할 수 있을까? ‘강물이 시간에 따라 흐른다’라는 것은 강물을 이루고 있는 각 물방울들의 위치가 시간에 따라 변화하는 것이라고 생각할 수 있겠다. 시간에 대응하는 공간 A(보통은 이를 실수들의 집합으로 대응시켜 상상하기 때문에 수직선을 떠올려볼 수 있다)로부터 우리가 살고있는 3차원 공간 B로 가는 함수라고 볼 수 있을 것이다. 강물의 흐름이 연속적이라는 것이 이 함수가 연속적이라는 것으로 해석할 수 있다. 그렇다면 글의 서두에서 언급한 시간의 흐름이라는 것은 어디에서 정의된 함수일까. 필자는 과문하여 사실 물리적으로 이 함수가 정의된 공간이 무엇인지 잘 모르겠다. 어쩌면 시간의 흐름은 인간의 의식에 존재하는 것인지도 모르겠다는 생각도 든다. 그래서 사실 ‘시간이 흐른다’는 것은 시간의 공간을 수직선과 같이 쭉 부드럽게 연결된 공간으로 본다는 의미라고 생각한다. 그렇게 보면 왜 그 공간상에서 우리는 한 방향으로만 움직일 수 있는가하는 의문이 든다. 하지만 이 의문에 답하는 것은 수학의 영역이 아닌 듯 보인다.

다시 본론으로 돌아와서 실수의 구간에서 정의되고 실수값을 가지는 이런 함수들은 연속인지 아닌지 보통 직관적으로 파악이 가능해보인다. 바로 함수의 그래프를 그려보면 연속된 곡선으로 표현되는지 불연속적으로 끊긴 점이 존재하는지 눈으로 확인 가능한 경우가 많기 때문이다. 하지만 다음과 같은 상황을 생각해보자. 어떤 학교의 학급에 24명의 학생들이 있다. 이 아이들에게 1번부터 24번까지 번호를 붙였다. 이것은 일종의 함수이다. 24명의 학생들로 이루어진 공간에서 자연수들의 공간으로 가는 함수. 학생 한 명 한 명에게 자연수 하나를 적어 이름표에 써서 붙여주었다. 이 예시의 함수는 연속적인가? 연속적이라고 생각한 사람이 있다면, 만약 1번부터 25번까지 번호를 부여하고 중간에 13번을 하나 건너뛰었다면 이 함수는 불연속적인가?

엄밀히 말하면 이 질문들에 정해진 답은 없다. 왜냐면 어떤 함수가 연속적인지를 알기 위해서는 함수를 정의하는데 쓰이는 두 공간의 형태를 알아야하기 때문이다. 24명의 학생들의 모임은 단순히 24명의 구성원을 명시했을 뿐, 이 모임을 공간으로써 어떻게 볼 것인지에 대해서는 아무 말도 하지 않았다. 공간으로서의 형태를 이야기한다는 것은, 어떤 구성원이 어떤 구성원과 가까이있고 멀리있는지, 누군가의 근방은 어떤 친구들로 구성되는지 등을 이야기한다는 것이다. ‘거리개념이 없는 공간에서 가깝고 멂을 정의하기’라는 글에서 이야기했듯이 이러한 약속들은 이 집합 상에 ‘위상구조’라는 것을 구성한다. 즉, 어떤 집합을 단순히 집합에 머무르지 않고 위상공간으로 형태를 가질 수 있게 해주는 것이다.

실수들의 집합은 우리가 자연스럽게 머릿속으로 형태를 그리게 된다. 바로 수직선의 형태로 보는 것이다. 수직선에서 어떤 두 수가 가깝고 더 먼지는 두 수의 차이를 가지고 쉽게 이야기할 수 있다. 실수들을 모아놓는 순간 우리는 직관적으로 이를 단순히 수들의 집합으로 보는게 아니라 어떤 형태를 가진 공간으로 보고 있다는 뜻이다. 그리고 우리는 이 형태를 이용해서 무언가가 이 위에서 연속적인지 아닌지를 판단한다. 우리가 직관적으로 이렇게 공간의 형태를 어떤 변화가 연속적인지 판단하는게 어떻게 사용하고 있는지를 좀 더 명료하게 표현해보자.

위상공간 A에서 위상공간 B로 가는 함수 F가 있다고 하자. 그리고 A의 한 점 a는 F에 의해서 b로 보내진다고 하자. 우리는 우선 F가 바로 이 점 a에서 연속적으로 변화하고 있는지 불연속적으로 변화하고 있는지를 수학적으로 정의해보고자 한다. 직관적으로 상상해보자. 물의 흐름처럼 혹은 시간의 흐름처럼, F라는 함수의 값이 A위에서 흐르고 있다, 그렇다면 a점에서 살짝 옆으로 움직였을 때 F의 함수값은 역시 살짝만 변할 것이다. a에서 함수값이 갑작스럽게 불연속적인 점프를 한다면, 아주 조금만 움직여도 함수값이 갑자기 변하게 된다. 조금 다르게 표현해보자. 함수가 어떤 점 a에서 연속이라는 것은, 함수값이 거의 변하지 않는 a의 근방을 잡을 수 있다는 것이다. 좀더 풀어 말하면, 아무리 작은 변화만 허용해도 근방을 충분히 작게만 잡으면 허용치 이내의 변화만 가지게 함수값을 제어할 수 있다는 의미이다. 위상공간의 근방이라는 개념을 이용하면 이를 이렇게 표현할 수 있다.

만약 b의 임의의 근방 V를 고려했을 때, V가 아무리 작더라도, a의 어떤 근방 U가 존재하여 F가 U의 모든 점들을 V 안으로 보낼 수 있다.

예를 들어 0부터 2까지의 구간에서 정의되고 실수값을 갖는 함수 H가 있다고 하자. H가 0보다 크거나 같고 1보다는 작은 모든 수에서 0의 값을 가지고, 1보다 크거나 같은 모든 수에서는 2의 값을 가진다고 해보자. 즉, 1에서 이 함수값은 갑자기 2만큼 증가하는 점프를 하게 된다. 1에서의 함수값 자체는 2이다. 실수들의 집합이 가지는 표준위상구조에 관해서는 ‘거리 개념이 없는 공간에서 가깝고 멂을 정의하기’ 글에서 이미 이야기한 바 있다. 여기서 1보다 크고 3보다 작은 모든 수를 모아놓은 구간은 열린집합이고, 2의 한 근방이다. 이 근방을 V로 잡아보자. 그러나 1에서 아무리 작은 근방을 잡아도, 즉 U를 1을 포함하는 어떤 열린 집합으로 잡아도 U는 항상 1보다 조금 작은 수들을 포함하게 된다. 여기서 함수값은 0이고, 따라서 H에 의해서 보내졌을 때 V안으로 쏙 들어가지 않는다. 위의 정의는 V를 아무리 작게 잡아서 우리가 함수값 주변의 작은 근방을 살펴보더라도, U를 충분히 작게 잡으면 함수가 U를 통째로 V안으로 넣을 수 있다는 것이다. 이것을 다시 한번 평범한 말로 다시 풀어보면 다음과 같다.

함수가 정의된 공간의 한 점에서 충분히 작은 근방 내에서는 함수값의 변화를 얼마든지 작게 제어할 수 있다.

이것이 우리가 “함수가 어떤 점에서 연속적이다”라고 부르는 것의 엄밀한 의미이다. “작은 근방”이라거나 “함수값의 변화를 작게 제어“라는 표현에서 ‘작다’라는 수식어가 들어갔는데 이것이 바로 함수의 정의에 필요한 두 공간의 위상구조가 쓰이는 부분이다. 형태가 주어지지 않는 집합에서는 무엇이 작고 무엇이 크다고 이야기할 수 없기에 연속성을 정의할 수 없는 것이다. 함수가 정의된 공간의 모든 점에서 연속일 때, 우리는 그 함수가 이 공간에서 연속이라고 표현하고 이러한 함수를 연속 함수^{continuous function}라고 부른다.

다시 한번 같은 학급 아이들에게 번호를 부여하는 함수의 예로 돌아가 보자. 24명은 예시를 구체적으로 살펴보기에 좀 많으니, 쉽게 정환, 지원, 서영 이렇게 세 명으로 이루어진 반이라고 하자. 여기에 위상구조를 줄 수 있는 방법은 여러 가지가 있다. 예를 들어 이 세 명의 집합이 가질 수 있는 모든 부분집합을 열린 집합이라고 해보자. 모든 부분집합이라면 공집합, {정환}, {지원}, {서영}, {정환, 지원}, {지원, 서영}, {정환, 서영}. {정환, 지원, 서영}, 이렇게 여덟 개다. 그림1은 이 공간의 열린집합들을 원 또는 타원으로 표현한 것이다. 이때 번호를 부여하는 함수는 연속일까? 지금까지 글을 잘 읽은 독자들은 아직 답할 수 없다고 말할 것이다. 번호들의 집합, 즉 자연수들의 집합에도 위상구조를 주어야하기 때문이다. 자연수들의 집합에도 사람들이 주로 사용하는 표준적인 위상구조가 있다. 모든 자연수에 대해서 하나의 자연수만 가지는 부분집합이 열린집합이 되게 하는 위상구조이다(지금 우리가 정환, 지원, 서영의 학급에 준 위상구조와 같은 방식이다). 참고로 이렇게 모든 원소가 스스로 열린집합을 이루는 위상구조를 일반적으로 이산적 위상구조^{discrete topology}라고 한다. 우리는 지금 세 아이로 이루어진 학급과 자연수들의 집합 양쪽 모두에 이산적 위상구조를 준 상황을 예로 들고 있다. 자 그러면 다시 한번 같은 질문을 해보자. 이때 번호를 부여하는 함수는 연속일까?

답부터 말하자면 이러한 상황에서는 번호를 부여하는 방식에 관계없이 이 함수는 항상 연속이다. 예를 들어 정환이는 3번이라고 해보자. 3의 임의의 근방은 3을 항상 포함한다(즉, 위의 정의에서 V를 무엇으로 잡든 3은 이미 그 안에 있다). 이때 정환이의 근방을 {정환}으로 잡으면(즉, {정환}을 U로 두면), 이 근방에는 정환이라는 점밖에 없고 이는 번호를 부여하는 함수가 당연히 V로 보낸다. 따라서 함수가 정의된 공간이 이산적 위상구조를 가지면 이 공간 위에서 정의된 모든 함수는 연속이다. 번호를 건너뛰어 붙이던, 모두에게 같은 번호를 붙이던, 아무런 상관이 없다. 모든 점이 각각 열린집합인 이산적 구조가 주어진 공간을 시간 공간의 부분 공간으로 상상해보자. 이 공간의 각 점은 서로 떨어져 띄엄띄어있는 점들이다. 마치 시간의 공간에서 ‘찰나의 순간들’만을 모아놓은 것과 같은 것이다. 이산적 구조에서는 모든 곳에서 시간이 정지해있다. 시간이 흐르지 않기에 다른 모든 것은 시간에 따라 흐르고 있는 셈이다.

위의 예시에서 또 하나 재밌는 점은 지원이와 서영이의 번호는 함수가 정환이에서 연속인 것에 영향을 주지 않는다는 것이다. 이는 사실 일반적인 위상구조에서 함수의 연속성에 대해서도 중요한 힌트를 준다. ‘거리 개념이 없는 공간에서 가깝고 멂을 정의하기’ 글의 끝에서 하우스도르프 공간에 대한 이야기를 했다. 임의의 서로 다른 두 점을 선택했을 때, 항상 두 점의 근방들을 서로 만나지 않게 잡을 수 있는 공간이 하우스도르프 공간이다. 이런 공간에서는 어떤 점에서 함수의 연속성이 다른 점에서의 함수의 연속성에 영향을 주지 않는다. 함수의 연속을 보이기 위해 충분히 작은 근방을 잡을 때, 다른 점의 근방과 만나지 않게 잡으면 되기 때문이다. 이런 관점에서도 하우스도르프 공간은 직관적으로 자연스러운 공간이다. 어떤 점에서의 불연속이 “떨어져 있는” 다른 점에서의 불연속을 일으킨다는 것이 이상하지 않은가. 물론 위상구조의 관점에서 이 두 점은 항상 근방을 공유하니 애초에 전혀 떨어져있는 것이 아니기는 하지만 말이다.

이번에는 이 세 학생의 학급에 다른 위상구조를 줘보도록 하자. 공집합, {정환, 지원}, {서영}, {정환, 지원, 서영}, 이렇게 네 개의 부분집합만 열린집합이라고 해보자. 그림2는 이 경우의 열린집합들을 보여준다. 이들이 열린집합들이 가져야할 세 가지 조건을 만족하는지 확인해보는 것은 독자들에게 맡긴다. 정환이가 1번, 지원이가 2번, 서영이가 3번을 부여받았다고 하자. 이 함수는 연속일까? 2의 근방 중 하나인 {2}를 생각해보자. 지원이에서의 함수값이 2이므로, 함수가 지원이에서 연속이려면 지원의 어떤 근방이 있어 여기서 함수값은 항상 2이어야 한다. 하지만 우리의 위상구조에서 지원이를 포함하는 모든 열린 집합은 정환이도 항상 포함하고, 정환이에서의 함수값은 1이다. 따라서 연속의 정의를 만족하지 못한다. 지원이와 정환이는 항상 근방을 공유한다. 이들이 다른 번호를 가지는 이상 이 함수는 연속일 수 없다. 만약 우리가 아까처럼 이산적 위상구조를 이용했다면 이 함수는 연속이었을 것이다. 집합에서 집합으로 가는 함수로서는 같은 함수이지만 주어진 집합이 어떤 위상적 형태를 가지느냐에 따라 이 함수는 연속일 수도 있고 연속이 아닐 수도 있다. 무엇이 연속인가는 이처럼 공간의 형태를 다르게 보는 순간 다른 기준을 가진다. 시간의 흐름은 연속적인가? 그것은 우리가 시간의 흐름을 무엇에 상대적인 것으로 보느냐에 따라 다른 것이다. 모든 것은 상대적이다. 서로 다른 기준을 가진 사람에게는 같은 대상도 다르게 해석된다.

함수의 정의에는 두 개의 공간이 있었다. 공간 A에서 공간 B로 가는 함수에서 우리는 공간 A의 형태에 따라 같은 함수가 연속일 수도 있고 연속이 아닐 수도 있음을 보았다. 하지만 이는 공간 B의 형태에 대해서도 마찬가지이다. 똑같이 공집합, {정환, 지원}, {서영}, {정환, 지원, 서영}, 이렇게 네 개의 부분집합만 열린 집합인 위상구조에서 정환이가 1번, 지원이가 2번, 서영이가 3번인 함수를 고려하더라도 자연수들의 집합에 다른 위상구조를 줌으로써 이 함수를 연속으로 만들 수 있다. 예를 들어 자연수들의 부분집합 중 {1, 2, 3}, {4}, {5}, {6}, … 과 같은 부분집합들과 그들의 합집합들만 열린 집합인 위상구조를 생각하면 우리가 원래 고려했던 함수는 연속이 됨을 알 수 있다.

필자의 스승인 고 윌리엄 서스턴 교수는 “모든 자연스러운 함수는 연속이다”라는 말을 했다. “모든 현상에는 이유가 있다”와 비슷한 말이라고 생각한다. 집합에서 집합으로 가는 함수로써 자연스럽게 정의되는 함수들이 있다. 수학적으로 무엇이 자연스러운가는 훨씬 더 깊은 논의이니 좀더 일상적인 예를 들자면 지표면의 온도 분포 같은 것을 생각해볼 수 있다. 지구 상의 각 점에 온도를 하나씩 부여하는 함수이다. 이 함수는 연속인가? 우리가 실제로 느끼는 지표면은 이미 형태가 있다. 자연스러운 위상구조를 가지고 있는 것이다. 그리고 그 구조에 따르면 이 함수는 연속이다(물론 늘 그렇듯이 실수들의 집합에도 표준위상구조를 사용하고 있다고 하자). 지표면이라는 집합에 줄 수 있는 여러 가지 위상구조가 있겠지만 자연스럽게 정의된 함수는 이렇게 자연스러운 위상구조 위에서 연속이다. 조금 더 추상적인 수학에서도, 함수가 수학적인 의미를 가지면서 자연스럽게 정의되었다면, 이를 연속으로 만드는 위상구조가 다른 위상구조보다 좀 더 자연스러운 위상구조라고 생각해 볼만하다. 어쩌면 이런 관점에서는 역으로 함수를 가지고 함수가 정의된 공간의 형태를 더듬더듬 알아나가는 것도 가능할지도 모른다. 어떤 위상구조가 더 좋은, 더 자연스러운 위상구조인가 하는 것에 대한 답은 항상 상대적이다. 무엇이 더 유용하고 더 아름다운지는 다른 수학적 대상들과의 관계 속에서 답을 찾는 것이 현명한 일일 때가 많다.

무한해 보이는 수학의 세계 속에 나의 함수가 어떤 위치를 가지고 있는지 알기 위해 수학자들은 오늘도 여행을 떠난다.