2026년 필즈상 수상자가 공식 발표된 뒤, 네 수학자의 이름을 한 줄로 적어놓고 한참 바라보았다. 덩위Yu Deng, 왕훙Hong Wang, 존 파든John Pardon, 제이콥 치머만Jacob Tsimerman. 그 아래에는 파동 난류, 가케야Kakeya 추측, 후카야Fukaya 범주, 앙드레–오르트André–Oort 추측 같은 말들이 따라붙어 있었다. 저차원 위상수학을 연구하는 필자에게 익숙한 말도 있었고, 논문 몇 편을 읽는다고 금세 친해지기는 어려운 말도 있었다.

얼핏 보기에는 네 사람이 같은 상의 수상자로 나란히 발표되었다는 사실 말고는 별다른 공통점이 없어 보였다. 한 사람이 방 안을 날아다니는 입자와 파동을 연구할 때 다른 사람은 모든 방향으로 놓인 가느다란 선분을 생각하고, 또 다른 사람들은 의사정칙곡선의 모듈라이 공간이나 아벨 다양체의 특수점을 바라보고 있었기 때문이다.

그런데 논문을 읽는 동안, 네 연구가 복잡한 문제를 견디는 방식이 조금씩 다르게 보이기 시작했다. 누구는 셀 수 없이 많은 상호작용에서 평균을 찾고, 누구는 극단적인 중첩 속에서도 사라지지 않는 크기를 찾는다. 또 누구는 셀 수 없는 대상을 세기 위한 장부를 새로 만들고, 누구는 드문 점들이 지나치게 많이 나타나는 이유를 묻는다. 네 연구를 억지로 하나의 원리로 묶기보다, 각자가 복잡함을 다루는 방식을 차례로 따라가 보기로 했다.

먼저 방 안에 수많은 작은 공들이 가득 차 있다고 상상해보자. 각각의 공은 정해진 속도로 날아가다가 다른 공과 부딪히면 방향을 바꾼다. 공이 몇 개 되지 않는다면 각 공의 위치와 속도를 기록하여 다음 순간을 계산해볼 수도 있을 것이다. 하지만 그 수가 공기 분자의 개수만큼 많아지면 상황은 완전히 달라진다. 개별 입자의 운동 법칙은 단순한데, 그것을 모두 따라가는 일은 사실상 불가능하다. 이럴 때 우리는 각각의 입자가 어디에 있는지를 포기하는 대신, 어느 위치에 어떤 속도의 입자들이 얼마나 많이 분포하는지를 묻는다. 아주 작은 것들의 정확한 궤적을 버리고 큰 무리의 통계적 모양을 얻는 것이다.

입자들의 분포가 변하는 법칙을 적은 것이 볼츠만 방정식이다. 그러나 이 방정식을 잘 쓴다는 것과, 희박한 단단한 구 기체의 적절한 극한에서 뉴턴 역학으로부터 이 방정식이 나온다는 것을 증명하는 일은 다르다. 어려움은 충돌이 입자들 사이에 상관관계를 남기고, 이후의 재충돌이 볼츠만 방정식에 필요한 점근적 독립성, 즉 분자혼돈을 깨뜨릴 수 있다는 데 있다. 첫 번째 입자와 부딪힌 두 번째 입자가 세 번째 입자를 만나고, 한참 뒤 그 연결고리의 일부가 다시 첫 번째 입자로 돌아올 수도 있다. 이런 재충돌이 생기면 두 입자가 서로 무관할 것이라는 계산상의 기대가 깨진다. 시간이 늘어날수록 충돌의 족보가 끝없이 갈라진다. 구의 지름은 작아지고 입자 수는 늘어나는 희박기체 극한에서, 관련 입자들의 충돌 족보와 그로부터 생긴 상관관계를 빠뜨리지 않고 통제해야 한다.

이 문제의 오랜 기준점은 1970년대 랜퍼드Lanford의 정리였다. 단단한 구들의 뉴턴 운동에서 볼츠만 방정식이 나온다는 것을 보였지만, 허용되는 시간은 매우 짧았다. 덩위, 자헤르 하니Zaher Hani, 마샤오Xiao Ma는 볼츠만–그라드 희박기체 극한에서 적절한 초기자료를 가정하고, 대응하는 볼츠만 해가 필요한 제어를 유지하는 임의의 유한 시간 구간까지 이 연결이 성립함을 증명했다. 이를 위해 충돌 기록을 모두 같은 무게로 늘어놓지 않고, 반복되는 구조를 잘라내어 조합적으로 정리한 뒤 실제 오차를 만들 수 있는 경우가 전체에서 얼마나 작은지를 추적했다. 이 결과는 랜퍼드의 정리에 남아 있던 짧은 시간의 장벽을 볼츠만 해가 통제되는 시간 전체로 밀어냈다. 힐베르트의 여섯 번째 문제 전체가 끝났다는 뜻은 아니지만, 희박한 단단한 구 기체라는 핵심 모형에서는 미시적인 뉴턴 운동에서 거시적인 볼츠만 방정식으로 가는 길을 완성한 셈이다.

흥미롭게도 덩위와 하니가 이런 장시간의 복잡성을 다루는 방식을 먼저 발전시킨 무대는 기체가 아니라 파동 난류였다. 약하게 상호작용하는 수많은 파동을 하나씩 따라가기보다, 진동수별 에너지 분포가 변하는 법칙을 찾는 문제이다. 두 사람은 큰 토러스 위의 약비선형 삼차 슈뢰딩거 방정식에 특정한 무작위 초기자료와 스케일링을 두고 파동 운동론 방정식을 엄밀히 유도했으며, 이어 그 정당화를 파동 운동론 방정식의 전체 수명까지 확장했다. 이후 마샤오와 함께 입자 충돌의 문제로 돌아왔을 때, 파동의 상호작용을 정리하며 익힌 사고방식이 전혀 다른 모양의 충돌 족보를 다루는 출발점이 되었다.

입자와 파동은 물리적으로 서로 다른 대상이지만, 수학의 눈으로 보면 둘 사이에 흥미로운 공통점이 있다. 아주 많은 미시적 상호작용을 전부 쫓아갈 수는 없지만, 그 복잡함 속에서 대부분의 효과가 평균적으로 어떻게 모이는지를 알아내면 거시적인 법칙을 얻을 수 있다는 것이다. 평균을 취한다는 것은 아무 정보나 대충 지워버리는 일이 아니다. 무엇을 지워도 되고 무엇을 끝까지 남겨야 하는지를 엄밀히 판별해야 하는 아주 섬세한 일이다. 복잡한 세계를 단순한 방정식 하나로 바꾸는 과정에는, 오히려 단순화하면서 잃어버린 것이 없는지를 확인하기 위한 엄청난 양의 수학이 숨어 있다.

복잡한 것들이 너무 많아서 평균을 찾아야 하는 덩위의 세계에서 이번에는 가느다란 선분 하나만 남겨보자. 길이 1인 선분을 아주 가는 바늘이라고 생각하고, 이 바늘이 취할 수 있는 모든 방향을 한 장의 그림 위에 겹쳐 그리되 그림의 넓이를 되도록 작게 만들고 싶다고 해보자. 한 점을 중심으로 바늘을 돌리면 원판이 생기지만, 중심을 고정해야 한다는 규칙은 없다. 이미 그은 자리 위로 다음 선분이 되도록 많이 겹치게 옮겨 그리면 흔적은 훨씬 작아진다. 베시코비치Besicovitch가 찾아낸 극단은 직관을 완전히 배반한다. 모든 방향의 단위 선분을 포함하면서도 넓이가 0인 집합이 존재한다. 넓이 0은 텅 비었다는 뜻이 아니라, 선분들이 면적으로는 잡히지 않을 만큼 복잡하게 포개져 있다는 뜻이다.

여기서 넓이와 차원은 서로 다른 답을 내놓는다. 베시코비치의 예처럼 넓이는 0까지 줄어들 수 있지만, 모든 방향의 단위 선분을 품은 평면 집합의 하우스도르프Hausdorff 차원은 여전히 2이다. 수학자들은 이런 집합을 가케야 집합이라고 부른다. 면적으로는 거의 보이지 않는데도 방향의 복잡성은 평면 전체의 차원을 요구하는 것이다. 가케야 추측은 이 현상이 높은 차원에서도 계속되어, 모든 방향의 선분을 포함하는 집합의 차원이 주변 공간의 차원과 같아야 한다고 말한다.

3차원 문제에서는 선분에 아주 작은 두께를 주어 긴 관으로 바꾸어 생각한다. 이제 질문은 여러 방향의 관들을 얼마나 심하게 포갤 수 있는가가 된다. 관 두 개가 짧게 스치며 겹치는 것과, 서로 다른 방향의 많은 관이 한 곡면 근처에 긴 구간 동안 모여 있는 것은 전혀 다른 현상이다. 따라서 한 번 전체 부피를 재는 것만으로는 부족하다. 관들이 어느 규모에서 우연히 교차하고, 어느 규모에서 공통된 기하학적 모양에 붙잡히는지를 차례로 구별해야 한다.

왕훙과 조슈아 잘Joshua Zahl은 2025년에 발표한 사전논문에서 이 3차원 추측의 증명을 제시했다. 논증의 출발점은 관들이 어떤 공통 볼록집합 안에도 지나치게 집중되지 않으면 그 합집합이 거의 최대의 부피를 가져야 한다는 추정이다. 일반적인 배치에서 중간 규모의 집중이 나타나면 관들을 더 굵은 관이나 납작한 ‘결grain’로 다시 묶는다. 이 과정을 여러 규모에서 반복하면서, 복잡한 배치를 선행연구에서 이미 다룰 수 있었던 특별한 경우로 차츰 줄여나간다. 이를 통해 모든 3차원 가케야 집합의 민코프스키Minkowski 차원과 하우스도르프 차원이 모두 3임을 보인다. 겉으로는 부피를 재는 문제지만, 그 안에서는 관들의 조합적 배치, 볼록집합에 대한 비집중 조건, 여러 규모의 분해와 귀납적 부피 추정이 서로 역할을 나누고 있다. 이후 래리 거스Larry Guth, 왕훙, 잘은 이 증명을 간명하게 정리한 후속 원고도 공개했다.

가케야 문제의 중요성은 이 바늘을 얼마나 작은 영역 안에서 돌릴 수 있는지를 묻는 데서 끝나지 않는다. 조화해석에서 파동을 위치와 진행 방향이 제한된 작은 묶음으로 분해하면, 각 묶음이 차지하는 영역은 긴 관처럼 나타난다. 분석가가 알고 싶은 것은 개별 파동의 모양보다 많은 묶음이 같은 장소에 얼마나 심하게 집중될 수 있으며, 그 집중이 전체 파동의 크기를 얼마나 키우는가이다. 파동 묶음에 대응하는 긴 관들의 중첩을 정량적으로 통제하는 더 강한 가케야형 추정들은 푸리에 제한 문제와 파동방정식의 국소 평활화 문제에서 핵심 제약으로 작용한다. 다만 왕훙과 잘이 증명한 것은 3차원 가케야 집합의 차원 추측이며, 이것만으로 가케야 최대함수 추측이나 푸리에 제한·국소 평활화 추측이 해결되는 것은 아니다. 앞에서 그린 면적 0의 바늘 그림이 파동 에너지의 집중을 재는 문제로 이어지는 것이다.

덩위와 왕훙의 문제에서는 이미 정해진 대상들을 어떻게 평균내고, 얼마나 겹칠 수 있는지를 물었다. 존 파든의 문제에서는 그보다 앞선 단계가 흔들린다. 세려는 곡선들의 공간이 찌그러지고 갈라지기 때문에, 무엇을 하나의 대상으로 보고 어떻게 세어야 하는지부터 다시 정해야 한다.

존 파든이라는 이름은 필자에게 조금 개인적인 기억을 불러온다. 필자가 코넬대학교에서 대학원생으로 지내던 2012년, Cornell Topology Festival은 제50회를 맞았다. 50주년을 기념하는 자리라 존 밀너John Milnor, 윌리엄 서스턴William Thurston, 두사 맥더프Dusa McDuff, 제이콥 루리Jacob Lurie처럼 이름만 들어도 긴장하게 되는 연사들로 프로그램이 가득했다. 그 가운데 존 파든은 대학원 1년 차의 아주 젊은 학생이었다. 쟁쟁한 대가들 사이에서 자신의 연구를 또렷하게 설명하던 그의 발표가 유난히 인상 깊었다. 젊다는 사실 때문에 놀랐던 것인지, 발표 내용 그 자체에 압도되었던 것인지 이제는 기억이 조금 섞여 있지만, 그 이름만은 오래 남았다. 훗날 그의 연구를 다시 따라가게 될 줄은 그때 알지 못했다.

존 파든의 연구로 넘어가면 입자와 관 대신 곡선들이 등장한다. 심플렉틱 기하학은 물리학의 위상공간에서 출발한 기하학으로, 대략 말하면 길이나 각도보다 면적의 구조를 보존하는 세계를 다룬다. 이 세계를 이해하는 중요한 방법 중 하나는 의사정칙곡선pseudoholomorphic curve이라고 불리는 특정한 곡선들을 세는 것이다. 이 곡선들이 정확히 무엇인지 지금 모두 알 필요는 없다. 주어진 조건을 만족하는 곡선이 몇 개 존재하는지를 알면 원래 공간에 대한 중요한 불변량을 만들 수 있다는 점이 중요하다.

그런데 곡선을 센다는 말은 생각처럼 간단하지 않다. 사과가 몇 개인지를 셀 때는 사과들이 서로 겹치거나 갑자기 둘로 갈라지는 일이 없다고 가정한다. 하지만 곡선들의 모임인 모듈라이 공간에서는 곡선이 찌그러지거나 여러 조각으로 갈라지고, 서로 다른 곡선처럼 보이던 것들이 같은 대칭을 가지며, 공간 자체에 예상하지 못한 특이점이 생긴다. 세려고 모아놓은 대상들의 공간이 매끈한 방이 아니라 벽이 무너지고 여러 방이 겹쳐 있는 건물처럼 생긴 셈이다. 그렇다고 문제가 생긴 곡선들을 모두 버리면, 변형하는 동안 불변이어야 할 수가 갑자기 달라진다.

예상한 모양의 모듈라이 공간이라면 그 안에서 곡선의 수를 직접 읽어낼 수 있다. 그러나 공간에 특이점이 생기거나 여러 조각이 겹치면 같은 방식으로는 셈을 계속할 수 없다. 이때 각 조각에 보정 정보를 붙여, 공간을 조금 변형하더라도 최종 답은 달라지지 않게 만든 대수적 기록이 필요하다. 수학자들은 이 기록을 가상 기본류virtual fundamental class라고 부른다. 여기서 ‘가상’은 없는 대상을 꾸며낸다는 뜻이 아니라, 망가진 장부에서도 변하지 않는 값을 읽어내기 위해 결손과 중복을 함께 기록한다는 뜻에 가깝다. 존 파든은 이 보정 장부를 구성하는 새로운 대수적 방법을 제시했다.
장부를 만드는 데 성공하면 다음 질문이 생긴다. 큰 공간을 여러 구역으로 나누어 각 구역에서 장부를 만든 뒤, 그것들을 다시 합쳐 원래 공간의 정보를 복원할 수 있을까. 종이 지도를 잘랐다가 다시 붙일 때는 경계선만 맞추면 되지만, 곡선들의 관계를 기록한 범주를 붙일 때는 경계를 가로지르는 정보까지 남겨야 한다. 실 가나트라Sheel Ganatra, 존 파든, 비벡 셴데Vivek Shende는 와인스타인Weinstein 다양체를 조건에 맞는 구역들로 나눈 뒤, 각 구역과 서로 겹치는 부분의 wrapped 후카야 범주를 함께 붙여 전체 범주를 복원하는 정리를 세웠다. 이 붙이기 원리를 sectorial descent라고 한다.

곡선을 세는 방법은 하나가 아니다. 그로모프–위튼Gromov–Witten 이론은 곡선이 공간 안으로 들어가는 지도를 세고, 판다리판데–토머스Pandharipande–Thomas 안정쌍 이론은 곡선을 지지집합으로 갖는 대수적 자료를 센다. 같은 공간의 곡선을 다루지만 무엇을 한 항목으로 기록하는지가 달라 두 장부는 겉모양부터 다르다. MNOP 추측은 변수와 정규화를 적절히 바꾸면 이 두 장부가 결국 같은 정보를 담는다고 예상한다. 존 파든은 대상이 되는 공간마다 두 장부를 직접 맞춰보는 대신, 둘의 대응 여부를 가장 단순한 국소 곡선 모형에서 확인하는 문제로 줄였다. 그 모형에서는 대응이 이미 알려져 있었으므로, 국소적인 계산을 전체 공간의 결과로 옮길 수 있었다. 이 결과는 칼라비–야우Calabi–Yau 3차원 다양체를 포함하여 반정준선다발이 nef인 매끄러운 사영 복소 3차원 다양체에서, primary 삽입, 즉 descendent 삽입을 넣지 않은 경우에 성립한다. 이 증명은 2025년 8월에 갱신된 사전논문에 제시되어 있다. 거대한 두 이론을 항목별로 정면 비교하기보다, 어디를 비교하면 충분한지를 찾아낸 것이다. 필자로서는 바로 이 점이 존 파든 연구의 매력이라고 느낀다.

이 대목은 필자에게 특히 익숙하다. 위상수학에서는 계산 자체보다 무엇을 데이터로 남기고 어떤 붙이기 규칙을 허용할지를 정하는 데 더 오랜 시간이 걸리는 경우가 많다. 존 파든의 결과들도 곡선을 세는 규칙과 공간을 자르는 규칙을 먼저 정교하게 고쳐 놓은 뒤, 이전에는 정의하기조차 어려웠던 양을 실제 계산의 대상으로 바꾸어 놓는다. 존 파든의 논문을 읽다 보면, 계산보다 먼저 장부와 붙이기 규칙을 세우는 데 왜 그렇게 많은 공이 드는지 보인다.

마지막으로 제이콥 치머만의 세계로 가보자. 여기서는 아벨 다양체라는 공간을 연구한다. 그 하나하나를 따로 떼어놓고 들여다보기보다, 같은 종류의 대상들을 모두 모아 하나의 분류공간을 만든다. 같은 차원의 주극성화 아벨 다양체들의 동형류를 모은 공간을 보통 A_g라고 쓴다. 따라서 A_g의 점 하나는 주극성화 아벨 다양체 하나의 동형류를 나타낸다. 분류공간에서는 점 하나가 기하학적 대상 하나의 이름표 역할을 하는 셈이다.

이 가운데 복소곱셈complex multiplication이라는 특별한 대칭을 가진 아벨 다양체들이 있고, 이에 해당하는 점들을 특수점이라고 부른다. 일반적인 점보다 더 많은 대칭을 가지므로 수론적으로 매우 드문 점들이다. 앙드레–오르트 추측은 기약 대수적 부분다양체 안에 특수점들이 자리스키Zariski 조밀하게 모여 있다면, 그 부분다양체 자체도 우연히 생긴 것이 아니라 특수한 기하·수론적 구조를 가져야 한다고 말한다.

조금 일상적으로 바꾸어 말하면 다음과 같다. 특별한 토양에서만 피는 꽃이 있다고 해보자. 어느 길 위의 꽃들이 자리스키 조밀하다는 말은 길의 모든 작은 구간마다 꽃이 있다는 뜻이 아니다. 그 꽃들의 위치를 전부 담을 수 있는 더 작은 대수적 부분이 길 안에 없다는 뜻이다. 달리 말해 어떤 다항식 조건이 모든 꽃의 위치에서 성립한다면, 그 조건은 몇몇 꽃에서만 우연히 맞는 것이 아니라 길 전체에서 성립해야 한다. 그러면 질문의 중심은 꽃의 개수에서 길의 성질로 옮겨간다. 어쩌면 그 길 자체가 처음부터 특별한 토양층을 따라 놓여 있었던 것은 아닐까. 앙드레–오르트 추측은 특수점이 이처럼 퍼져 있는 부분공간이라면 그 부분공간도 특별한 기하·수론적 기원을 가져야 한다고 말한다.

문제는 특수점이 ‘많다’는 기하학적인 사실에서 그 배후의 산술 구조를 어떻게 꺼내느냐는 것이다. 수론을 전공하지 않은 필자로서는 증명의 세부를 짧은 글 안에서 온전히 설명할 자신은 없다. 다만 전략의 뼈대는 서로 반대 방향의 두 개수 추정을 맞부딪치는 데 있다. 먼저 한쪽에서는 점이 놓인 공간이 지나치게 구불거리거나 끝없이 진동하지 않는, 이른바 ‘얌전한’ 공간이라고 가정한다. 이런 공간에서는 특별한 대수적 이유가 없는 한 분모가 작은 유리점의 수가 너무 빠르게 늘어날 수 없다. 이 얌전함을 엄밀하게 다루는 언어가 o-최소성o-minimality이고, 그 안에서 유리점의 수에 상한을 주는 결과가 필라–윌키Pila–Wilkie 정리다. 다른 쪽에서는 특수점 하나의 갈루아Galois 궤도를 본다. 궤도가 크면 그 점과 함께 나타나야 하는 켤레점도 많아져 점의 수에 하한이 생긴다. 실제 점의 수가 앞의 상한을 넘을 만큼 커진다면, 처음에는 없다고 가정했던 대수적 구조가 숨어 있어야 한다.

이 전략에서 오래 남아 있던 병목은 갈루아 궤도 쪽의 하한이었다. 제이콥 치머만은 평균 콜메즈Colmez 추측에서 나온 높이 정보를 이용해 A_g의 복소곱셈점에 필요한 하한을 마련했고, 그 값을 앞의 점 개수 논증에 넣었다. 그 결과로 2015년에 주극성화 아벨 다양체의 모듈라이 공간 A_g에 대한 앙드레–오르트 추측을 증명했고, 논문은 2018년 Annals of Mathematics에 출판되었다. 모든 시무라Shimura 다양체를 포괄하는 일반형은 그 뒤 조너선 필라Jonathan Pila, 아난트 N. 샹카르Ananth N. Shankar, 제이콥 치머만이 함께 발전시켰으며, 세 사람은 2021년 사전논문에서 그 증명을 제시했다.

그의 이후 연구에서도 서로 다른 언어 사이의 번역은 계속된다. 벤저민 바커Benjamin Bakker와 함께 증명한 순수 편극 호지 구조의 변동에 대한 악스–샤누엘Ax–Schanuel 정리는 초월적인 해석 자료와 대수적인 부분다양체 사이에 예상 밖의 관계가 너무 많이 생길 때 그 배후에 특별한 구조가 있음을 보여준다. 겉으로 보기에는 우연한 일치처럼 보이는 현상이 일정한 한계를 넘어서 반복되면, 사실은 대수적인 이유가 숨어 있다는 것이다.

이 증명에서 흥미로운 것은 o-최소성에서 얻은 상한과 갈루아 궤도의 하한이 한 자리에서 충돌한다는 점이다. 두 추정이 함께 성립할 수 없을 때, 그 모순이 숨어 있던 대수적 구조를 드러낸다.

필즈상 수상 뒤 제이콥 치머만은 토론토대에서 휴직하고 OpenAI로 가 AI 안전 문제를 연구할 계획이라고 밝혔다. 교수직을 떠나는 것은 아니며, 대학과의 관계와 학생 지도는 이어가겠다고 했다. 순수수학 연구자들에게는 다소 의외의 선택일 수 있다. 그러나 그의 수학을 생각하면 아주 낯선 결정만은 아니다. 서로 다른 층의 언어를 번역하고, 드문 예외 속에서 전체 구조를 찾아내며, 우리가 무엇을 안다고 말할 수 있는지를 끝까지 따지는 태도는 AI 안전 연구에도 필요한 태도다. 물론 이것이 곧바로 AI 안전의 해답을 준다는 뜻은 아니다. 다만 정답을 빨리 내는 것보다, 무엇을 믿어도 되는지를 먼저 묻는 방식의 수학이라는 점은 분명하다.

처음 네 이름을 한 줄로 적었을 때는 서로 다른 학회의 프로그램을 억지로 이어 붙인 듯했다. 이제 다시 적어본다. 덩위, 왕훙, 존 파든, 제이콥 치머만. 그 사이에는 입자와 파동, 바늘과 관, 의사정칙곡선과 후카야 범주, 특수점과 갈루아 궤도가 놓여 있다. 네 수학은 여전히 서로 멀다. 그러나 이제 그 이름 사이의 빈칸이 전처럼 텅 비어 보이지는 않는다. 그 빈칸에는 복잡한 것을 어떤 크기로 나누어 보고, 무엇을 남기며, 어떻게 다시 전체로 돌아갈지를 묻는 네 가지 움직임이 놓여 있다.

백형렬
test EN Description:
EN Position:
EN Display Name:
KAIST 수리과학과 부교수 및 AI수학대학원 책임교수