전설의 반열에 오른 과학자를 꼽으라면 셀 수 없이 많겠지만, 그중에 노벨상을 두 번씩이나 수상한 사람을 찾으라면 역사상 단 네 명이 있을 뿐이다. 한 명은 잘 알려진 마리 퀴리Marie Sklodovska Curie, 방사성 물질의 발견과 연구로 1903년 노벨 물리학상을, 1911년 노벨 화학상을 수상했다. 그 외엔 라이너스 폴링Linus Pauling이 노벨 화학상과 노벨 평화상을 한 번씩, 제임스 바딘James Bardeen이 반도체와 초전도체 연구로 노벨 물리학상을 두 번, 생어Frederick Sanger는 노벨 화학상을 두 번 수상했다. 서로 다른 분야에서 노벨 과학상을 수상한 사람은 아직까지 퀴리가 유일하다. 누군가는 물리학과 생리학, 혹은 생리학과 화학 분야에서 두 개의 노벨상을 받을 만도 한데 아직까지 수상자가 없다.
역사상 가장 여기에 근접한, 아니 어쩌면 세 개의 노벨 과학상에도 도전했을 만한 후보로 떠오르는 이름이 하나 있다. 1821년 태어나 1894년 생을 마감한 독일의 헬름홀츠Herman Ludwig Ferdinand von Helmholtz다. 고등학교 시절부터 물리학을 좋아했지만, 가정 형편이 좋지 않아 장학금을 받으면서 공부할 수 있는 전공을 대학교에서 택하다 보니 물리학 대신 의학을 전공하였다. 졸업 후 일정 기간 의사로 복무해야 한다는 조건이 붙은 장학금이라, 대학을 졸업한 뒤 5년간 군의관으로 복무하다가 비로소 대학 교수 자리를 얻었다. 그것도 물리학과가 아닌 생리학과의 교수로 줄곧 지내다가 50세의 나이에서야 훔볼트 대학 물리학과의 교수 자리로 옮겼다.
헬름홀츠가 젊은 연구자 시절 집착했던 질문은 과연 당시 학계의 믿음대로 “근육의 힘이 ‘생체 에너지vital force‘로부터 유래할까” 하는 것이었다. 그는 아리스토텔레스로부터 유래된 생체 에너지(동양식으로 번역하면 ‘기에너지’와 유사하지 않을까 싶다)라는 개념이 검증 불가능하며 과학적이지 않다는 신념을 갖고 있었고, 실험을 통해 그의 믿음이 검증되길 바랐다. 그리고 1847년 26세의 나이에 발표한 걸작 <힘의 보존에 관하여 On the Conservation of Force>에서 그는 에너지 보존 법칙이 생체 현상에도 여전히 유효하게 적용되고, 따라서 생체 에너지라는 별도의 개념은 생체 현상을 이해하는데 필요하지 않다는 점을 치밀한 논증으로 지적한다. 1882년에는 뉴턴 역학에서 말하는 에너지와는 구분되는 새로운 종류의 에너지, “자유 에너지free energy”라는 개념을 설파했다.
자유 에너지란 이런 것이다. 뜨거운 물체를 공기 중에 놓아두면 점점 식어 주변 온도와 같아진다. 물체가 식으면서 그 물체가 갖고 있던 에너지도 줄어든다. 자연의 변화는 에너지가 점점 작아지는 방향으로 일어나게 마련이다. 그럼 왜 이 물체는 계속 식어서 절대 영도만큼 차가워지지 않을까? 상온의 물체보다 절대 영도의 물체는 당연히 더 에너지가 낮은데 말이다. 그 이유는 이렇다. 물체는 에너지를 낮추는 게 아니라 헬름홀츠가 발견한 새로운 형태의 에너지, 즉 자유 에너지를 낮추는 쪽으로 변화하기 때문이다. 헬름홀츠의 자유 에너지는 에너지와 엔트로피를 동시에 고려한다. 에너지를 낮추면서 동시에 엔트로피를 최대한 키울 때, 자유 에너지는 가장 작은 값을 갖는다. 엔트로피는 물체의 무질서한 정도를 표현하는데, 절대 영도의 물체는 모든 운동이 정지된, 꽁꽁 얼어버린 상태라서 엔트로피가 하나도 없다. 그래서 타협점을 찾다보니 물질은 에너지도 적당히 작고 엔트로피는 적당히 큰 상태를 찾게 된다. 뜨거운 물이 식다 보면 딱 상온까지만 온도가 내려가는 이유다. 이 정도의 중요한 발견이라면 오늘날 노벨 화학상을 받을 수도 있겠다 싶다.
필자의 어린 시절에는 안과에 가면 의사 선생님이 손에 쥔 자그마한 도구로 눈의 상태를 검사하곤 했었다. 작은 렌즈와 빛이 나오는 작은 등이 머리 부위에 장착된 도구인데, 검안기라고 부른다. 이 검안기의 발명자를 굳이 한 명 꼽으라면? 다름 아닌 헬름홀츠다. 젊은 시절 이론 화학자였던 헬름홀츠는 어느새 발명가로 변신해 새로운 검안 기계를 고안하고 만들어 보였다. 1851년, 그의 나이 서른이 되던 해의 일이다. 검안기 발명을 통해 이루어진 의학의 발전은 헬름홀츠의 이름이 이 분야에서도 기억되는 이유이다. 헬름홀츠는 평생 동안 시각과 청각에 대한 관심을 연구로 발전시켰고, 목소리를 전기적 신호로 변환하는 방법에 대해서도 연구했다. 그의 연구를 토대로 미국인 벨이 전화기를 발명했다는 주장도 있다.
이론 화학자, 생리학자로 활약했던 헬름홀츠는 1858년, 채 마흔이 되기 전의 나이에, 이번에는 수학자, 이론 물리학자로 변신해서는 소용돌이vortex의 운동에 대한 몇 가지 증명을 담은 논문을 발표한다. 이 논문에 영감을 받은 영국의 물리학자 톰슨William Thomson, 1st Baron Kelvin, 은 소용돌이 원자vortex atom 이론을 제안했고, 그의 친구였던 테이트Peter Guthrie Tait는 매듭 이론Knot theory이란 수학 분야를 창시했다. 켈빈의 소용돌이 원자는 20세기 중반에 이르러서 또 다른 영국인 스컴Tony Skyrme의 매듭 소립자 이론으로 탈바꿈했고, 20세기 후반에 들어와서는 이론 물리학 전체를 풍미하는 위상 물리학topological physics으로 발전했다. 위상 물리학 이론으로 처음 노벨상이 수상된 해는 2016년이지만, 만약 19세기에도 노벨상이 있었다면 헬름홀츠의 1858년 논문은 위상 숫자로 물질의 상태를 기술할 수 있다는 점을 최초로 보여주었다는 점에서 충분히 노벨 물리학상 후보 자격이 있어 보인다. 헬름홀츠와 같은 학문적 편력과 성취라면 오늘날 노벨 화학-생리학-물리학상이란 3관왕을 거론하는 것도 황당하지 않을 것 같다.
인물에 대한 찬양과 호들갑은 이 정도로 마치고, 이젠 소용돌이라는 것이 무엇인지 한 번 살펴보자. 물리학이란 말만 들어도 겁에 떨고, 미적분이라면 정신이 혼미해지는 사람들은 부지기수지만, 소용돌이를 모르는 사람이 과연 얼마나 있을까. 문학 작품만 읽어봐도 “혼란의 소용돌이”, “시대의 소용돌이” 같은 문장이 상투적으로 등장한다. 호머의 서사시 <오디세우스>에 등장하는 주인공 오디세우스는 메시나 해협을 지키는 소용돌이 괴물 카리브디스의 공격을 피하려다 그만 머리 여섯 개 달린 괴물 스킬라에게 부하 여섯 명을 잃었다.
소용돌이에겐 특별한 성질이 있다. [그림1]의 설치 예술 속 소용돌이처럼, 모든 소용돌이에는 회전축이 있다. 그 축을 중심으로 물이 원 모양을 그리면서 뱅글뱅글 돈다. 예를 들어 중심점으로부터 거리 1미터만큼 떨어진 점에서 측정하였을 때 물이 회전하는 속력이 초속 1미터였다고 치자. 이때 거리와 속력을 곱한 값은 1×1=1이 된다. 이번에는 같은 소용돌이의 속도를 중심에서 2미터 떨어진 지점에서 잰다. 그럼 속력이 초속 0.5미터로 떨어진다. 거리와 속력의 곱은 여전히 2×1/2=1로 동일하다. 거리 3미터, 4미터에서 측정한 속력은 초속 ⅓, ¼ 미터로 떨어진다. 거리와 속력의 곱은 항상 일정하게 1이다. 1이란 숫자는 결국 소용돌이의 세기다. 아주 센 소용돌이는 거리와 속력을 곱한 값이 2, 3, 혹은 100이 될 수도 있다. 그러나 한 번 만들어진 소용돌이의 세기-즉 거리와 속력의 곱-는 시간이 지나도 결코 변하지 않는다. [그림1]에서 보이는 거대한 물통을 (헐크가) 들어서 흔들었다 다시 제자리에 놓아도 여전히 소용돌이는 똑같은 세기, 즉 거리 곱하기 속력의 값으로 돌고 있어야 한다. 헬름홀츠가 증명한 대로라면 말이다.
필자가 대학교 첫 학년 일반 물리학 수업에서 은사 장회익 선생님께 받은 질문은 “물리학이란 무엇이라고 생각하는가”였다. 학기 초 숙제나 중간시험 문제로 주셨던 질문인 것 같다. 필자를 포함한 물리학과 동기들이 제각기 정성 들여 답변을 적어냈을 것으로 짐작한다. 이제는 30년 넘게 물리학이란 걸 들여다보다 보니, 정답은 아닐지라도, 하나쯤 가능한 답이 무엇인지는 알 것 같다. 물리학이란 “불변량을 찾는 게임”이었다.
그중 물리학자들이 가장 먼저 이해한 불변량의 법칙은 에너지 총량의 보존 법칙이 아닐까 싶다. 가령 계곡의 꼭대기에서 떨어지는 물은 아래로 내려올수록 그 속력이 빨라진다. 물리학자들은 이 현상을 “위치 에너지(혹은 포텐셜 에너지)가 운동 에너지로 변환되는 과정”으로 해석함으로써, 총 에너지 -이 경우엔 위치 에너지와 운동 에너지의 합- 이 시간에 의존하지 않는 불변량이란 점을 증명했다. 총 에너지 보존 원리에 의거해 발전기를 돌리면 이번엔 운동 에너지가 전기 에너지로 바뀌어 문명사회를 밝히는 데 사용된다. 그러나 아무리 강력하고 잘 만든 수력 발전소라 할지라도 결코 낙하하는 물이 갖고 있는 운동 에너지 총량 이상의 전기 에너지를 생성하지는 못한다. 에너지 총량의 불변이라는 절대적인 원리가 발전량의 한계를 설정해 주기 때문이다. 헬름홀츠는 이런 에너지 총량 보존 법칙이 생체 현상, 다시 말하면 화학 반응 전반에 걸쳐 여전히 유효하게 적용되며, 따라서 (거칠게 말하자면) “기에너지” 따위는 없다는 걸 증명하는 데 그의 약관弱冠과 이립而立 사이를 바쳤고, 또 다른 불변량의 존재를 불혹不惑의 나이 이전에 증명해 주었다. 그가 소용돌이 운동에서 발견한 불변량은 에너지와는 전혀 다른 성격을 갖는 “위상학적인” 양이다.
헬름홀츠가 발견한 불변량의 폭넓은 의미를 감지할 만큼 수학적 감수성이 뛰어난 또 다른 물리학자는 영국의 톰슨이었다. 헬름홀츠보다 3년 늦게, 1824년 태어난 톰슨은 그 당시 맥스웰과 함께 영국을 대표하는 이론 물리학자였다. 톰슨의 아버지는 수학과 공학을 가르치는 교사였고, 헬름홀츠는 언어학과 철학을 가르치는 교사의 아들로 태어났다. 모두 평범한 가정 출신이었지만, 자신이 일궈낸 업적으로 생애 후반 귀족의 작위를 하사받은 점, 수학과 공학과 물리학 전반에 걸쳐 광범위한 업적을 남긴 점 등, 두 사람의 인생 궤적에는 유사한 점이 꽤 많다.
헬름홀츠의 발견을 보고한 논문을 읽은 톰슨의 첫반응은 미지근했다고 한다. 그러나 톰슨의 친한 친구이자 7년 후배인 테이트는 헬름홀츠의 소용돌이 이론에 푹 빠져버린 듯하다. 헬름홀츠의 논문 마무리 단원을 보면 소용돌이 고리vortex ring를 만드는 방법을 제안하는 대목이 있다. 현대적인 용어로 설명하자면 이렇다. 잔잔하게 물이 차 있는 수영장의 한 끝에서 접시를 반쯤 물에 담근 뒤, 물싸움 하듯 (그러나 물방울이 튀기지 않도록 살살) 접시를 앞으로 쑥 밀어버리면, 곧 접시를 물에 담근 지점 좌우에 두 개의 소용돌이가 생긴다. 이 과정을 생생하게 재현한 동영상은 유투브에서 “physical girl”, “fun with vortex rings in the pool”이란 단어를 검색하면 쉽게 찾을 수 있다.
헬름홀츠는 소용돌이 고리를 생성하는 방법을 제안하기만 했지, 직접 도구를 만들어 시연을 하지는 않았다. 타고난 열정이 넘치는 사람이었던 테이트는 손수 도구를 제작해, 헬름홀츠의 이론이 얼마나 매력적인지를 여러 사람들에게 보여주고 싶어 했다. [그림2]에 등장하는 기계는 테이트의 논문에서 따온 것인데, 테이트 자신이 고안한 장치가 아닐까 싶다. 상자 뒷면에 고무막이 있어, 손으로 한껏 잡아당겼다 놓으면 앞에 있는 구멍에서 그림처럼 연기 소용돌이가 발사된다. 담배 구름을 잘 만드는 사람에게는 별로 놀라울 것도 없는 시연이긴 하지만, 테이트는 담배 대신 도구를 만들어서 소용돌이의 매력적인 거동을 청중에게 보여주고 싶어 했던 모양이다. 전자 담배를 이용해 소용돌이 구름을 만드는 멋진 동영상을 보고 싶다면 “amazing vape trick”으로 검색되는 유튜브 영상을 보기 바란다. 꼭 담배 연기일 필요도 없다. 돌고래도 물속에서 공기 방울 고리를 만들고 유희를 즐길 줄 안다. (“vortex rings by dolphins”로 검색되는 유튜브 동영상이 있다)
테이트의 멋진 소용돌이 시연을 보고서야 톰슨은 이 매력적인 위상학적 물체, 소용돌이의 참 의미를 깨달은 것 같다. 앞서도 말했지만 소용돌이의 세기는 시간에 따라 변하지 않는 불변의 양이다. 소용돌이 고리란 건, 긴 소용돌이를 말아서 머리와 꼬리를 결부시켜 만들어진다. 헬름홀츠의 증명에 따르면 소용돌이 고리는 영원히 파괴될 수 없다. 물론 현실 세계에서야 그깟 담배 구름쯤 손을 휘저어 없애버릴 수 있다. 저절로 구름이 옅어지면서 사라지기도 한다. 그렇지만 그건 담배 구름이 이동하는 공기라는 매질이란 게 마찰력, 점성 등이 있는 불완전한 매질이기 때문이다. 만약 완벽한 진공 속에서 소용돌이 고리가 이동한다면 어떻게 될까? 가령 원자가 소용돌이 고리라면?
톰슨이 활동하던 19세기 중후반 시절, 원자가 무엇인가란 질문에 대한 답변은 여전히 2천 년 넘게 내려오는 데모크리토스 식 원자론, “너무나 단단하고 절대 변할 수 없는 어떤 것”이란 애매한 수준을 넘어서지 못하고 있었다. 수학적, 물리학적으로 예리하게 훈련된 톰슨에게는 데모크리토스의 원자론이 낭만적이고 불완전한, 불만족스런 주장으로 비춰졌을 것이 당연하다. 그런데 뜻밖에 여기 소용돌이란 것이 있고, 한 번 만들어지면 영원히 그 존재가 유지된다는 헬름홀츠의 증명이 있고, 테이트의 멋진 시연이 있었다! 2천년 묵은 원자 가설에 맞설 새로운 원자론을 대담하게 제안할 만큼 톰슨에게 큰 영감을 준 대상은 바로 소용돌이였다.
1867년과 1868년 사이, 톰슨은 기념비적인 논문 두 편을 발표한다. 그중 한 편은 “소용돌이의 운동에 관하여On vortex motion“란 제목을 달았다. 헬름홀츠가 제안했던 몇 가지 증명을 단순화하고 다듬었으며, 새로운 증명을 추가한 전형적인 물리학 논문이다. 또 다른 논문 “소용돌이 원자에 관하여On Vortex Atoms“는 만약 “원자가 소용돌이라면”이란 가설을 바탕으로 쓴 한 편의 영감 넘치는 과학적 수필이다. 수학적 지식이 없어도 읽을 수 있고, 인터넷에서 그의 논문 제목으로 검색해 보면 원문 전체를 찾아볼 수도 있다. 그의 수필에 등장하는 그림 하나를 아래 소개한다[그림3]. 이 그림은 소용돌이 고리를 단면으로 잘랐을 때의 공기 흐름을 보여준다. 가운데 박힌 두 개의 점은 소용돌이의 중심이다. 이 두 점을 연결하면 원모양의 고리가 나올 것이고, 이 원을 따라가는 지점에서는 공기의 흐름이 없다. 그 밖의 지점에서는 아래 그림처럼 공기가 와류 형태의 흐름을 갖는다. 헬름홀츠가 뛰어난 수학 실력을 발휘해 증명한 것은 이런 소용돌이 고리 형태가 (이상적인 액체에서) 한 번 만들어지면 영원히 깨지지 않는다는 명제였다. 그리고 톰슨은 그의 수필 서론에서 이렇게 선언한다.
당대 최고의 물리학자였던 톰슨은 원자에 대해 알려진 또 다른 중요한 사실에 주목한다. 독일의 과학자 분젠Robert Bunsen과 키르히호프Gustav Kirchoff의 노력으로 발전한 분광학spectroscopy의 성과 중의 하나는 물질이 다양한 종류의 빛을 발산한다는 사실이었다. 물론 뉴턴 시절부터 태양 빛과 같은 백색광이 프리즘을 통과하면 무지개색으로 갈라진다는 점이 잘 알려져 있었고, 분광학적 장치란 건 프리즘의 원리를 한층 발전시킨 도구라고 하겠다. 예를 들어 네온 기체는 온도가 올라가면 붉은색으로 발광한다. 네온 기체는 네온 원자의 집단이니까, 네온 기체가 빛을 낸다는 건 곧 네온 원자가 빛을 낸다는 뜻이다.
그런데 데모크리토스식의 아주 딱딱한 당구공 같은 원자가 어떻게 빛을 낼 수 있을까? 톰슨은 당구공 대신 매듭처럼 생긴 원자에서 발광 현상을 이해할 수 있는 단서를 보았다. 가령 현악기의 줄을 생각해 보자. 줄이 가만히 있으면 아무런 소리도 나지 않는다. 줄을 뚱기면? 줄이 진동하면서 “소리”를 낸다. 이 비유를 고리 모양의 원자에 가져가 보자. 고리가 가만히 있으면? 빛을 내지 않는다. 투명한 네온 기체처럼. 고리가 진동하면? 네온 램프처럼 빛을 낸다! 아직 원자 구조에 대한 지식이 축적되지 않았던 그 당시 과학계에서 톰슨의 주장은 제법 그럴듯하게 들렸을 것이다.
톰슨의 제안을 좀 더 확장해 보면, 왜 네온 기체는 붉은색을, 아르곤 기체는 라일락의 보라색 빛을, 크립톤 기체는 희뿌연 색을 내는지도 알 것 같다. 만약 원자가 서로 다른 모양의 고리라면 어떨까? 고리 모양이 제각각이니 진동하는 모양도 서로 다르지 않겠는가. 현악기가 종류에 따라 제각각의 음색을 갖고 있는 것처럼, 원자도 각자가 발광하는 색이 다를 것이다.
톰슨은 자신의 신선한 주장을 담은 논문의 제목을 “소용돌이 원자에 대하여On Vortex Atoms”라고 이름 붙였지만 그 수학적 핵심을 따져보면 오히려 “매듭 원자에 대하여On Knotted Atoms”라고 이름지어도 좋았을 것 같다. 매듭 원자 가설에 대해 톰슨 못지 않게 열광했던 사람은 그의 친구 테이트였다. 그는 수학적으로 가능한 매듭의 종류를 체계적으로 분류하는 작업을 하기 시작했다.
[그림4]는 각종 매듭을 종류별로 보여준다. 지정된 숫자는 매듭이 본래 자리로 돌아올 때까지 다른 매듭 부위를 지나가는 횟수를 말한다. 가장 간단한 매듭은 교차하는 숫자가 3이다. 영어로는 trefoil이라고 부르는 매듭이다. 세 번 교차, 네 번 교차하는 매듭의 종류는 각각 한 가지밖에 없어 단순하지만 다섯 번 교차하는 매듭은 두 가지, 여섯 번 교차하는 매듭은 세 가지로, 차츰 많아진다. 한 번 만들어진 매듭을 다른 종류의 매듭으로 바꾸려면 반드시 줄을 끊었다가 다시 이어야 한다. 매듭을 끊고 다시 잇는 절차가 허락되지 않는다면, 그 매듭은 고유의 정체성을 끝까지 유지할 수밖에 없다. 마치 원자처럼. 게다가 열 번 교차하는 매듭의 종류만 해도 165개가 있는데, 이는 대략 100개로 알려진 원자의 개수를 능가한다. 만약 매듭 원자 가설이 유효한 이론이었다면 이미 우주에 존재하는 원자를 다 설명하고도 남을 만큼 충분한 매듭의 종류가 있다. 만약 매듭 원자 이론이 옳다면 말이다.
톰슨의 영감에 찬 소용돌이 원자 제안은 적어도 영국 물리학계에서는 꾸준한 영향력이 있었던 것 같다. 톰슨William Thomson보다 32년이나 뒤에 태어난 또 다른 톰슨J. J. Thomson은 캠브리지 대학에서 수학과 물리학을 공부하고는 “소용돌이 고리의 운동에 관한 논문A Treatise on the Motion of Vortex Rings”을 발표한다. 이론 물리학을 진지하게 공부해 본 사람이라면, 소용돌이 고리처럼 생긴 물체의 동역학을 수학적으로 풀어낸다는 게 얼마나 끔찍한 일인지 피부로 느낀다. 그리고 그런 고리 두 개가 서로 상호작용하는 과정을 수학적으로 풀어낸다는 건 오로지 맨정신이 아니거나 천재인 경우에만 가능하다는 걸 잘 안다. 톰슨은 이 문제를 처음부터 끝까지 수학 방정식이 철철 흘러 넘치는 논문으로 풀어냈고, 그 업적을 인정받아 당대 최고의 이론 물리학자 레일리3rd Baron Rayleigh, 본명은 John William Strutt이다의 후임 자격으로 캐번디시 연구소의 교수가 된다.
불과 28세의 나이에 맥스웰-레일리로 이어지는 자리를 물려받은 톰슨이 캐빈디시 연구소Cavendish laboratory에서 한 일 중 가장 우리가 기억해야 할 일은 재미있게도 그가 이룩한 수학적 업적이 아니다. 중학교 과학 교과서에서부터 배운 대로 톰슨의 이름은 “전자의 발견”과 결부되어 있다. 음극관 실험으로 알려진 일련의 실험 결과들을 통해서 톰슨은 원자보다 천 배 이상 가벼운 어떤 입자가 존재한다고 주장하기 시작했고, 이 입자는 오늘날 전자로 불린다. 그런데 원자는 전기적으로 중성이지만 전자는 그렇지 않다. 따라서 원자를 구성하는 요소에는 전자와 또 다른 그 무엇이 있어야 한다. 그 나머지에 대한 수수께끼를 해결해 준 인물은 톰슨의 제자이면서 맥스웰-레일리-톰슨을 이어 네 번째 캐번디시 연구소장을 지낸 러더퍼드Ernest Rutherford였다.
톰슨이 전자 이론을 발표한 1897년으로부터 14년 뒤인 1911년, 러더퍼드는 전자와 정반대의 전하를 가진 원자핵의 존재를 실험적으로 증명했고, 이로써 현대적 원자 모델을 완성하는데 필요한 대부분의 조각을 다 찾게 된다. 남은 한 조각, 즉 중성자의 존재는 이번엔 러더퍼드의 제자였던 채드윅James Chadwick이 증명한다. 이런 경이로운 일련의 발견 과정에서 켈빈 경1st Baron Kelvin, 소용돌이 원자이론을 주창한 톰슨은 나중에 켈빈 경의 작위를 받는다의 대단히 멋진 소용돌이 원자 이론은 점차 역사의 뒤안길에서 잊혀갔다.
이야기가 이렇게 끝나버렸으면 우리는 매듭 원자 이론을 켈빈이란 위대한 물리학자의 일생에서 벌어진 흥미로운 실수쯤으로 치부하고 잊어버릴 수도 있었다. 원자는 켈빈과 테이트가 상상했던 이리저리 얽힌 고무 매듭이 아니었다. 켈빈이 미처 상상하지 못했던 점을 하나 꼽으라면, 원자가 또 다른 일련의 입자, 즉 전자, 중성자, 양성자로 구성된 복합체였다는 사실이었다. 새로운 사실의 발견 앞에서는 아무리 그럴듯한 수학적 이론이라도 스멀스멀 녹아내릴 수밖에 없는 운명에 처한다. 그러나, 흥미로운 수학적 모델은 마치 고질적 피부병처럼 완전히 사라졌다 싶다가 어느 날 형태를 살짝 바꾸어 다시 모습을 드러내기도 한다. 켈빈보다 약 100년 뒤 태어난 영국의 이론 물리학자 토니 스컴Tony Hilton Royle Skyrme이 이번엔 “매듭 소립자 이론”을 주장하기 시작했다. 1962년의 일이다.
스컴이 이해하고 싶었던 대상은 원자가 아니라 양성자, 중성자 같은 핵을 구성하는 입자들이었다. 한 번 만들어진 양성자는 아주 오랜 시간이 지나도 계속 양성자로 남아 있다. 원자가 계속 원자로 남아 있는 이유를 헬름홀츠가 발견한 소용돌이의 불변량에서 찾고 싶어 했던 게 톰슨이었다면, 스컴은 왜 양성자가 계속 양성자로 남아 있는지 그 이유를 수학적으로 설명하고 싶어 했다. 톰슨과 스컴이 살았던 시대 사이에는 양자역학과 양자장론 이론에서 어마어마한 발전이 있었고, 그 덕분에 스컴은 켈빈보다 훨씬 세련된 수학을 구사할 수 있었다. 켈빈의 원자는 매듭 하나를 갖고 여러 번 교차시켜 만든 위상학적 구조였다. (위의 매듭 그림 참조) 스컴은 이보다 훨씬 복잡하게, 수없이 많은 고리들이 서로 얽힌 구조를 제안한다.
스컴 모델을 [그림6]의 그림처럼 시각화해보면, 한 고리가 다른 고리를 통과하고, 세 번째 고리는 앞선 두 고리를 모두 통과한다. 서로 다른 N개의 열쇠고리가 있고, 한 개의 고리는 각각 나머지 (N-1)개의 고리를 관통하는 구조다. 켈빈의 매듭과 마찬가지로, 스컴의 고리 매듭을 분리하려면 반드시 어딘가를 끊어야만 한다. 만약 끊을 수 없다면 그 고리는 영원히 안정된 구조를 유지해야만 한다. 양성자가 어느 날 갑자기 붕괴하지 않는 이유는 바로 이런 것이다. 이것이 바로 스컴이 상상한 핵자 이론의 요지다.
켈빈의 원자 모형은 톰슨과 러더퍼드의 실험을 통해 사실상 무력화됐다. 스컴의 매력적인 제안은 어떤 운명을 맞이했을까. 스컴의 논문이 세상에 나온 지 불과 2년 뒤에 등장한 겔만Murray Gell-Mann의 쿼크 이론에 밀려 소립자 이론의 주류에서 밀려나는 씁쓸한 운명을 맞았다. 입자 물리학 교과서에 등장하는 소립자 표준 모형 어디에서도 스컴의 제안은 찾아볼 수 없다. 원자핵은 켈빈의 매듭이 아니라 양성자와 중성자와 전자로 구성된 복합체였다. 또한 양성자와 중성자는 업쿼크와 다운쿼크로 만들어져 있지, 스컴이 제안한 꼬인 구조가 아니었다. 현실 세계에 적용될 수 없다면 아무리 매력적인 이론이라고 한들 그저 논문 속에 존재하는 수식일 뿐이다.
물거품처럼 사라질 뻔했던 스컴의 꿈은 그가 원했던 핵의 세계가 아닌 자석의 세계에서 예상치 못했던 방식으로 21세기에 부활하고 있다. 자성체, 즉 자석은 그 물질을 구성하는 원자 하나하나가 작은 자석이다. 스핀이라고도 부르는 이 작은 자석이 모두 한 방향을 향할 때, 우리는 그 물질을 자석 혹은 자성체라고 부른다. 설령 그렇게 잘 정렬되지 않은 자석이라 하더라도, 외부에서 강한 자석을 동원해 자기장을 걸어주면 정렬이 강제로 이루어지기도 한다. 나침반의 바늘이 외부 자석을 가까이 대면 그 쪽으로 돌아가는 모습을 상상하면 된다.
1988년 무렵, 러시아의 이론 물리학자 보그다노프Sergey Bogdanov는 일부 특이한 자성체에 자기장을 걸어주면 스핀이 자기장 방향으로 정렬하는 대신, 특이하게 꼬인 구조로 정렬할 것이란 예측을 담은 계산 결과를 발표한다. 2차원, 즉 평면 구조의 자석에서 나타날 수 있는 이 꼬인 구조의 수학적 성질을 따져 보면 스컴이 핵자 이론에서 제안했던 매듭 입자(이런 입자를 스커미온이라고 부른다)의 한 종류가 된다. 앞서 보인 그림은 3차원, 즉 우리가 보통 접하는 공간에서 가능한 꼬인 구조다. 하지만 공간이 한 차원 낮아지면 꼬인 구조도 아래 그림처럼 한층 단순해진다. 비록 단순해 보이긴 하지만 3차원의 스컴 입자처럼, 2차원에서의 꼬인 구조도 위상학적 성질을 갖는다. 따라서 한 번 만들어지면 파괴하기 어렵다. 즉 평범한 자석이었던 물질이 스커미온으로 가득 찬 위상 자석 물질로 탈바꿈할 수 있다는 의미다.
이제 한번 질문을 해보자. 보그다노프의 이 매력적인 주장은 학계의 열광적인 지지를 받았을까, 아니면 또다시 논문 속에만 존재하는 제안으로 그쳤을까. 현실은 참 냉담하고 차가웠다. 보그다노프는 해를 거르지 않고 자신의 주장을 반복해서 논문으로 써냈지만, 10년, 20년이 되도록 그의 주장을 진지하게 받아들이거나, 실험실에서 검증해보려는 노력이 없었다.
필자는 참 우연한 기회에 보그다노프의 논문을 접하게 됐다. 2008년, 대략 지금부터 10년 전 일본의 나가오사Naoto Nagaosa 교수와 함께 특이한 물질의 특이한 물성을 함께 이해해 보기로 한 것이 계기였다. 망간과 실리콘 원자를 일대일로 섞어 만든 자성체에서 보이는 대단히 비정상적인 전기적 효과 – 비정상 홀효과anomalous Hall effect라고 한다 -를 이해하고 싶었던 게 그 동기였다. 비정상 홀 효과 이론의 개척자로 꼽히던 나가오사 교수도 망간-실리콘 물질의 비정상 홀효과를 이해하는 데 어려움을 느끼던 참이었다. 우리는 그 초보 단계로 망간-실리콘 자성체의 구조를 간단한 모델로 바꾸어 그 성질을 수치 계산적인 방법으로 먼저 탐구할 계획을 세웠다. 마침 필자의 옆방 연구실에는 수치 계산에 탁월한 능력을 가진 이수도 학생이 있었고, 그의 지도 교수가 일 간 안식년을 가는 틈을 타 필자가 일 년 간 이 학생을 “무료 임대”할 수 있었다. 그런데 어느 날 학생의 계산 결과를 검토하다 보니 보그다노프의 스커미온과 동일한 구조가 나타나는 것이 아닌가! 만약 망간-실리콘 자성체에 스커미온이 정말로 존재한다면 비정상 홀효과 실험은 저절로 설명될 수 있었다. 비정상 홀효과는 곧 스커미온의 존재를 알리는 신호였다.
멋진 발견으로 인한 흥분에 쌓인 필자와 이수도 학생, 나가오사 교수는 논문을 서둘러 발표하고자 했다. 그렇게 논문 마무리 작업이 한창이던 2009년 2월 어느 날, 최고의 과학 학술지 사이언스에 실린 논문의 제목을 보고 필자가 그만 경악하고 말았던 기억이 난다. 그 논문은 망간-실리콘 자성체에서 스커미온의 존재를 확인했다는 실험 결과를 보고하고 있었으니까. 물리 학술지 중 수준이 높기로 정평이 난 Physical Review Letters에 투고한 필자의 논문은, “이미 실험적 검증이 끝난 결과”라는 심사평과 함께 게재 거부됐고, 그보다 한 등급 낮은 Physical Review B에 어렵게 출판됐다.
멋진 발견인 줄 알았다가 결국 뒷북치기에 머문 논문을 쓰고는 곧 다른 일에 집중하려고 하던 차에, 필자는 나가오사 교수로부터 “은밀한” 연락을 받는다. 사실 이수도 학생의 계산 결과는 보그다노프와 마찬가지로 2차원의 아주 얇은 자석을 가정한 것이었다. 그러나 사이언스에서 보고한 스커미온은 3차원 덩어리 물질에서 발견된 것이었다. 3차원 자성체에서는 2차원 자성체 경우보다 스커미온이 훨씬 불안정한 상태로 존재하기 때문에 발견하기가 상당히 어려웠다. 그래서 고체 물리학자들이 망간-실리콘이란 물질을 수십년간 연구해 왔으면서도 스커미온의 존재를 미처 파악하지 못한 면이 있었다. 우리의 계산에 따르면 2차원 물질에서는 스커미온이 훨씬 안정화되어야만 했다. 심지어 절대 영도에서도 스커미온이 존재할 수 있었다. 이 점을 직시한 일본의 뛰어난 실험 물리학자들은 아주 얇은 박막 형태의 자석에 자기장을 걸어보았다. 그 결과, 마치 겨울철 나뭇가지에 눈꽃이 피듯, 해바라기꽃에 씨앗이 촘촘히 박혀있듯, 스커미온이 박막 전체를 뒤덮고 있다는 사실을 발견했다. [그림10]은 2차원 박막 자성체에 스커미온이 조밀하게 형성돼 격자 형태를 이루는 모습을 도식적으로 보여준다. 이 발견 이후 수없이 많은 박막 자성체에서 스커미온을 발견했다는 사례가 보고되기 시작한다.
거의 2세기 전부터 시작된 헬름홀츠의 증명, 켈빈이 품었던 매듭 원자의 꿈, 스컴이 제안했던 위상입자의 꿈, 보그다노프의 위상자석의 꿈은 매번 이론과 현실을 연결 짓는데 실패하는 좌절을 겪고는 다시 부활하는 과정을 거쳐 드디어 21세기에 들어와서 위상자석 물질이란 새로운 물성 물리학의 장을 열고 있다. 맥아더를 흉내 내자면 “좋은 이론은 결코 죽지 않는다. 다만 잠시 잊혀질 뿐이다.”
후기 필자의 지도 교수이고, 위상 물질 이론의 개척자, 2016년 노벨 물리학상 수상자인 데이빗 사울레스 교수가 지난 4월 7일 세상을 떠났다. 그의 업적에 대한 찬사와 기록을 더하기는 이미 무의미하지만, 대신 탁월한 물리학자, 존경할 스승을 잃은 아쉬움을 여기 한 줄 기록한다.
