양자 홀 상태의 재발견

주식시장의 상승을 주도하는 주식을 ‘대장주’라 부른다. 최근에는 AI 열풍 덕분에 ‘엔비디아’ 주식이 대장주 노릇을 하고 있지만 불과 얼마 전까지는 테슬라가 대장주였고 유튜브에는 대장주를 찍어주는 동영상 인기가 하늘을 찌른다. 주식시장에 대장주가 있듯 물질 중에도 연구를 주도하는 ‘대장 물질’이 있다. 가장 대표적인 대장 물질은 1911년 온네스^{Kamerlingh Onnes} 연구실에서 발견한 초전도체이다. 한 세기를 넘은 지금까지도 초전도체 연구는 최근 LK-99를 비롯한 상온 초전도체 연구가 보여주듯 물리학의 최첨단에 서 있다. 아직 상온 초전도체를 상용화하는 꿈에 도달하진 못했지만 초전도체를 이용한 큐빗은 양자 문명의 한 축을 담당하고 있다. 양자 홀^{Quantum Hall} 물질은 초전도체에 버금가는 대장 물질이다. 지금까지는 순수한 호기심을 자극하는 우아한 물질의 단계에 머물러 있었으나 최근에는 비가환 애니온을 이용한 양자 연산에 유용한 물질이 될 수도 있다는 쪽으로 진화하고 있다.¹ LK-99연구가 주식시장을 뒤흔들었듯 물리학과 주식시장의 경계가 허물어져가고 있는 지금 어쩌면 주식투자에도 유용할지 모를  버금 대장 물질인 양자 홀 물질 이야기를 풀어본다.

우리는 문명의 단계를 석기, 청동기, 철기 등 인류가 주로 사용하는 도구를 기준으로 분류하는 것에 익숙하다. 청동과 철은 금속이고, 금속은 전기를 통한다. 물리학에서는 금속을 전기를 통하는 물질로 정의하기에 금속을 금속답게 만드는 것은 전기를 통하는 성질인 전도성이라고 할 수 있다. 하지만 청동기와 철기 시대 인류는 청동과 철이 뜨거운 온도에서 녹고, 식힌 뒤 두드리면 말랑말랑한 성질 덕분에 이런저런 모양으로 만들 수 있다는 특징을 이용했을 뿐 금속의 전도성을 활용한 것은 아니었다. 볼타가 전지를 발명하여 전지와 연결된 금속은 전기를 통한다는 사실이 실험실에서 검증되고 각종 전기 도구가 19세기부터 만들어지기 시작하면서 20세기 전기 문명을 구축하게 됐다. 분자에서 전자가 하나 떨어져 나간 이온이 이동하는 방식으로 작동하는 전지를 제외한 대부분의 전기 제품은 전자의 움직임을 통해 전기가 전달되기에  ‘전자 제품’이라고 불린다. 물리학 중에서 고체의 성질을 연구하는 응집 물리학 분야가 가장 크고 다양한데 그 중에서도 특히 고체 속 전자의 성질을 연구하는 사람들이 유난히 많은 것도 현재의 전기 전자 산업이 차지하는 비중과 무관하지 않다.

전자는 전하를 띠고 있고, 다른 전자를 밀쳐낸다. 쿨룽이 이 현상을 최초로 체계화했기 때문에 전자끼리 밀쳐내는 힘을 쿨롱 힘이라고 부른다. 전자 하나의 거동을 이해하거나 제어하는 데 필요한 원리는 과학자, 공학자들이 이미 잘 알고 있지만, 전자가 많이 모인 집단의 성질은 쿨롱 힘이 워낙 강해서 어떤 집단 효과를 이루어 낼지 예측하기 어렵다. 물체가 세 개만 되어도 상호작용과 움직임을 예측하는 일반해를 찾을 수 없다는 삼체문제를 알고 있는 사람이라면 전자 집단을 연구하는 것이 쉽지 않음을 직관적으로 이해할 것이다. 물리학자들은 이론이나 모델에 의존해서, 또는 각종 기발한 실험을 통해 전자의 집단적 행동에 대해 탐구해 왔다.

1970년대 후반, 독일의 실험 물리학자 클라우스 폰 클리칭^{Klaus von Klitizing}은 프랑스 그레노블에 있는 고자기장 시설에서 MOSFET^{Metal-Oxide-Semiconductor Field Effect Transistor}이라는 반도체 소자 속의 전자가 외부에서 강한 자기장을 걸어주었을 때 어떻게 거동하는가를 탐구 중이었다. MOSFET을 비롯한 전자 소자는 전자가 대단히 얇은 층을 따라서 이동하게 설계되어있다. 이렇게 2차원적으로 국한된 운동을 하는 전자 집단을 2차원 전자계라고 부른다. 컴퓨터 부품으로 MOSFET을 사용할 때는 강한 자기장이 안 걸려있지만 호기심 많은 물리학자 입장에서는 자기장의 효과, 더군다나 일상에서 접할 수 없는 강력한 자기장이 반도체 소자에 미치는 효과가 궁금했던 것이다. 마침 그레노블에는 강력한 자기장을 발생하는 시설이 갖추어져 있고, 전세계 과학자들이 모여들어 자기장이 물질에 주는 영향을 탐구하고 있었다. 자기장이 없을 때는 직선 궤도를 따라 움직이는 전자이지만 강한 자기장의 영향을 받으면 점차 그 운동이 원운동 형태로 바뀌어 결국 제자리에 고정된 채 맴돌이 운동만 하는 것처럼 거동한다. 전자의 궤도가 직선에서 원으로 바뀌는 걸 직접 관측할 수는 없지만 대신 MOSFET에 흐르는 전류에 대한 저항값을 측정할 수 있다. 금속의 저항값은 전기를 잘 통하는 물질일수록 낮다. 마치 사람의 키가 그 사람의 특징을 나타내는 숫자의 하나이듯, 저항은 그 금속의 전기 전도성이란 특징을 드러내는 숫자다. 자기장을 가했을 때의 전자 운동은 직선운동과 원운동이 혼합되어 커브공처럼 한쪽으로 휘어지는 운동이 된다. 그래서, 저항을 측정할 때도 전자가 본래 진행하는 직선 방향과 더불어 공이 휘는 방향인 수직 방향까지 두 방향에 대해 재야 한다. 첫번째 직선방향 저항은 그냥 저항이라고 부르고, 두번째 수직 방향의 저항은 홀^Hall 저항이라고 부른다. 전자가 흐르는 도선에 강한 자기장을 걸어본 뒤 저항을 측정한 최초의 인물인 19세기 사람 에드윈 홀^{Edwin Hall}을 기리는 명칭이다.

클리칭이 발견한 홀 저항은 놀랍게도 25812.807옴이란 아주 정확한 숫자였다. 이 숫자는 자연 법칙의 기본 상수인 전자의 전하량 e와 플랑크 상수 h를 이용해 (홀저항)=h/e² 으로 표현할 수 있다는 점에서 더욱 놀라웠다. 클리칭은 이 발견의 공로로 1985년 노벨 물리학상을 받았다. 곧이어 분수 양자홀 효과를 발견하고 양자홀 효과를 비롯한 위상 물질 전반의 이론적 이해를 도모한 물리학자에게 두 차례나 더 노벨상이 주어졌으니 양자 홀 물질은 무려 세 번이나 응집물리학자들에게 노벨상을 선물한 응집 물리학의 총아다.

클리칭이 발견한 정수 양자홀 효과에 대한 가장 정확한 이론은 1982년 데이비드 사울레스^{David Thouless} 등이 발표한 논문으로 수립되었다 [2]. 직선 운동을 하던 전자가 강한 자기장으로 인해 원운동을 하게 된다는 건 전자를 하나의 점입자로 취급하는 대단히 고전역학적인 관점의 설명이었다. 사울레스 등이 제안한 양자 홀 효과의 원리는 전자의 양자역학적 파동 함수가 겪는 변화에서 원인을 찾는다. 자기장이 없을 때의 전자 파동함수는 ‘평면파’라고 불리는 별로 특색없는 대상이다. 강한 자기장이 걸리면 중요한 변화가 일어나는 데, 이른바 베리 곡률^{Berry curvature}이란 성질이 파동함수에 추가된다. 베리 곡률의 총합은 정확히 정수가 되어야하는 위상수학적 이유가 있었고, 그 정수값이 다름아닌 클리칭이 측정한 홀저항 값에 대응한다. 이렇게 정수화된 숫자를 물리학에서는 ‘양자화’되었다고 말한다. 사울레스는 이 이론을 제안한 공로를 인정받아 2016년 노벨 물리학상을 받았다. 사울레스와 함께 노벨상을 받은 홀데인^{Duncan Haldane}은 1988년 발표한 논문에서 외부 자기장이 없을 때에도 전자 파동함수에 베리 곡률이 저절로 유도될 수 있다는 점을 보였다 [3]. 양자 홀 상태를 구현하려면 10테슬라 정도의 강한 자기장이 필요한데, 이것은 문구점에서 파는 막대 자석 세기의 대략 100배 정도다. 홀데인의 주장은 그레노블에 있는 고자기장 시설에서나 접근할 수 있는 엄청 강한 자기장을 걸어주지 않아도 물질을 잘 고르기만 하면 그 물질 속 전자가 저절로 양자 홀 상태를 만들 수 있다는 것이다. 남은 문제는 이런 물질을 어떻게 어디서 찾느냐였다. 이상과 현실의 괴리를 좁히는 작업이 종종 그렇듯, 응집 물리학자들이 홀데인의 이상을 만족시킬 물질을 현실에서 찾느라 30년이 넘는 세월이 흘렀다. “流水之爲物也 不盈科不行^{유수지위물야 불영과불행} 흐르는 물은 웅덩이를 채우지 않고는 앞으로 나아가지 않는다”. 물이 구덩이를 건너뛸 수 없듯 우직하게 과정에 충실하다보면 해결책은 전혀 예상하지 못했던 곳에서 반갑고 신기한 봄눈처럼 온다.

2000년대 중반부터 한국인 김필립 교수가 컬럼비아 대학교에서 주도한 한 장짜리 흑연인 그래핀에 대한 연구가 대유행하기 시작했다. 순전히 탄소 원자로만 만들어진 단층짜리 물질인 그래핀은 ‘세상에서 가장 얇은 물질’이다. 한 장짜리 그래핀을 흑연으로부터 성공적으로 분리하는 방법을 최초로 보고했던 논문은 2004년 출판된 이후 지금까지 20년 간 무려 7만5천회 이상 인용되었다. 이는 그래핀을 연구하는 후속 논문이 7만 편 가량 나왔다는 뜻으로 그만큼 그래핀에 관한 모든 측면이 실험적으로나 이론적으로 검토되고 시도됐다는 뜻이다. 그럼에도 여기에 무슨 새로운 시도를 더 할 수 있을까 싶은 생각이 들때쯤 상상초월의 기발한 제안이나 실험이 등장하는 일이 반복됐다.

한 장의 그래핀 위에 다른 그래핀을 살짝 얹는데, 각도를 약간 주어 회전시킨 뒤 얹는다. 위에 얹힌 그래핀의 벌집 격자와 아래 층 그래핀의 벌집 격자 무늬는 서로 회전된 상태로 겹쳐진다. 우리 눈으로 보면 잠자리 날개같은 현란한 간섭 무늬인 므와레^moire 패턴이 생긴다. 그래핀 속을 움직이는 전자의 입장에서 므와레 무늬는 묘한 방해꾼이다. 가령 개울을 가로지르는 두 줄의 징검다리가 있다고 하자. 그 중 하나는 1미터 간격으로, 다른 하나는 1미터 1센티 간격으로 돌을 놓아 만들었다. 한 징검다리를 따라 건너다 다른 징검다리로 넘어가고 싶으면 어떻게 해야할까. 여기엔 제약 조건이 하나 있다. 각 징검다리에 놓인 돌의 위치가 서로 정확히 일치해야만 징검다리 사이를 건널 수 있다. 1.01미터 간격으로 놓인 돌 100개를 지나가면 101미터, 1미터 간격으로 놓은 돌 101번째와 만난다. 두 징검다리 사이의 이동은 이렇게 100번째, 200번째 (101번째, 202번째) 돌에서만 드문드문 일어날 수 있다. 두 징검다리 사이의 관계를 잘 모르는 사람이 보기엔 두 징검다리 사이의 이동이 무척이나 어렵다고 느낄 만하다. 두 장짜리 회전 그래핀에서도 비슷한 일이 벌어진다. 한쪽 그래핀 층에 있던 전자가 다른 그래핀 층으로 이동하려면 두 그래핀 층 사이의 합이 맞는 지점을 찾아가야만 한다. 어쩌다 드문드문 존재하는 그 합일점에서만 두 그래핀 층 간의 전자 이동이 가능하다.

2011년, 미국 텍사스 주립대학의 앨런 맥도널드^{Allan MacDonald}와 그의 박사후 연구원 비스트리처^{Rafi Bistritzer} 박사는 그래핀 층간을 왔다갔다하는 전자들의 거동이 매우 특이하며, 어떤 특정한 회전각에서는 그 이동하는 속도가 사실상 0에 접근한다는 놀라운 주장을 논문으로 발표했다 [4].  마법각^{magic angle}이 되면 움직이는 속도가 0인 움직이지 않는 전자라는 말이 어쩐지 익숙하게 들린다. 바로 강력한 자기장을 걸었을 때 전자가 보이는 거동이다! 강한 자기장으로 인해 전자의 운동은 직선 운동에서 점차 원운동으로 바뀌는데, 완벽한 원운동을 하는 전자는 제자리에서 맴돌기만 할 뿐 다른 지점으로 이동할 수 없다는 점에서 운동 속도가 0이라고 할 수 있다. 비스트리처-맥도날드의 논문은 강한 외부 자기장의 도움 없이도 두 장의 그래핀을 마법각으로 회전시켜 겹치기만 하면 전자가 저절로 양자 홀 물질처럼 거동할 수 있는 조건이 마련된다는 주장이기도 했다.²

한 장짜리 그래핀은 단단한 고체라기보다는 풀을 잘 먹인 헝겊에 가깝다. 제법 빳빳한 측면이 있긴 하지만 여기저기 생기는 울툴불퉁함을 완전히 제거하기란 여간 어려운 게 아니다. 이런 울퉁불통한 그래핀 두 장을 겹쳐 아주 평평하게 만드는 게 기술적으로 쉽지 않고, 원하는 회전각도로 정확히 그래핀 두 장을 겹치는 것도 쉬운 일이 아니다. 2018년 MIT의 파블로^{Pablo Jarillo-Herrero} 교수 연구실은 마침내 기술적 어려움을 모두 극복하고 두 장의 그래핀을 마법 각도로 회전시켜 제작하는 데 성공했다 [5]. 전자의 운동 속도가 0에 가까운 상황에서 전자 집단이 무엇을 할 것인가는 오직 전자들의 상호작용을 통해 결정되는데, 파블로 교수 연구실에서 발견한 전자들의 집단 상태는 흥미진진 그 자체였다. 초전도체, 모트^Mott 절연체, 비-페르미 액체^{non-Fermi liquid} 등 응집 물리학에서 흥미롭다고 인정받는 거의 모든 상태가 발견됐다. 고체 물리학자들에겐 최첨단 백화점 하나가 동네에 입점한 셈이었다. 그러나 막상 양자 홀 상태는 그 발견 목록에 없었다. 양자 홀 상태가 발견 목록에서 빠진 결정적인 이유는 ‘시간 대칭성 파탄’이 없었기 때문이다. 다이아몬드도 가공을 해야 빛이나듯 시간 대칭성이 파탄나야 양자홀 물질이 존재한다. 이제 대칭성 파탄이 무엇인지 알아볼 차례다.

허공에 떠 있는 원자는 위치 선택에 제약이 없다. 물리학자들은 이런 상황을 이동 대칭성이라고 부른다. 고체는 원자들이 이동 대칭성을 포기해야만 비로소 얻어진다. 원자가 아무 위치에나 있는 것이 아니라 어떤 특정한 위치에 자리잡고 움직이지 않아야 비로소 고체가 형성된다. 자석은 회전 대칭성 파탄을 통해 얻은 좋은 사례다. 모든 자석에는 북극과 남극이 있다. 편의상 북극이 있는 쪽을 고체의 ‘위’, 남극이 있는 쪽을 ‘아래’라고 부르면 자석이란 고체 덩이는 위아래를 구분하는 물질이 된 셈이다. 위와 아래 사이의 회전 대칭성을 포기해야만 자석이 얻어진다.

양자 홀 물질을 얻으려면 시간 반전 대칭성을 포기해야 한다. 어떤 영상을 작동시켰을 때나 그 영상을 거꾸로 돌렸을 때나 상황이 똑같다면 시간 반전 대칭성은 유지된다. 잔잔한 바다는 시간 반전 대칭적이다. 소용돌이가 이는 바다는 시간 반전 대칭성이 파탄난 바다다. 시간을 거꾸로 돌리면 소용돌이의 방향이 바뀌기 때문이다. 양자 홀 물질 속 전자는 한 쪽 방향으로 움직인다. 외부에서 자기장을 강하게 주면 전자는 운동 방정식에 따라 저절로 소용돌이처럼 운동하기를 자처하고 한 쪽 방향으로 회전 운동을 시작한다. 자기장의 방향을 바꾸면 전자의 소용돌이 방향도 함께 바뀐다.  이자율이 은행마다 다르면 고객들은 이자율 높은 곳으로 이동하듯 그래핀에서 자기장이란 강력한 외부 조건이 있을 때 전자는 쉽사리 시간 반전 대칭성을 포기한다. 하지만 은행 이자율이 동일하다면 한 은행에 고객이 몰리지 않고 골고루 분산되듯 고체가 자기장이란 강압적 수단 없이 스스로 그 대칭성을 포기하지는 않는다. 이자율과 상관없이 한 은행으로만 고객이 몰리는 것 같은 자발적 대칭성 파탄 여부는 전자 집단이 내리는 자율적인 결정이다. 어느 마을 사람들이 이자율 인상 없이는 절대 거래은행을 바꾸지 않겠다고 고집하듯 어떤 물질 속 전자 집단이 시간 반전 대칭성을 깨길 거부한다면 그 물질 대신 다른 물질을 알아봐야 한다.

MIT에서 시작된 마법각 회전 그래핀 연구가 전세계적으로 불꽃처럼 타오르는 동안 뉴욕의 한적한 산골 도시 이타카에 있는 코넬 대학에서는 다른 종류의 거대한 반전을 준비하고 있었다. 그래핀 대신 MoTe₂라는 반도체 물질 두 장을 회전시켜 겹치는 대담한 시도가 진행되고 있었던 것이다. 맥도날드 교수의 이론적 예언이 중요한 지침돌이었다. 그의 연구실에서 2019년 발표한 논문에 따르면 MoTe₂ 두 장을 회전시켜 겹친 경우 전자 파동함수에 베리 곡률이 저절로 입혀진다 [6]. 정확히 말하면 두 부류의 전자 집단이  있고 그 중 한 집단은 양의 베리 곡률, 다른 집단은 음의 베리 곡률 값을 갖는다는 예측이었다. 만약 두 전자 집단이 회의를 거친 뒤 한 쪽 – 가령 양의 베리 곡률 값을 갖는 동네 – 에 모여 살기로 합의한다면 어떻게 될까? 양과 음의 균형은 깨지고 양자 홀 상태가 저절로 만들어진다! 외부 자기장이란 강압적인 수단이 아니라 전자들의 합의를 통해 자발적으로 대칭성 포기란 과정을 거쳐 양자 홀 상태를 만들어내는 것이다. 이런 예측은 역시 몇 년 간의 실헙적 난관을 극복하는 과정을 거쳐 2023년 실험적으로 검증됐다 [7]. 자기장 없는 양자 홀 시대가 본격적으로 개막됐다.

이에 질세라 그래핀에서도 마침내 시간 대칭성을 자발적으로 포기한 양자 홀 상태가 발견됐다. 마법의 숫자는 5였다. 두 장이 아니라 다섯 장 짜리 그래핀을 쌓았을 때 전자들은 비로소 집단적으로 시간 대칭성을 포기하기로 결정한 것이다 [8]. 그래핀이 가져온 승리를 충분히 누리기도 전에 코넬 대학의 연구실에서는 양자 스핀 홀 효과의 징후를 보았다는 논문을 공개했다 [9]. 양자 홀 효과의 쌍동이 판으로 볼 수 있다. 전자에는 스핀이란 속성이 있고, 양자 홀 물질 속 전자의 스핀은 한 방향으로 정렬되어 있는 게 보통이다. 반면 양자 스핀 홀 물질 속의 전자는 두 부류로 갈라지는 데 절반의 전자는 스핀을 북쪽으로 향한 채 시계 방향으로 원운동한다면 다른 절반의 전자는 그 스핀이 남쪽을 향한 채 반시계 방향으로 회전하는 것으로 이해할 수 있다. 두 부류의 전자를 합쳐보면 시간 반전 대칭성은 복원된다. 절반 전자계의 거동에 대한 영상을 거꾸로 돌려보면 나머지 절반 전자계의 거동과 같아진다.

자발적 양자 홀 상태의 발견은 단지 물리학자들의 오랜 꿈과 집념 하나가 이루어졌다는 데 그치지 않는다. 이번에 발견된 양자 홀 상태 중 일부는 비가환 애니온이란 준입자를 가질 수 있는 상태다. 비가환 애니온은 양자 컴퓨터에 필요한 연산을 수행할 수 있는 귀한 몸이고, 이런 입자를 만들어 강력한 양자 컴퓨터를 만들어 보겠다는 꿈을 마이크로소프트, 구글, IBM, 최근에는 퀀티니엄 등의 양자컴퓨터 회사에서 강하게 추진하는 중이다. 꿈은 어디에서 이루어질 지 모른다. 반드시 꿈이 이루어진다는 보장도 없다. 한 때 그럴듯했으나 결국 실험실 옆 창고에 파묻힌 채 잊혀진 기술이 어디 한두가지인가. 하지만 과학자들은 꿈을 먹고 산다. 양자 홀 효과를 최초 발견한 것이 1980년이었으니 이미 45년 가까운 세월이 지났건만, 이 물질에 대한 열정은 오히려 더 강해졌고 최근에는 기업의 관심도 끌고 있다. 양자 홀 물질을 계속 지켜보아야 할 이유이다.³