들어가며
우리가 배우는 과학 교과서에는 “모든 물질은 원자로 이루어져 있다”고 되어있다. 하지만 실제로 그 원자를 직접 본 사람은 있을까? 실제 원자는 너무 작아서 빛을 이용하는 일반적인 광학현미경으로는 관찰할 수가 없다. 관측 대상이 빛의 파장이라는 물리적인 한계보다 작아지는 순간, 고전적인 측정 방식은 무의미해지는 것이다. 이 해상도의 벽을 넘기 위해 과학자들은 전자electron를 이용해서 대상을 관측하는 다양한 형태의 전자현미경electron microscope들을 고안해 내었다. 그중에서도 주사 터널링 전자현미경scanning tunneling microscope, STM은 양자역학quantum mechanics의 핵심인 불확정성의 원리uncertainty principle에 기반하여 동작하는 현미경으로, 이번 글에서는 이 독창적 전자현미경의 작동 원리와 그것이 보여주는 매력적인 양자 세계에 대해 살펴보고자 한다 [그림 1].
원자는 얼마나 작나요?
원자는 중심에 위치한 원자핵과 그 주위를 도는 전자로 이루어진 작은 구조이다. 고전물리학의 관점에서 보면, 전자는 양전하를 띤 원자핵에 전자기적 인력으로 끌리면서 주위를 공전하고 있다고 상상할 수 있으며, 이는 중력에 의해 지구가 태양을 도는 궤도 운동과 유사한 개념이다. 이러한 궤도-공전 모델은 원자핵과 전자가 처음 발견되었을 당시 사람들이 떠올릴 수 있었던 가장 자연스러운 원자 구조였을 것이다. 그러나 이러한 고전적인 궤도-공전 모델은 자체적으로 심각한 모순을 내포하고 있다. 고전 전자기학에 따르면, 전자는 가속 운동(즉, 곡선 궤도 운동)을 하는 동안 전자기파 형태로 에너지를 지속적으로 방출해야 하며, 그 결과 점차 에너지를 잃고 원자핵 쪽으로 나선형으로 떨어져야 한다 [그림 2]. 이는 곧 모든 원자는 불안정하여 붕괴해야 한다는 결론에 이르게 되며, 우리 주변의 안정적인 물질 세계와는 명백하게 모순된다. 따라서, 원자의 안정성을 설명하기 위해서는 고전물리학을 넘어서는 새로운 이론 체계, 즉 양자역학의 도입이 필수적이었다.
고전물리학의 모순을 해결하기 위해 도입된 양자역학은, 전자를 더 이상 고정된 궤도를 따라 움직이는 입자가 아니라, 공간에 퍼져 있는 파동으로 설명한다. 이때 핵심적인 역할을 하는 것이 바로 하이젠베르크의 불확정성 원리이다. 이 원리에 따르면, 입자의 위치와 운동량은 동시에 정확히 알 수 없으며, 두 물리량의 불확정성 곱은 항상 일정한 값 이상을 가져야 한다.
이를 원자의 구조에 적용하면 다음과 같은 결론에 이르게 된다. 전자가 원자핵에 너무 가까이 위치하면, 위치의 불확정성이 작아지는 만큼 운동량(즉, 속도)의 불확정성은 커지게 되며, 결과적으로 전자는 매우 큰 운동 에너지를 가지게 된다. 반대로, 전자가 핵으로부터 넓게 퍼져 있으면 운동 에너지 자체는 작아지지만, 핵의 인력에 의한 퍼텐셜 에너지의 손실이 증가한다. 결론적으로, 운동 에너지와 퍼텐셜 에너지 사이의 균형점이 존재하게 되며, 이 균형점에서 전자는 가장 낮은 에너지 상태ground state로 존재할 수 있다 [그림 3]. 이 상태가 곧 원자의 안정한 구조를 형성하는 조건이 되는데, 이때 결정되는 전자파동의 공간적 분포가 원자 크기를 자연스럽게 정의하게 되는 것이다. 실제로 수소 원자의 반지름은 이러한 양자역학적 고려를 통해 ~0.53 Å (1Å: 100억분의 1미터) 정도로 계산될 수 있으며, 이를 보어의 반지름Bohr radius라고 부른다. 결국, 원자는 고전역학이 아닌 양자역학의 불확정성 원리와 에너지 최소화 조건에 의해 안정적으로 존재하며, 그 크기조차도 자연스럽게 결정되는 것이다.
원자 속 전자의 공간 분포를 볼 수 있나요?
전자가 원자핵 주위의 어느 지점에 위치하는지 정확히 아는 것은 불가능하지만, 존재 확률이 높은 영역, 즉 전자 구름electron cloud의 형태는 양자역학을 통해 계산할 수 있다. 만약 이 전자 구름이 외부 세계와 완전히 단절되어 있다면, 우리는 그것에 대한 어떠한 정보도 얻을 수 없을 것이다. 그러나 다행히도, 이 전자 구름은 고전역학과는 다른 양자역학적 특성을 지니고 있으며, 특히 양자 터널링quantum tunneling 현상을 이용하면, 이 전자 구름을 직접 관측할 수 있는 통로가 열리게 된다.
양자 터널링은 오직 양자역학에서만 나타나는 독특한 현상으로, 입자가 자신이 갖고 있는 에너지보다 높은 장벽을 확률적으로 통과할 수 있는 현상을 말한다. 고전물리학의 관점에서는, 입자는 주어진 에너지보다 높은 장벽을 넘을 수는 없고, 장벽 너머로 진행하는 일은 일어날 수 없다. 그러나 양자역학에서 입자는 파동의 성질을 지닌다. 파동 은 본질적으로 장벽 내부에서도 일정한 진폭을 가지며 감쇠 형태로 침투할 수 있다. 이러한 파동이 장벽의 반대편까지 도달할 수 있다면, 입자는 일정 확률로 그 장벽을 뚫고 넘어가는 것이 가능한 것이다. 이를 양자 터널링이라고 부르며, 이 현상은 전자처럼 가벼운 입자일수록, 그리고 장벽이 얇을수록 더욱 잘 일어난다. 양자 터널링은 물리적으로 분리되어 있는 두 지점 사이를 순간적으로 이동할 수 있게 해 주며, 이런 전자 흐름을 통해 원자 세계과 외부 세계가 이어지는 연결점이 만들어진다[그림 4].
주사 터널링 전자현미경의 발명과 노벨상
1986년 가을의 어느 날, 스위스 취리히에 위치한 IBM 연구소의 연구원들은 축구 경기를 준비하고 있었다. 게르트 비니히Gerd Binnig와 하인리히 로러Heinrich Rohrer 역시 동료들과 함께 운동을 하러 나갈 채비를 하고 있었다. 그때 갑자기 울린 전화를 받은 순간, 두 사람은 노벨 물리학상 수상자가 되었다는 사실을 알게 된다. 두 사람은 연구를 통해 전도성 금속으로 만든 매우 날카로운 탐침tip을 시료 표면 가까이에 수 나노미터1nm: 10억분의 1미터 거리까지 접근시키고, 그 사이에 미세한 바이어스 전압bias voltage을 가하면, 전자가 양자 터널링을 통해 탐침과 시료 사이를 오가는 것을 확인하였다. 특히, 탐침을 시료의 표면을 따라 이동하면서 이 전류를 정밀하게 측정하면 앞에서 말한 전자 구름의 분포를 원자 수준에서 측정할 수 있음을 보여주었다. 주사 터널링 현미경STM의 발명이었다 [그림 5].
이전까지는 원자의 존재를 사고와 실험의 간접적인 방법을 통해 추정했지만, STM은 처음으로 원자 하나하나의 존재를 시각적으로 확인할 수 있는 도구였다. 비니히와 로러의 실험실에서는, 전자의 밀도 구름이 이미지로 변환되어 컴퓨터 화면에 그려졌고, 과학자들은 원자 구조를 실제로 ‘본다’는 감각을 최초로 경험할 수 있게 되었다. STM의 등장은 단지 새로운 장비의 발명이 아니라, 양자역학의 추상적인 개념을 현실의 관측 가능한 대상으로 바꾸는 획기적인 사건이었던 것이다. 과학자들이 원자를 상상에서 눈앞으로 끌어오게 된 이 전환점은, 발명자들에게 노벨상의 영예를 안겨 주었을 뿐 아니라 현대 나노과학 기술의 판도를 바꾸는 계기가 되었다 [그림 6]. 여담이지만, 비니히와 로러는 노벨상 수상 전화를 받고도 예정된 축구 경기를 끝까지 뛰었다고 한다.
주사 터널링 전자현미경은 어떻게 제어되나요?
STM은 전도성 탐침을 시료 표면 수 나노미터 이내로 접근시켜, 전자 터널링 전류를 유도한다. 이때 탐침이 시료에 닿지 않으면서도 매우 가까이 접근해야 하므로, 극도로 미세한 거리 제어가 필요하다. 이를 위한 STM 기계 장치 부품으로 압전소자를 활용한다. 압전효과piezoelectric effect는 특정한 결정 구조를 가진 재료(예: 석영, 압전 세라믹 등)에 기계적인 힘을 가하면 전기 전압이 발생하는 현상을 말한다. 이와 반대로, 이들 재료에 전압을 가하면 재료가 기계적으로 미세하게 팽창하거나 수축하기도 한다. 이 두 현상은 각각 직접 압전효과와 역逆 압전효과라고 불리며, STM에서는 역 압전효과를 이용하여 전기적 신호를 기계적 운동으로 변환한다.
먼저, 탐침을 시료 표면을 향해 수직방향(z축)으로 움직이기 위해서 전단형 압전 소자shear piezo를 이용한다. 전단형 압전소자는 미끌어지는 듯한 전단 방향의 변위를 일으키는 소자로, 전압이 가해지면 한 면이 옆으로 밀리는 것처럼 움직이게 된다. 이 때, 빠른 전압 변화slip motion와 느린 전압 복귀stick motion에 따른 관성 운동의 차이를 이용해, 탐침의 높이를 원자 수준의 정밀도로 천천히 이동시킬 수 있다 [그림 7]. 이러한 방법으로 탐침이 시료 표면에 접근하다가 전류가 감지되는 순간, 피드백 회로가 동작해 터널링 전류가 일정하게 유지되도록 탐침의 높이를 조정한다.
한편, 시료 표면의 양자 터널링 정보를 얻기 위해 탐침을 좌우(x축), 앞뒤(y축) 방향으로 정밀하게 움직이는 데에는 튜브형 압전소자가 사용된다. 이 소자는 표면에 4개의 전극(+x, -x, +y, -y)을 가지고 있으며, 특정 전극에 전압이 가해지면 소자가 휘어지는 방식으로 변위를 발생시킨다 [그림 8]. 이러한 전압 제어를 통해 탐침은 x–y 평면에서 원자 수준의 정밀한 스캔이 가능해진다. 각 위치에서 측정된 터널링 전류는 시료 표면의 국소 전자 상태를 반영하며, 이를 종합하면 2차원 전자 밀도 이미지를 구성할 수 있다.
이상에서 설명한 탐침을 x축, y축 및 z축 움직이는 방법에는 STM 장비마다 다소 차이는 있을 수 있으나, 움직임을 제어하는데 압전소자가 이용된다는 점은 모두 동일하다.
주사 터널링 전자현미경이 보여주는 놀라운 세상
: 원자 하나하나를 보는 눈
STM은 과거에 그저 이론으로만 존재하던 원자의 세계를, 현실 속에서 직접 ‘본다’는 경험으로 바꿔 놓았다. STM으로 측정된 대표적인 이미지를 보면, 규칙적으로 배열된 원자들이 시각화되어 늘어서 있는 모습을 확인할 수 있다. 예를 들어, 실리콘, 구리, 은 등의 결정면을 관측하면, 원자 하나하나가 격자 모양으로 배열된 2차원 전자 밀도 이미지가 생성된다 [그림 9]. 동일한 물질이라도 결정면의 방향(예: (111)면, (100)면 등)에 따라 배열 모양이 달라지며, 이러한 차이를 STM은 원자단위로 정확하게 포착해낸다. 이처럼 STM은 단순히 미시 세계를 보여주는 도구를 넘어, 표면의 원자 배열, 결함, 도핑된 이종 원자, 표면에 흡착된 분자들까지도 구분해 낼 수 있는 정밀한 ‘눈’ 역할을 수행하는 것이다.
: 원자 하나를 움직이는 손
STM의 탐침은 단순히 측정만을 위한 도구가 아니다. 극도로 정밀한 제어 능력을 갖춘 이 탐침은, 원자 하나하나를 ‘집고’, ‘옮기고’, ‘쌓을 수 있는’ 나노 세계의 핀셋 역할을 수행할 수도 있다. 실제로, IBM 연구팀은 1989년, 니켈 표면 위에 흡착된 제논 Xenon 원자를 하나하나 옮겨서 “IBM”이라는 글자를 원자 단위로 배열하는 실험을 성공시켰다 [그림 10]. 이 실험은 단순한 기술적 과시가 아니라, 인간이 물질의 가장 기본 단위를 직접 조작할 수 있는 시대가 열렸음을 상징하는 역사적 장면이다. STM은 전압 펄스를 이용하여 특정 원자에 국소적인 에너지를 전달하거나, 탐침을 미세하게 움직여 인접 위치로 원자를 유도하는 방식으로 이 작업을 수행한다. 이 과정은 마치 손가락 대신 초정밀한 ‘양자 손’으로 원자를 다루는 일과도 같다.
: 양자역학을 시각화하는 기술
더 나아가, STM은 전자들의 파동적 특성과 같은 양자역학적 정보를 직접 관측할 수 있도록 해 준다. 예를 들어, 구리(111) 표면의 전자 간섭 현상은 마치 수면 위의 물결파처럼 퍼져 나가며, STM은 이러한 파동 패턴을 이미지로 포착할 수 있다 [그림 11]. 이는 전자가 입자이자 파동이라는 이중성을 지닌다는 양자역학의 핵심 개념을 눈으로 볼 수 있는 실험적 증거이기도 하다. 또한, 특정 전압 조건에서 나타나는 전도성의 급격한 변화, 국소 자화magnetism, 초전도 갭superconducting gap 등도 STM을 통해 탐색할 수 있으며, 이러한 결과는 물질 구조와 전자간 상호작용을 깊이 이해하는데 중요한 정보를 제공한다. 또한, 분자 오비탈 분석, 원자 크기의 양자점quantum dot 구현, Kondo 효과 관측과 같은 복잡한 양자 현상도 STM의 정밀한 측정 능력을 통해 시각적으로 관측되고 해석될 수 있다.
구조 관찰을 넘어 분광학적 탐색으로
STM이 처음 발명되었을 때, 가장 큰 매력은 원자 하나하나를 ‘직접 관측할 수 있다’는 점이었다. 그러나 곧 과학자들은 이 현미경이 단순히 구조적인 이미지를 넘어서, 물질 내부의 전자 상태, 즉 ‘어떤 성질을 지니는가’를 탐색하는 분광학적 도구로 확장될 수 있음을 깨달았다. 이 확장은 바로 주사 터널링 분광Scanning Tunneling Spectroscopy, STS 기술을 통해 실현되었다.
STS에서는 탐침과 시료 사이의 바이어스 전압을 변화시키며 전류의 세기가 어떻게 바뀌는지를 정밀하게 측정한다. 이렇게 얻어진 전류–전압 곡선I–V curve 혹은 그 미분값dI/dV은 시료 표면에서의 국소 전자 밀도 상태Local Density of States, LDOS를 반영하게 된다. 다시 말해, 특정 에너지에서 전자가 존재할 확률이 얼마나 되는지를 정량적으로 측정할 수 있는 것이다.
이 기술의 중요성은 금속, 반도체, 초전도체, 토폴로지 물질 등에서 나타나는 각자 다른 전자 구조를 구분할 수 있게 해 준다는 데에 있다. 예를 들어, 금속에서는 페르미 준위 근처에 LDOS가 연속적으로 존재하지만, 초전도체에서는 에너지갭이 존재하여 일정 영역에서 dI/dV가 거의 0에 가까워진다 [그림 12].
또한, STS는 단일 원자 혹은 단일 분자에 대한 분광 분석도 가능하게 만든다. 특정 흡착 분자의 오비탈 구조 및 스핀 상태 등도 STS 측정을 통해 구분될 수 있으며, 이를 통해 전통적인 광학 분광법으로는 접근하기 어려운 초미세 전자 구조를 파악할 수 있다.
이러한 측면에서, STM은 단순한 ‘현미경’이 아니라, 양자 물리학의 실험실이라 해도 과언이 아니다. 원자를 ‘보고’, ‘움직이고’, 그 전자 상태를 ‘분석’하며, 물질의 근본적인 특성을 밝혀내는 데 있어 STM은 연구자의 눈과 손, 그리고 감각기관 모두를 겸비한 도구가 된 것이다.
맺음말
STM은 단순한 관측 장비의 역할을 넘어, 이제는 양자 정보를 조작하고 탐색하는 도구로 발전하고 있다. 초기에는 주로 고체 표면의 원자 배열을 시각화하거나 국소 전자 구조를 측정하는 데 활용되었지만, 최근에는 이보다 훨씬 더 정밀한 기능을 수행하는 데 사용되고 있다. STM은 양자역학적 상태를 조작하고 감지할 수 있는 몇 안 되는 실험 기기 중 하나로, 양자 기술quantum technology의 중요한 기반이 되고 있는 것이다.
가장 흥미로운 발전 중 하나는 단일 원자 또는 분자를 이용한 양자 비트qubit의 구현이다. 특정 원자(예: 코발트, 철 등 자성 원자)를 절연 기판 위에 증착하고, STM을 이용하여 이 원자의 스핀 상태를 정밀하게 읽거나 제어할 수 있다. 이 스핀 상태는 양자 정보의 단위로 이용될 수 있으며, STM은 이러한 상태를 원자 수준에서 정확하게 분석하고, 조작하며, 상호작용을 탐색하는 데 필수적인 도구가 된다.
또한, 초전도체 표면에서의 마요라나 준입자Majorana quasiparticle 탐색에도 STM은 핵심적인 역할을 한다. 마요라나 준입자는 일반적인 페르미온이나 보존과는 다른 성질을 가지며, 비국소적 양자 얽힘을 기반으로 한 안정적인 양자 연산의 기반이 될 수 있다. STM은 초전도 나노선, 철 원자 체인 등에서 이러한 마요라나 상태가 나타나는지를 분광학적으로 추적하며, 양자 컴퓨팅의 실현 가능성을 실험적으로 검증하는 데 기여하고 있다.
한편, 양자 시뮬레이터로서의 STM의 역할도 주목받고 있다. STM을 이용해 원자를 원하는 위치에 배열함으로써, 인공적인 결정 구조(예컨대 카고메 격자 또는 위그너 격자)를 형성할 수 있고, 이는 이론적인 모델에서만 존재하던 특이한 양자 상태(예: 플랫 밴드, 프랙탈 전자 구조, 위상 물질 상태)를 실제로 구현하고 탐색하는 데 사용된다.
STM은 물질을 ‘보는 도구’에서 출발했지만, 이제는 양자 상태를 만들고, 조작하고, 제어하며, 해석하는 도구로 진화하고 있다. 나노미터의 세계에서 전자 하나하나의 움직임까지도 추적하고 설계할 수 있는 STM의 능력은, 향후 양자 컴퓨팅, 양자 센싱, 양자 통신과 같은 기술들의 현실화를 위한 핵심적인 역할을 계속해서 수행할 것이다.
