“빛 대신 전자로 보다” 투과전자현미경의 개발 역사와 원리

들어가며

작은 것을 크게 보여주는 도구를 현미경^顯微鏡, 영어로는 microscope이라고 지칭한다. 사람들에게 익숙한 현미경 중에는 빛을 활용하는 광학현미경^{光學顯微鏡}이 있으며, 과학시간 혹은 주변 과학관에서 한 번쯤 사용해 본 적이 있을 것이다. 그럼 빛이 아닌 다른 입자를 활용하는 현미경이 있을까? 우리의 눈은 기본적으로 빛 중 가시광선을 감지하는 센서이기에 빛이 아닌 다른 입자를 활용하여 현미경을 이용한다는 개념에 익숙하지 않을 수 있다. 하지만 이런 다른 종류의 현미경 중에는 전자를 사용하는 전자현미경^{electron microscope}이 있다. 필자가 박사과정을 시작할 당시 제일 처음 접한 장비 중에 하나가 바로 전자현미경의 한 종류인 투과전자현미경^{透過電子顯微鏡, transmission electron microscope, TEM}이었는데, 20년이 지난 지금도 그 당시의 경험이 생생하게 기억난다. 필자가 참여하던 프로젝트는 탄소나노튜브와 관련된 프로젝트였는데, 이름에서도 알 수 있듯이 나노미터 수준의 직경을 갖고 있는 탄소나노튜브는 광학현미경으로 관찰하기 어렵다. 전자현미경 중 큰 형님 격인 투과전자현미경은 이런 탄소나노튜브를 연구하기 데 필수적인 장비였다.

필자가 박사과정을 시작했을 당시와 비교하면 투과전자현미경의 성능은 괄목할 만한 발전을 이뤘으며, 재료공학, 생물학, 물리학, 화학을 포함한 다양한 학문 분야뿐만 아니라 반도체, 배터리 산업계 등에서 연구·개발에 필수불가결한 장비로서 각광받고 있다. 특히 2010년 전후로 수차 보정 렌즈의 상업적 보급과 더불어 공간분해능이 획기적으로 향상되면서 다양한 재료 내에서 원자 하나하나를 들여다볼 수 있는 장비로 발전하였다. 전자현미경은 왜 이렇게 큰 효용성을 갖고 있는 것일까? 전자현미경의 큰 형님 격인 투과전자현미경^TEM의 시작과 발전은 어떤 역사를 갖고 있을까? 본 글에서는 투과전자현미경의 개발 역사와 기본적인 원리에 대해서 소개하고자 한다.

투과전자현미경의 시작

국제현미경학회연맹^{International Federation of Societies for Microscopy, IFSM}은 4년마다 한 번씩 현미경 분야에서 세계 최대 규모의 국제학술대회 IMC^{International Microscopy Congress}를 개최한다. 지난 2023년 부산에서 개최가 된 바 있는 IMC는 현미경 분야 연구자들에게는 소위 올림픽이라고 할 수 있으며, 2031년에는 독일 베를린에서 개최되기로 확정되어 있다 [1]. 투과전자현미경은 1931년 베를린에서 처음 개발되었으며, 2031년 IMC는 전자현미경 탄생 100주년을 기념하여 그 발상지에서 개최된다는 점에서 큰 의미가 있다.

그림 1은 투과전자현미경의 간단한 구조 모식도를 보여준다. 기본적으로 전자 총^{electron gun}, 다양한 렌즈^lens, 시료 홀더^{specimen holder} 및 이미지 기록 장치^{image recording system}로 구성되어 있다. 광학현미경에서는 유리렌즈가 빛을 모으거나 펼쳐서 이미지를 만든다. 투과전자현미경에서는 전자빔이 시료를 통과하고, 자기장이 렌즈처럼 전자를 모아 이미지를 만든다. 어찌보면 투과전자현미경의 구조는 광학현미경의 구조와 크게 다르지 않다고 볼 수 있다. 하지만 실제로 전자를 빛처럼 다루고, 자기장을 렌즈처럼 사용하며, 매우 약한 시료를 전자빔 속에서도 견디게 하는 일은 수십 년에 걸친 물리학과 공학의 도전이었다. 이 도전의 중심에 독일의 물리학자이자 공학자였던 에른스트 루스카^{Ernst Ruska, 1906-1988}가 있었으며, 그는 이 공로를 인정받아 1986년 노벨 물리학상을 수상하였다 [2].

현미경의 성능은 얼마나 작은 물체를 볼 수 있는 지, 즉 소위 공간분해능이 결정한다. 현미경의 공간분해능의 한계와 관련된 대표적인 중요 원리에 아베^Abbe 한계가 있으며, 현미경이 사용하는 입자의 파장 정도가 대략적인 공간분해능의 한계라고 알려준다. 우리가 눈으로 볼 수 있는 빛인 가시광선의 경우 수백 나노미터 정도의 파장을 갖는다. 광학현미경은 세포나 박테리아처럼 마이크로미터 크기 이상의 대상을 보는 데는 활용할 수 있으나, 바이러스 및 고체 결정 속 원자 배열처럼 훨씬 작은 구조를 관찰하는 데는 근본적인 한계를 가진다. 더 작은 세계를 보기 위해서는 더 짧은 파장을 가진 새로운 “빛”이 필요하다.

20세기 초 양자역학은 이 문제에 놀라운 가능성을 열었다. 루이 드브로이^{Louis de Broglie, 1892-1987}는 전자와 같은 입자도 파동성을 가진다고 제안했다. 전자는 작은 알갱이처럼 전하를 가진 입자라고 여겨졌지만, 양자역학은 전자가 동시에 파동처럼 행동할 수 있음을 보여주었다. 더구나 가속된 전자의 파장은 가시광선보다 훨씬 짧다. 이 짧은 파장은 광학현미경을 뛰어넘는 분해능의 가능성을 의미했다. 흥미롭게도 루스카는 처음 드브로이의 물질파 개념을 들었을 때 기뻐하기보다 실망했다고 노벨상 수상 강연록에서 회고한다 [3]. 전자도 파동이라면 전자현미경 역시 파장에 따른 분해능 한계를 가질 것이기 때문이다. 그러나 곧 계산을 통해 가속 전자의 파장이 빛의 파장의 0.001% 정도로 짧다는 사실을 확인했고, 오히려 전자현미경이 광학현미경을 넘어설 수 있다는 확신을 갖게 되었다.

전자 렌즈의 개발

전자는 마이너스 전하를 갖고 있으며, 자기장을 가하게 되면 전자의 운동 방향을 바꿀 수 있다. 전자렌즈의 가능성을 이론적으로 보여준 중요한 인물 중에 한스 부슈^{Hans Busch, 1884-1973}가 있었다. 그는 전류가 흐르는 코일 주변의 자기장은 전자들의 궤적을 휘게 하여, 마치 유리렌즈가 빛을 초점으로 모으듯 전자빔을 한 점으로 모을 수 있는 계산을 진행하였으며, 더 나아가 코일에 흐르는 전류를 조절하면 이 자기 전자렌즈의 초점거리도 바꿀 수 있을 것으로 예측하였다. 루스카는 당시 베를린 공과대학에서 브라운관^{Braun tube}을 바탕으로 전자 음극선을 활용한 오실로그래프^{cathode-ray oscillograph}를 개발하려는 작은 연구팀에 참여하고 있었으며, 전자렌즈의 가능성을 실험적으로 확인하고자 하였다. 몇 년 간의 시도 끝에 1931년, 루스카는 두 개의 짧은 자기 코일을 직렬로 배치한 장치를 만들었다. 첫 번째 렌즈가 시료의 확대 이미지를 만들고, 두 번째 렌즈가 그 이미지를 다시 확대하는 구조였다. 전체 배율은 약 17배에 불과했으나 이 장치는 전자빔과 자기렌즈만으로 다단계 확대 이미지를 만들 수 있음을 처음으로 분명히 보여주었으며, 많은 사람들이 이를 최초의 전자현미경 개발 시점으로 보고 있다.

초기 전자현미경의 배율을 광학현미경 이상으로 끌어올리기 위해서는 자기렌즈의 초점거리를 짧게 만들어야 했다. 초점거리가 짧아야 짧은 거리 안에서 높은 배율을 얻을 수 있기 때문이다. 이를 위해 루스카와 보도 폰 보리스^{Bodo von Borries, 1905-1956}는 코일 주위를 철로 감싸고, 가운데 좁은 틈에 자기장을 집중시키는 polepiece 렌즈 구조를 개발했다 [그림 2]. 이 설계의 핵심은 자기장을 렌즈 축 근처의 매우 짧은 영역에 강하게 모으는 것이었다. 전자빔은 이 압축된 자기장 영역을 지나면서 강하게 굴절되고, 그 결과 75 kV 전자로 3 mm의 짧은 초점거리를 얻을 수 있었다. 수 Tesla 수준의 자기장을 국소적으로 만들 수 있는 polepiece lens는 오늘날 전자현미경에서도 기본 원리로 이어지는 매우 중요한 발명이다.

1933년 말, 루스카는 이 렌즈를 이용해 약 12,000배 배율의 전자현미경을 만들었으며, 전자현미경은 단순히 원리 증명 장치를 넘어 광학현미경 이상의 배율을 가진 장비가 되었다. 이 과정에서 그는 또 하나의 중요한 사실을 관찰했다. 매우 얇은 시료에서는 전자의 흡수뿐 아니라 회절^diffraction에 의해서도 충분한 대비가 생긴다는 점이었다 [그림 3]. 회절 현상은 파동이 장애물이나 좁은 틈을 지날 때 직진하지 않고 휘어져 퍼지는 현상이며, 원자들이 주기적으로 배열된 고체 결정에서는 회절 현상으로 인해 전자빔이 특정 방향으로 강하게 산란될 수 있다. 이런 전자빔 회절 현상을 활용하여 결정의 원자 배열, 격자 간격, 대칭성 등을 분석할 수 있으며, 전자빔에 의한 가열을 줄이면서도 이미지를 얻을 수 있다는 가능성을 보여주었다. 전자현미경이 재료의 결정 구조와 결함을 보는 도구로 발전할 수 있었던 물리적 기반도 여기에 있다.

협력의 역할

새로운 원리가 증명되었다고 해서 곧바로 성공이 보장된 것은 아니었다. 투과전자현미경에서는 보통 빛의 속도의 50% 이상으로 가속시켜 100 keV가량의 에너지를 갖는 전자빔을 사용하고 있다. 전자현미경은 빛 대신 전자를 사용하기 때문에 광학현미경의 파장 한계를 넘어설 수 있었으나 매우 높은 에너지를 가진 입자이기도 했다. 시료에 부딪히면 열을 발생시키고, 구조를 손상시키며, 특히 생물 시료나 얇은 막을 쉽게 파괴할 수 있었다. 루스카는 초기 장치에서 금속 그리드조차 전자빔 조사로 타버릴 수 있었다고 회고한다. 이 문제는 단순한 기술적 불편이 아니라, 전자현미경의 존재 이유를 흔드는 난관이었다. 아무리 높은 분해능을 가질 수 있어도, 관찰하려는 시료가 전자빔 속에서 사라져 버린다면 현미경으로서 쓸모가 없기 때문이다. 많은 전문가들이 전자현미경의 실용성에 회의적이었던 것도 무리가 아니었다.

그럼에도 루스카를 계속 밀어준 중요한 인물이 있었다. 그의 동생 헬무트 루스카^{Helmut Ruska, 1908-1973}였다. 7남매 집안의 다복한 가정에서 루스카는 다섯째였으며, 바로 아래 여섯째였던 헬무트와는 매우 각별한 사이였다고 한다. 헬루트는 의학을 공부한 의사였고, 생물학과 의학에서 전자현미경이 가져올 가능성을 일찍 알아보았다. 많은 생물학자와 의학자들이 전자현미경을 의심하던 시기에, 그는 질병의 원인, 세균과 바이러스, 세포 내부 구조 연구에서 전자현미경이 큰 진보를 가져올 수 있다고 보았다. 루스카와 동료들은 여러 정부 기관과 산업 연구소에 도움을 받지 못해 고군분투하고 있는 중 헬무트는 자신의 의학적 네트워크를 통해 베를린 샤리테 병원의 리하르트 지벡^{Richard Siebeck, 1883-1965} 교수와 연결되었다. 지벡은 전자현미경이 질병의 원인 연구, 특히 광학현미경으로 보기 어려운 병원체 연구에 큰 의미를 가질 수 있다고 평가했으며, 설득하는 데 결정적인 역할을 했다. 결국 1937년 지멘스^Siemens에서 전자현미경 개발이 시작되었으고, 1938년 최대 배율이 30,000배에 이르는 프로토타입이 완성되었다. 1939년 말, 최초의 양산형 지멘스 전자현미경이 Hoechst의 연구소에 납품되어 전자현미경 역사에 매우 중요한 전기를 마련했다.

새로운 과학의 시작

투과전자현미경의 초기 역사는 장비 개발의 역사인 동시에 새로운 생물학적 관찰의 역사이기도 하다. 1930년대 후반부터 초파리 날개, 규조류, 박테리아 등 다양한 시료의 전자현미경 이미지가 발표되었다. 특히 헬무트 루스카는 지멘스의 전자현미경을 이용한 생물학 및 의학 연구를 이끌었다. 1940년 지멘스는 방문 연구자를 위한 전자현미경 연구소를 만들었고, 헬무트가 이 실험실을 맡았다. 그가 보여준 중요한 예 중 하나가 박테리오파지 이미지였다 [그림 4]. 박테리오파지는 세균에 감염하는 바이러스로, 광학현미경으로는 직접 보기 어려운 크기이다. 전자현미경은 바이러스 연구에 직접적인 시각적 증거를 제공하여 새로운 생물학의 탄생을 촉진했다.

그림 4. 박테리오파지를 촬영한 초기 투과전자현미경 이미지의 재구성 개념도. 헬무트 루스카가 1941년에 보고한 이미지를 바탕으로 새롭게 재구성하였다. 꼬리가 달린 작은 입자가 박테리오파지이며, 광학현미경으로는 직접 관찰하기 어려운 크기를 갖는다.

그림 5. 투과전자현미경 측정 예시. 왼쪽 이미지는 탄소나노튜브 안에 들어있는 매우 얇은 원자 와이어의 단면 모식도를 보여준다. 오른쪽은 탄소나노뷰트 안에 들어 있는 CrBr2 나노와이어의 모식도와 이를 투과전자현미경으로 측정한 실험 이미지를 보여준다. [J. Am. Chem. Soc. 147, 30, 26776–26785 (2025)]

오늘날 투과전자현미경은 루스카가 처음 만들었던 장치와는 비교할 수 없을 정도로 발전했다. 루스카가 개발했던 Polepiece 렌즈가 전자현미경의 동작을 가능하게 하였지만, 구면 수차가 매우 큰 값을 갖고 있어 성능 향상의 여지가 상당히 남아 있었다. 2000년 전후로 구면 수차를 획기적으로 줄이며 성능 향상을 이룬 수차 보정 렌즈 디자인이 완성되었으며, 2010년 전후로 상업적인 보급이 이루어졌다. 최근에는 수차 보정 렌즈가 장착된 투과전자현미경을 활용하여 다양한 물질 연구에서 원자분해능 촬영이 가능하게 되었다. 그림 5는 탄소나노뷰트 안에 들어 있는 원자들을 수차보정 투과전자현미경으로 측정한 예시로서 Cr 및 Br 원자 하나하나를 뚜렷하게 구별하여 관찰할 수 있다 [4]. 이렇듯 최신 투과전자현미경은 원자 하나하나를 구별해서 측정할 수 있는 50피코미터 (혹은 0.5 옹스트롱) 수준의 공간 분해능을 보여주고 있다. 이와 함께 전자에너지손실분광^{electron energy loss spectroscopy, EELS}, 에너지분산 X선분광^{energy dispersive X-ray spectroscopy, EDS}, 3차원 형상을 측정하는 전자토모그래피, in situ TEM과 같은 기술은 투과전자현미경을 단순한 이미징 장치가 아니라, 구조와 물성을 연결하는 종합 분석 플랫폼으로 만들었다. 재료과학, 화학 물리학, 생물학에서 투과전자현미경은 핵심 연구 장비로서 나노미터 또는 원자 수준에서 다양한 현상 연구에 활발히 활용되고 있다. 나노과학과 반도체 기술, 양자물질 연구는 상당 부분 전자현미경이 제공한 시각적 결과 위에 서 있다고 할 수 있다.

빛 대신 전자로 본다는 것은 단순히 조명원을 바꾸는 일이 아니었다. 그것은 렌즈의 개념을 바꾸고, 분해능의 한계를 돌파하고, 시료 준비와 이미징의 방식을 바꾸는 일이었다. 더 나아가 그것은 과학자가 질문할 수 있는 세계의 크기를 바꾸었다. 오늘날 우리가 원자의 배열을 보고, 결함의 움직임을 추적하고, 물질의 성질을 구조와 연결해 이해할 수 있는 것은, 루스카를 포함한 과학자들이 시작한 그 질문 덕분이다. “빛 대신 전자로 볼 수 있을까?”라는 질문은 결국 현대 과학의 가장 강력한 눈 중 하나를 탄생시켰다. 다음 연재 글에서는 투과전자현미경의 동작 원리 및 이를 활용한 다양한 분석 방법에 대해 좀 더 자세히 소개하고자 한다.

References

[1] https://www.visitberlin.de/en/event/22nd-international-microscopy-congress

[2] https://www.nobelprize.org/prizes/physics/1986/ruska/facts/

[3] Ernst Ruska, “The Development of the Electron Microscope and of Electron Microscopy (Nobel Lecture),” Angewandte Chemie International Edition 26, 7, 595-605, (1987)

[4] Y. Lee et al., “Robust High-Spin State in One-Dimensional CrX2 (X = Cl, Br, I) at the Single-Chain Limit,” J. Am. Chem. Soc. 147, 30, 26776–26785 (2025)