[과학의 결정적 순간들] 1923년 밀리컨이 광전효과로 노벨상을 수상했을 때

1923년 12월 10일, 스웨덴 왕립 과학 아카데미의 노벨물리학상 위원회 의장이 노벨 물리학상 수상자를 발표했다. “왕립 과학 아카데미는 전기의 기본 전하와 광전 효과에 대한 연구로 올해의 노벨 물리학상을 로버트 앤드류스 밀리컨에게 수여 합니다.” 미국의 두 번째 노벨 물리학상이 탄생하는 순간이었다.

밀리컨^{Robert Andrews Millikan, 1868-1953}의 노벨상 수상은 꽤 알려진 사실이다. 대부분은 밀리컨이 유명한 ‘기름방울 실험’으로 노벨상을 받았을 것이라 생각하지만, 광전 효과 연구도 그의 노벨상 수상에 기여하였다. 밀리컨이 광전 효과 연구를 했다는 점도, 그것이 노벨상을 탈 만큼 의미 있는 연구 성과라는 점도 의외의 사실이다. 하지만 밀리컨의 연구는 본인 외에도 두 명의 노벨 수상자 탄생에 결정적 역할을 했다. 노벨위원회의 말을 들어보면 이렇다.

“밀리컨이 노벨상을 받을 자격이 충분하다는 점을 보여주기 위해, 아카데미는 그의 광전 효과 연구도 빼놓지 말고 말해야겠습니다. 자세히 말할 필요도 없이 그저 이렇게만 말하겠습니다. 밀리컨의 이 연구들이 다른 결과를 냈다면, 아인슈타인의 법칙은 가치가 없어졌을 것이고, 보어의 이론도 지지를 받지 못했을 것입니다. 밀리컨의 결과가 나온 후, 두 사람은 지난해에 노벨 물리학상을 받았습니다.” ¹

아인슈타인은 1921년 광전 효과로, 보어는 1922년 원자구조 및 그로부터 방출되는 복사선 연구로 노벨 물리학상을 받았다. 그런데 흥미롭게도 밀리컨은, 아인슈타인의 광양자 가설과의 관계 속에서, 자신의 실험이 지니는 의미에 대한 입장이 일관되지 않았다. 1950년에 발표한 자서전에서는, 처음부터 아인슈타인의 광양자설이 옳다고 믿었고 그것을 입증할 생각으로 광전 효과 실험을 했다고 말했다. 하지만 실제로 연구가 이루어진 1910년대에 발표한 논문과 책에서는 정반대의 입장을 취했다. 밀리컨은 자신의 실험이 아인슈타인의 이론을 반박할 수 있을 것이라는 기대 속에 실험에 착수했다. 실험 결과가 점점 광양자설을 지지하는 쪽으로 나오는 데도 그 입장을 선뜻 바꾸지 못했고, 틀린 가설도 때로는 실험을 가이드하는 역할을 하지만 결국에는 버려질 것이라는 식으로 광양자설에 대한 불편함을 내비쳤다.

그렇다면 밀리컨은 훗날 쓴 자서전에서 거짓말을 한 것일까? 그렇지는 않을 것이다. 기억은 쉽게 바뀌고 바뀐 기억을 사실이라고 굳게 믿는 일은 과학사 속에서가 아니더라도 일상에서도 흔하게 볼 수 있는 일이다. 거짓말을 하려는 의도가 있어서가 아니라, 본인 자신이 그렇게 믿고 있기에 거짓 기억을 진실이라고 말하게 되는 것이다. 그런 점에서 밀리컨도 거짓말을 했다고 하기는 어려워 보인다.

그렇다면 밀리컨의 기억은 어느 무렵에, 왜 바뀌게 되었을까? 기억의 변화는 서서히 일어나기에 기억의 소유자조차 그 변화의 시점을 인지하지 못한다. 그래도 여러 정황을 통해 바뀐 시기나 계기는 짐작을 할 수 있는데, 밀리컨에게는 노벨상 수상이 그 중요한 계기가 되었던 것으로 보인다. 1923년 노벨상 시상식에서 노벨위원회가 밀리컨의 연구를 광양자설에 대한 입증 실험으로 자리매김하던 때에 그의 기억도 이에 맞춰 변했을 것이다. 밀리컨의 광전효과 실험이 물리학사 속에서 제 자리를 찾게 되는 순간이기도 했다.

밀리컨이 상을 받았을 때 그는 칼텍^{California Institute of Technology} 소속이었지만, 노벨상 연구가 이루어진 곳은 1896년부터 25년간 몸담았던 시카고 대학교였다. 1895년, 밀리컨은 컬럼비아에서 박사학위를 마쳤다. 경제 불황 속에서 일자리 전망이 흐려지자 밀리컨은 지도 교수의 권유에 따라 그가 7% 이율로 빌려준 300달러를 들고 당시의 과학 선진국인 독일의 괴팅겐과 베를린으로 가서 오늘날의 박사후 연구원에 해당하는 시기를 보냈다. 마침 시기가 딱 좋았다. 1895년 11월 뢴트겐이 독일에서 X선을 발견했고, 다음 해 2월에는 프랑스에서 베크렐이 우라늄선, 즉 나중에 퀴리 부부에 의해 방사선이라는 이름을 얻게 될 새로운 광선을 발견했다. 새로운 광선의 정체가 입자인가 파동인가를 두고 유럽 과학계가 뜨거운 토론을 벌이던 현장에 있었던 것은 밀리컨의 연구 행보에 큰 행운이었다.

밀리컨이 기름방울 실험으로 관심을 기울이게 되었던 것도 이때의 경험과 관련이 있다. 1900년 전후로, 그는 X선 및 방사능에 의한 기체의 이온화와 이온에 의한 전류의 전도 문제에 관심을 쏟았다. 당시 이 분야를 선도하던 그룹은 영국 케임브리지 캐번디시 연구소의 과학자들이었다. 캐번디시 연구소장이었던 J.J.톰슨^{J. J. Thomson, 1856-1940}은 1897년 진공관에서 전자의 비전하(e/m)를 측정하고 전자가 원자를 구성하는 블록에 해당한다고 주장했다. 톰슨의 제자 C.T.R.윌슨^{Charles Thomson Rees Wilson, 1869-1959}은 구름 상자^{cloud chamber}를 이용해서 대전된 입자를 찾는 방법을 고안했다. 과포화된 수증기로 가득 찬 상자 속에 대전된 원자나 이온이 지나가면 대전 입자가 응축핵의 역할을 하여 그 궤적을 따라 물방울들이 맺히면서 구름이 생기게 된다. 윌슨은 대전된 입자의 궤적을 가시화하는 장치를 만들었던 것이다.

캐번디시 그룹에 속해 있던 톰슨의 또 다른 제자 H.A.윌슨^{Harold A. Wilson, 1874-1964}은 두 개의 금속판 사이에 구름 상자를 놓고 전기장을 걸 수 있도록 장치를 개선했다. 그는 전기장을 껐을 때 구름의 상층부에 있는 물방울의 낙하 속도를 계산하고, 전기장을 켰을 때 물방울 속도 증가를 측정했다. 윌슨은 전기장 하에서의 속도 증가는 물방울의 전하의 크기에 비례한다는 가정하에 전하의 크기를 계산했다. 11번의 측정 결과 전하의 값은 2.0×10^-10 ~ 3.8×10^-10 e.s.u.까지 다양한 값이 나왔다. 일관성 있는 실험 결과를 도출하는 데는 실패했던 것이다.

윌슨의 실험 실패의 가장 큰 원인은 물방울 하나하나의 속도를 측정한 것이 아니었다는 점에 있었다. 실험의 가정이나 계산에 깔린 전제는 동일한 물방울에 대해 중력에 의한 낙하 속도와 전기장에 의한 추가적인 낙하 속도 간의 차이를 측정한다는 것이었지만, 실제로 측정했던 것은 일군의 물방울 그룹, 즉 한 덩이의 구름에 속해 있기는 하지만 각기 속도가 달랐던 여러 개의 물방울을 마치 동일한 물방울인 것처럼 가정하고 그 속도를 측정했던 것이다.

1907년 밀리컨은 H.A.윌슨의 실험을 재연했다. 윌슨의 구름 상자 방식과 동일했지만 몇 가지 개선이 이루어졌다. 그중 하나는 구름 상자를 대전시키는 방법이었다. 윌슨은 X선을 이용해서 구름 상자를 대전시킨 반면, 밀리컨은 그의 학생이었던 루이스 베게만^{Louis Begeman}과 함께 1%의 라듐 화합물 200mg으로 구름 상자를 대전시켰다. 또한 1,600V에서 3,000V까지 전압을 높여가며 물방울 구름의 운동을 관찰했다. 그 결과 전압이 적당히 높으면 구름 대신 개별 물방울을 관찰할 수 있다는 점을 발견했고, 물방울에 중력에 반대되는 방향으로 전기력을 걸어 물방울을 공중에 멈추게 할 수 있다는 것도 알아냈다.

하지만 한 가지 문제가 더 남았는데, 물방울이 관찰 중에 증발해 버리는 것이었다. 1909년 그는 물 대신 가스엔진 오일이나 기계용 기름을 사용하여 문제를 해결했고, 분무기^atomizer로 기름을 흩뿌리는 방법을 통해 기름방울 하나하나의 움직임을 관찰할 수 있게 되었다. 방울의 속도 변화를 보면서 방울에서 방울로 전하가 이동해 가는 것까지 관찰했다. 그 결과 그는 방울 하나에 맺히는 전체 전하가 특정한 값 e의 배수에 해당한다는 것을 알아냈다. e의 값은 1913년 4.774(±0.009)×10^-10 e.s.u.까지 측정했고 1917년에는 4.774(±0.005)×10^-10 e.s.u.까지 측정의 정밀도를 향상했다. 이로써, 밀리컨은 전자의 기본 전하값이 존재한다는 것을 실험으로 입증해 냈다.

기본 전하 측정 실험이 거의 끝나갈 무렵, 밀리컨은 광전효과로 눈을 돌렸다. 광전효과는 특수상대성 이론, 브라운 운동과 함께 아인슈타인의 1905년 삼부작 논문 중에 하나로 잘 알려졌지만, 그 현상에 대한 연구는 논문 출간 20년 전쯤으로 올라간다. 금속에 빛을 쏘였을 때 금속 표면에서 전자가 튀어나오는 광전효과는 1887년 하인리히 헤르츠^{Heinrich Herzt}의 음극선 실험에서 진작에 관찰되었다.

1897년 독일의 필립 레나르트^{Philipp Lenard, 1862-1947}는 금속에 자외선을 쏘였을 때 나오는 광선이 음극선, 즉 전자와 유사하다는 것을 알아냈고 음극선의 에너지가 빛의 강도에는 무관하며, 파장에 반비례한다는 것을 발견했다. 이는 빛의 파동설로는 설명하기 어려웠는데, 1905년 아인슈타인은 광양자 가설을 도입하여 광전효과를 설명했다. 그에 따르면 진동수 ν에 해당하는 빛을 금속에 비추면 금속 내의 전자는 hν에 해당하는 에너지를 받아 그중 일부는 금속의 속박에서 벗어나는 데 사용하고(일함수, ϕ), 나머지 에너지(hν-ϕ)는 전자의 운동에너지(T)로 사용된다. 즉, T=hν-ϕ라는 공식이 성립하는 것이다. 아인슈타인은 막스 플랑크의 양자 개념을 빛에 적용하여 빛의 양자가 금속 내의 전자와 충돌하여 에너지를 전달하는 것으로 이 현상을 설명했다.

아인슈타인의 광양자설 및 광전효과에 대한 밀리컨의 생각은 기본 전하에 대한 것과는 정반대였다. 기본 전하 실험에서 밀리컨은 전자 및 기본 전하의 존재를 상정하고 실험을 수행했지만, 광전효과에 대한 실험에서는 그 반대였다. 실험에 처음 착수했을 때 그는 아인슈타인의 광양자 가설이 틀렸을 것이라 생각하면서 실험을 시작했다.

밀리컨이 왜 이런 생각을 가지게 됐는지를 명확히 알기는 어렵고 밀리컨이 직접 설명한 적도 없다. 오히려 밀리컨은 자서전에서 자신이 처음부터 아인슈타인의 광양자설을 믿었고 그것을 확증하기 위해 실험에 나섰다고 회고하기까지 할 정도였으니, 그의 말에 의지하는 것은 오히려 역사적 실재를 왜곡할 수도 있다. 밀리컨 본인의 회고까지 부인하면서 과학사학자들이 밀리컨이 처음에는 광양자설에 부정적이었다고 주장하는 것은 연구 당시에 그가 낸 논문에서 밀리컨이 반복적으로 의견을 표현했기 때문이다. 1913년 Science에 낸 “빛^radiation의 원자 이론”이나 1916년 Physical Review에 낸 “직접적인 광전 측정을 통한 플랑크 상수(h) 결정”에서 밀리컨은 아인슈타인의 광양자설을 “상상할 수도 없는^unthinkable”, “무모한^reckless” 생각이라고 말했고, “아인슈타인 공식이 겉으로 보기에는 완벽한 성공을 거둔 것처럼 보이지만, 공식이 상징적으로 나타내는 물리적 이론은 성립할 수 없는 것이라서, 아인슈타인 자신도 그 이론을 지지하지 않을 것이라고 나는 생각한다.”고 말하기도 했다.²

아인슈타인의 광양자설을 부인한 지 10년도 되지 않아 그 이론을 입증한 공로로 노벨상을 탄 점을 생각해 보면 밀리컨의 초기 태도는 매우 흥미롭다. 왜 광양자설에 부정적이었을까? 이랬던 그가 왜 종국에는 광양자설을 입증하는 쪽으로 입장을 바꾸게 되었을까?

우선 그가 부정적이었던 이유를 짐작해 보면 다음과 같은 것들을 떠올릴 수 있다. 1912년 독일에서의 안식년 기간에 참여한 콜로퀴움이나 세미나, 강연에서 그는 기성세대 물리학자들이 광양자설에 반대하는 소리를 종종 들을 수 있었다. 그중 한 명이 막스 플랑크로, 그는 빛의 본성이 입자라는 생각을 거부했다. 다른 이유로는 그가 속했던 시카고 대학교의 라이어슨 물리연구소^{Ryerson Physical Laboratory}의 연구 풍토를 생각해 볼 수도 있다. 라이어슨은 미국 최초의 노벨과학상 수상자 마이켈슨이 있는 곳이었다. 밀리컨이 더 많은 연봉도 뿌리치고 시카고를 선택한 이유가 마이켈슨 때문이기도 했다. 마이켈슨을 비롯해 그곳에 있는 사람들에게 빛의 파동성은 이론이 아니라 실재였다. 그 안에서 파동을 생산하고 조정해서 아름다운 간섭무늬를 만들어냈으며 파동을 측정했다. 빛의 파동성을 갖고 라이어슨을 미국 최고의 연구소로 만들어낸 사람들이 거기에 있었다. 따라서, 밀리컨이 빛의 파동성을 부정하는 광양자설을 선뜻 신뢰하기는 어려웠을 것이다.

이랬던 때문인지 처음 몇 년간 이루어진 그의 실험은 광양자설에 호의적인 결과를 낳지는 않았다. 1911-1912년 무렵, 그는 아크 광원과 스파크 광원의 광전 효과를 비교하여 스파크 광원을 썼을 때 금속에서 방출되는 전자의 속도가 수은 아크 광원 때보다 더 크다고 주장했다. 이는 광전효과가 빛의 강도에 영향을 받지 않는다는 기존의 설명을 반박하는 동시에, 광전 효과가 파동으로 설명 가능하다는 것을 암시했다. 하지만 밀리컨은 곧 자신의 실험 결과가 틀렸다는 것을 발견했고 그의 논문에 대한 비판이 여기저기서 제기되었다.

독일에서 보낸 안식년에서 돌아온 직후, 밀리컨은 그의 학생이었던 윌리엄 카데쉬^{William Kadesch}와 함께 광전 효과 실험 장치의 개선에 나섰다. 다른 과학자들이 그의 이전 실험에 대해 광전 효과에 사용되는 금속 표면에 생긴 산화막이 전자의 속도를 늦춰서 데이터에 오류가 생겼을 것이라는 지적을 제기했다. 이 비판에 맞서, 카데쉬는 진공관에서 금속 표면의 산화막을 제거할 장치를 고안했다. ([그림2] 참조) 이 장치는 진공관 안에 리튬, 나트륨, 칼륨, 세 종류의 원통형 알칼리 금속을 휠(W) 위에 놓고 휠을 전자석으로 회전시켜 각 금속의 표면에 구멍(O)에서 들어오는 빛이 수직으로 입사하도록 설계했다. 금속에 빛이 입사하면 광전효과가 나타나서 광전류가 나타나는데 이를 측정했다. 카데쉬가 고안한 것은 [그림2]의 K에 해당하는 송곳 모양의 칼이었다. 이 칼은 전자석 F에 의해 앞뒤로 움직이면서 원통 모양의 알칼리 금속의 표면에 형성되는 산화막을 제거하는 역할을 했다. 이 장치의 특이점 중 하나는 진공 상태 유지를 위해 진공관 내의 모든 운동은 전자석을 통해 제어되었다는 점이다.

1914년-1916년까지 밀리컨은 위의 장치를 이용하여 아인슈타인의 광전효과 공식(T=hν-ϕ)의 검증에 나섰다. 그는 금속에서 튀어나오는 광전자의 운동에너지를 측정하여 그것과 입사하는 빛의 진동수 사이의 관계를 찾는 일에 착수했다. 광원의 진동수를 통제하기 위해 수은 램프의 스펙트럼을 찍어 표준 스펙트럼이었던 철의 스펙트럼과 비교하여 값이 특정되기 쉬운 진동수를 찾고, 그 진동수에 해당하는 빛만이 [그림2] 장치의 O로 통과할 수 있도록 수은 램프에 필터를 설치하여 단일 진동수의 빛만을 사용했다. 이렇게 얻은 데이터를 가지고 진동수를 x축으로, 광전자로 인해 만들어지는 기전력을 y축으로 하여, 둘 사이의 1차 함수를 얻어냈고 그 기울기를 계산하여 플랑크 상수를 0.5%의 정확도까지 측정했다. 그 결과 도출된 플랑크 상수의 값은 다음과 같았다.

h = 6.569 × 10^-27 erg.sec

오늘날 사용되는 플랑크 상수값(6.626 × 10^-27 erg.sec)과 비교할 때 오차가 1%도 나지 않을 정도로 상당히 정확한 값을 얻어내는 데 성공했다. 이와 함께 아인슈타인의 광전효과 공식도 입증하는 결과를 낳았다.

물론, 이렇게 실험 결과를 얻었다고 밀리컨이 하루 아침에 아인슈타인의 지지자로 돌아선 것은 아니다. 1917년에 낸 책에서도 여전히 그는 미심쩍은 의심을 버리지 못하고 “실험은 이론을 앞서 나가고 잘못된 이론을 가이드 삼아 가서도 더 좋은 결과를 내기도 한다.”고 했다. 아마도 1917년과 1923년 노벨상 수상 사이의 어느 시점에, 어쩌면 노벨상 수상이라는 바로 그 지점에 밀리컨의 생각은 변한 것으로 보이며, 이후 기억 속에서 그는 늘 아인슈타인 광전효과의 충실한 지지자로 자신을 기억했다.

기본전하 측정과 광전 효과 공식 검증 실험은 과학자로서 밀리컨의 강점이 어디에 있는지를 잘 보여준다. 기본 전하나 광전 효과 모두 당시의 최신 연구 주제였다. 많은 과학자가 주목하고 있고, 그래서 일단 성공하기만 하면 과학계에서 가치를 인정받을 수 있는 연구 주제를 선택했다는 점이 그의 첫 번째 강점이었다. 하지만 최신 연구 주제인 만큼 경쟁도 세고 독창성을 보이기도 쉽지 않았다. 기본 아이디어와 개념, 심지어 실험 장치까지도 이미 다른 과학자들에 의해 제안된 것이라서 더욱더 독창성을 내보일 가능성은 크지 않아 보이기도 했다. 밀리컨은 기존 실험 장치에서 시작하지만, 장치의 정밀성을 높일 수 있는 실험의 개선을 통해 데이터의 정밀성을 높이고 이를 통해 기존 이론이나 개념을 입증하거나 중요한 상수를 결정했다. 이렇게 정밀성을 높이는 실험의 개선을 추구한 것이 그의 두 번째 강점이었다.

한때 밀리컨의 기름방울 실험에서 일부 실험 조작을 했다는 주장이 제기된 적이 있다. 1913년에 발표한 논문에서 밀리컨이 기름방울의 전하가 기본 전하의 정수배에 해당한다는 것을 보이기 위해 부분 전하에 해당하는 데이터를 버리고 그의 주장에 맞는 데이터만을 선택했다는 것이다. 하버드 대학의 과학사학자 제럴드 홀튼이 제기한 이 주장은 후에 과학사학자 알란 프랭클린에 의해 반박되었다. 프랭클린은 밀리컨의 데이터 선택이 실험 장치 세팅 후 안정적인 데이터를 내기까지의 기간, 온도 등 외부적 조건, 기름방울에 먼지가 앉았는지, 기름방울의 모양이 대칭적인지 등등 합리적인 기준에 따른 선택이었다고 주장했다. 프랭클린의 반박에도 밀리컨의 데이터 조작에 대한 이야기는 가끔 여기저기서 언급되기도 하는데, 광전효과 공식의 검증 과정에서 나타난 아인슈타인 이론에 대한 그의 태도, 그럼에도 불구하고 실험 데이터가 미는 방향으로 어쩔 수 없이 밀려갔던 이 실험 물리학자의 모습을 보면 원하는 이론에 맞춰 데이터를 취사선택했다는 혐의는 조금 과한 것이 아닌가 하는 생각이 든다.³

한 마디 덧붙이면, 이 실험 이후 몇 년간 그는 본업과는 다른 일로 꽤 바쁜 시간을 보내게 된다. 1차 세계대전이 발발하자 밀리컨은 미국 국립 과학아카데미의 국립연구위원회^{NRC, National Research Council} 소속으로 전시 연구에 참여했다. 그는 연구자로서보다는 능력 있는 과학자들을 발굴하여 조직하고 정부와 군을 설득하는 일에 뛰어들었다. 당시 그의 팀에게 맡겨진 임무 중에는 독일의 U보트 탐지 기술을 찾는 것도 포함되어 있었다. 일을 맡기기는 했지만, 군에서는 과학자들의 능력을 신뢰하지 않았다. 해군은 에디슨과 논의해서 별도의 해군자문위원회를 구성했는데, 여기에는 미국 물리학회가 포함되지 못했다. 진짜 일을 하는 실용적 사람들로만 위원회를 만들고자 한다는 것이 물리학회가 포함되지 않은 이유였다.

결국 밀리컨의 팀은 해군자문위원회와는 독립적으로, 그리고 해군자문위원회의 연구와는 경쟁적으로 U보트 탐지 기술을 개발에 나섰다. 금방 성공할 수 있을 것이라는 에디슨의 장담이 무색하게도, 실제로 U보트 탐지기를 개발한 것은 밀리컨이 이끄는 팀이었다. 밀리컨 팀의 일원인 물리학자 막스 메이슨^{Max Mason}은 길이가 다른 여러 개의 긴 파이프로 수중 음파를 포착하여 음원의 방향까지 포착할 수 있는 M-B 튜브를 개발하는 데 성공했다. 말로만 일한다고 무시당하던 물리학자들이 그 능력을 제대로 보여준 계기가 되었다. 1차 세계대전에서 과학행정가로서 뛰어난 능력을 입증한 밀리컨은 전후 미국 물리학계의 대표 주자로 다양한 정치적 활동에 참여했다.