[과학의 결정적 순간들] 1900년 베를린, 플랑크의 ‘양자 혁명’

Year 1900 Berlin, Planck‘s ’Quantum Revolution’

1900년 12월 14일 독일 제국의 수도 베를린에서 개최된 독일 물리학회에서, 당시 제국물리기술연구소^{Physikalisch-Technische Reichsanstalt} 소속 이론물리학 교수였던 막스 플랑크^{Max Planck, 1858-1947}는 ‘빛띠(스펙트럼)의 에너지 분포 법칙의 이론에 관하여’라는 논문을 발표한다.¹ 물리학 교과서에 등장하는 ‘표준적’ 설명에 따르면, 이 논문은 양자물리학의 역사에서 기념비적인 위치를 차지한다.

플랑크는 이 논문을 통해 당시 물리학자들이 고민하던 중요한 이론적 난제, 즉 흑체 복사 현상에 있어서의 실험과 이론의 불일치를, 양자화된 에너지-최소 단위 덩어리의 형태로 존재하는 에너지-를 상정하는 방식으로 깔끔하게 설명함으로써 양자물리학을 시작했다. 좀 더 자세하게 설명하자면, 플랑크의 흑체 복사 이론은 기존의 두 이론의 한계를 에너지의 양자화를 통해 극복했다. 즉 높은 주파수 영역에서는 잘 맞지만 낮은 주파수 영역에서는 실험 결과와 어긋나는 독일 물리학자 빌헬름 빈^{Wilhelm Wien}의 공식과, 거꾸로 낮은 주파수 영역에서는 잘 맞지만 높은 주파수 영역에서는 에너지 밀도가 한없이 증가하는 ‘자외선 파국^{ultraviolet catastrophe}’을 함축하는 영국 물리학자 레일리와 진스의 공식의 문제점을 동시에 해결한 것이다.

물리학 교과서만이 아니라 상당수의 대중화된 양자물리학의 역사에 관한 소개글에 등장하는 이 ‘표준적’ 설명은 1908년 이후 양자물리학의 잠재력이 물리학자들 사이에서 상당한 공감대를 얻게 되면서 ‘재구성된’ 이야기이다. 특히 아인슈타인이 1905년 빛알갱이(광자)를 가정하여 광전효과를 성공적으로 설명해내고, 1907년 양자화된 에너지 개념을 활용하여 비열을 깔끔하게 설명한 이후, 로렌츠나 에렌페스트 같은 네덜란드 물리학자들은 양자화 개념을 당대 물리학의 중심 연구 방법론으로 확립하려 노력했다. 그리고 이 과정에서 플랑크의 1900년 논문에 양자물리학의 ‘기원’으로서 지위가 부여되고, 자연스럽게 이 ‘표준적’ 이야기가 유행하기 시작한 것이다. 플랑크조차 1918년 노벨상 수상 연설을 비롯한 후대의 기록에서 이 ‘표준적’ 이야기를 반복하고 있다.

하지만 당시 관련 기록을 살펴보면 실제로 플랑크는 1900년 논문을 발표하고 나서도 한참동안 에너지의 양자화를 수학적 기법이 아니라 ‘물리적 사실’로 받아들이는 데 주저했다. 그래서 1908년 동료 화학자 네른스트가 이제는 양자 개념에 대한 진지한 토론이 필요하다고 제안했을 때에도, 아직까지 물리학자들 사이에서 양자 개념의 적절성에 대해 완전한 합의가 없기에 시기상조라고 답변했을 정도였다. 사실 이런 플랑크의 판단은 당시 물리학자들의 분위기를 상당 부분 정확하게 읽은 것이었다. 플랑크는 1908년 노벨 물리학상 후보로 추천되었지만, 당시 물리학자들은 플랑크의 에너지 양자 이론을 빈 이론의 개선안 정도로 보아 독창성이 떨어진다는 의견과 플랑크 이론의 독창성은 인정하면서도 노벨상을 수여할만한 연구인지를 판단하기에는 아직 이르다는 의견으로 양분되어 있었다. 당연히 플랑크의 1908년 노벨상 수상은 좌절되었다.

하지만 항상 의욕이 넘쳤던 네른스트는, 항상 조심스러운 플랑크의 반응을 개의치 않고 벨기에 사업가 솔베이를 설득해서 현대 물리학의 여러 당면 과제를 논의하는 학술대회를 추진했다. 이렇게 해서 1911년 개최된 솔베이 1차 회의의 주제는 자연스럽게 ‘복사와 양자’가 되었다. 그리고 이때쯤이면 이미 보어와 같은 젊은 물리학자들 사이에서 양자물리학은 물리학의 혁명적 변화를 이끌 혁신적 연구방법으로 평가되고 있었다.

플랑크의 1900년 논문에 대한 ‘표준적’ 설명이 어떠한 점에서 사실과 동떨어진 재구성인지를 이해하려면 이 설명에서 그다지 강조되지 않는 두 측면, 플랑크의 연구가 제국물리기술연구소라는 당시로서는 매우 특이한 국가지원 과학기술연구소를 배경으로 이루어졌다는 사실과 이론물리학자로서의 플랑크의 정체성을 동시에 고려해야 한다.

물리학의 역사적 전개를 다룬 ‘표준적’ 설명에서는 일반적으로 이론과 실험 사이의 깔끔하고 생산적인 상호작용이 돋보인다. 가령 실험 물리학자들이 흑체 복사에 대한 실험 결과를 제시하면 그에 대해 이론 물리학자들이 경쟁하는 두 이론(빈과 레일리-진스)을 제안하고, 플랑크가 각 이론의 장점을 종합하고 단점을 극복한 새로운 이론을 통해 물리학의 혁명적 발전을 이끈다는 것이다. 이에 더해 플랑크 이론이 성공할 수 있었던 근본적인 이유는, 다른 물리학자와 달리 플랑크가 에너지를 양자화된 방식으로 이해했기 때문이라고 말해진다. 양자물리학이 기존의 고전물리학으로 설명되기 어려운 현상을 성공적으로 기술함으로써 혁명적 이론 교체의 시발점을 제공했다는 생각에 딱 들어맞는 설명이다. 하지만 표준적 설명에서는 도대체 왜 실험 물리학자들이 흑체 복사에 대한 실험을 그토록 열심히 수행했는지에 대해서는 다루지 않는다. 마찬가지로 플랑크의 목적이 진정으로 기존 두 이론의 문제를 극복하고 실험 현상을 ‘정확하게’ 기술하는 이론을 만들기 위함이었는지에 대해서도 따져보지 않는다.

흑체 복사에 대한 정밀한 실험적, 이론적 연구가 다른 곳이 아닌 제국물리기술연구소에서 이루어졌다는 사실은 이 연구가 독일 전기산업의 경쟁력 향상과 깊은 관련이 있었음을 보여준다. 1887년 근대적 의미에서 최초의 국가연구소로 설립된 제국물리기술연구소는 그 설립배경 자체가 산업적 배경을 갖는다. 19세기까지도 국가가 나서서 공공성이나 국가적 중요성이 큰 연구, 혹은 민간 연구가 담당하기 어려운 주제에 대해 연구소를 설립하여 관련 연구를 주도해야 한다는 생각은 매우 낯선 생각이었다. 단순히 국가주도 연구의 필요성을 느끼지 못했을 뿐만이 아니라, 국가가 연구비를 지원하면 과학자들의 ‘자유로운’ 연구에 제한이 가해지고 궁극적으로는 과학의 객관성도 손상될 것이라는 생각이 널리 퍼져 있었다. 19세기 중반까지도 과학연구를 해서 생계를 유지하는 과학자들이 많지 않았기 때문에 과학연구자들 사이에는 일종의 ‘아마추어리즘’이 당연시되었다. 당시 영국에서는, 충분이 부유해서 먹고살 걱정이 없는 ‘신사 과학자’가 과학연구를 담당하는 것이 바람직하다는 주장까지 유행했을 정도였다.

하지만 19세기 중반 이후 전기공업이나 화학공업 등을 중심으로 과학기술과 산업의 결합은 빠른 속도로 진행되었다. 그리고 이 과정에서 산업기술의 주도권 경쟁을 벌이던 여러 국가들은 기술 표준을 선점하는 것의 중요성과 그것을 뒷받침할 수 있는 각종 정밀 측정값의 축적에 관심을 기울이게 되었다. 예를 들어 독일 산업계에 막강한 영향력을 발휘하던 전기 기술자 지멘스는 전신 사업에서 표준 저항의 국제 표준을 정하는 문제를 두고 맥스웰 등이 주도하는 영국의 물리학자 및 기술자들과 경쟁하고 있었다. 한편 에디슨으로 대표되는 미국의 조명 산업과 경쟁하는 독일 기업의 경쟁력 확보를 위해서도 각종 물질의 전기적 속성에 대한 엄밀한 측정기술은 필수적인 ‘물리기술’이었다.

이런 지멘스의 호소에, 당대 최고 권위를 자랑하던 생리학자-물리학자 헬름홀츠가 동참하면서 제국물리기술연구소가 설립된 것이었다. 당연히 독일의 이런 흐름에 자극을 받아 영국도 1900년 국립물리연구소^{National Physical Laboratory}를 설립했고, 미국도 1901년에 국립표준연구소^{National Bureau of Standards}를 설립한다.

이런 배경 하에서 흑체 복사에 대한 정밀한 실험은 미국의 에디슨의 전구 발명에 큰 영향을 받았다. 미국에 뒤지지 않게 조명 산업을 발전시키기 위해서는 에너지 효율이 높은 필라멘트 재료를 탐색하고 이것의 전기적 특성을 정확하게 측정하는 것이 결정적이었기 때문이다. 그래서 흑체 복사에 대한 실험적 탐구는 전적으로 ‘물리기술’적 요구에 의해 이루어졌고 빈이나 플랑크는 이에 대한 이론적 분석을 시도한 것이었다.

‘표준적’ 설명의 다른 한계를 이해하려면 플랑크가 1900년 논문을 통해 무엇을 성취하려고 했는지를 분명하게 따져 볼 필요가 있다. 그런데 이 점을 정확하게 파악하려면 플랑크가 이론 물리학자로서 어떤 특징을 가진 연구를 해왔는지를 살펴보아야 한다.² 1858년에 태어난 막스 플랑크는 1900년에는 40대 초반의 물리학자로서 독일 물리학계에서는 이미 상당한 입지를 확보한 소장 학자였다. 하지만 플랑크는 동료 학자들의 평가나 자기 스스로의 평가를 고려할 때 ‘천재형’ 물리학자는 아니었던 것으로 보인다. 학부 시절 물리학 쪽으로 진로를 고민하던 플랑크에게 뮌헨대학의 한 물리학자는 물리학에서는 이미 중요한 결과들은 다 발견되었고 남은 일은 세부 사항을 채워 넣는 것밖에 없으니 차라리 수학을 전공으로 택하라고 권했다. 이에 대해 플랑크는 자신은 물리학에서 새로운 것을 발견하겠다는 야심은 없고 단지 기존에 알려진 물리학의 ‘근본’을 이해하고 싶다고 답했다.

이 답변에 이론 물리학자로서의 플랑크의 특징이 잘 드러난다. 그는 남들보다 먼저 새로운 것을 발견하려는 숨 가쁜 경쟁보다는, 이미 알려진 공식이더라도 물리학의 근본원리에서 정확하게 유도하는 것을 중요시했다. 그리고 그에게 물리학의 근본원리란 세계가 구체적으로 어떻게 구성되어 있는지(예를 들어, 물질이 원자라는 기본 단위로 구성되어 있는지 혹은 연속체인지)와 같은 문제에 대한 세부적인 답을 초월한 보편적 원리를 의미했다. 이런 그가 자신의 학창 시절 당시 새롭게 등장하던 열역학에 심취했던 것은 어찌 보면 너무나 자연스러웠다. 1879년 취득한 그의 박사학위 논문도 열역학 제2법칙을 다룬 것이었고, 열역학에 대한 그의 강의는 베를린 대학에서 명강의로 명성이 높아 베스트셀러 교과서로 여러 번 출간되기도 했다.³

플랑크는 클라우지우스의 추상적 열역학에 매혹되었고, 나중에 생각을 바꾸긴 했지만 적어도 1900년까지는 볼츠만의 통계역학적 접근에 대해 회의적이거나 적어도 최종 판단은 유보하는 태도를 취했다. 그는 물질이나 에너지의 구체적 존재 양태와 거동 방식에 대한 역학이나 전자기학의 주장이 후속 연구를 통해 바뀌더라도 여전히 타당할 수 있는 열역학적 분석을 추구했다.

그러므로 플랑크가 흑체 복사 현상에 대한 이론물리학적 탐색에서 추구했던 것은 실험 결과를 설명하는 식 자체가 아니라 그 식을 물리학의 근본 이론, 즉 열역학에서 엄밀하게 유도하는 일이었다. 빈의 공식은 빈이 1897년 제국물리기술연구소를 떠나기 전까지 수집되었던 흑체 복사 실험 결과와 잘 맞아떨어졌다. 그래서 플랑크는 빈의 공식을 받아들이고 이를 열역학으로부터 엄밀하게 유도하려고 노력했고, 그 결과 1899년 이 유도에 성공했다.

하지만 1900년 여름이 되면 제국물리기술연구소에서 그 사이에 이루어진 추가적 실험을 통해 저주파 영역에서 빈의 공식이 잘 맞지 않는다는 점이 밝혀졌다. 이에 플랑크는 에너지 조화진동자에 엔트로피를 다른 방식으로 부여함으로써 이 문제를 해결하려고 노력했고, 그 결과가 1900년의 논문으로 결실을 맺은 것이다. 그에 비해 빈은 자신이 베를린으로 떠난 다음에 이루어진 실험 결과에 오류가 있었을 것이라고 믿고 자신의 공식을 고집하는 과오를 범했다.

한편 레일리-진스 공식은 플랑크의 이론적 연구에 아무런 영향을 끼치지 않았다. 일단 그 공식의 가정, 즉 에너지가 모든 진동수에 골고루 분배된다는 가정 자체를 플랑크는 물리학적으로 타당하지 않다고 생각했기에 레일리-진스 공식은 아예 고려하지도 않았다. 게다가 레일리와 진스조차 자신들의 연구 결과가 플랑크가 관심을 갖는 방식으로 ‘보편성’을 갖는다고 생각하지도 않았다. 레일리-진스 공식과 플랑크의 1900년 논문 사이의 연관성은 1911년에 에렌페스트가 초기 양자이론 연구사를 개념적으로 재구성하면서 처음 언급한 것이다.

이런 점을 고려할 때 플랑크가 1900년 논문에서 우리가 이해하는 방식으로 양자물리학의 양자 가설을 제시했다고 보기는 어렵다. 플랑크 스스로가 자신이 사용한 에너지 양자화 가정이 정확히 무엇을 의미하는지에 대해 분명하게 확신하지 못했다는 점은 여러 문헌 자료를 통해 분명해 보이기 때문이다. 이 점을 들어 토마스 쿤과 같은 과학사학자/과학철학자는 플랑크의 1900년 논문이 아니라 에너지 양자화가 갖는 물리학적 의미를 분명하게 제시한 에렌페스트의 1908년 논문에서 양자물리학이 탄생했다고 보아야 한다는 강한 주장을 하기도 했다.

하지만 과학사학자들 사이에서도 플랑크가 1900년에는 철저하게 고전물리학의 패러다임에 갇혀 에너지의 양자화를 단순한 계산 도구 이상으로 생각하지 않았다는 쿤의 주장에 이견을 갖는 사람도 많다. 예를 들어 프랑스 과학사학자 다리골은 플랑크가 1900년에 훗날 에렌페스트가 이해했던 것처럼 명쾌하게 에너지 양자화의 물리적 의미를 이해했던 것은 아니지만, 자신의 이론적 가정이 갖는 물리적 의미에 대해 꾸준히 고민했고 그 과정에서 아인슈타인이 양자물리학 논문을 쓸 수 있는 밑거름을 제공했다고 지적한다. 다리골은 이런 의미에서 아인슈타인을 양자물리학의 진정한 출발점으로 본다.

아이러니한 점은 플랑크를 양자물리학의 시조로 볼 것인지 아니면 아인슈타인을 시조로 볼 것인지의 쟁점과 무관하게, 두 물리학자 모두 양자물리학이 발전하는 양상에 심각한 회의를 느꼈으며 궁극적으로 고전 물리학에 의해(플랑크) 혹은 보다 완전한 물리학에 의해(아인슈타인) 양자물리학이 보다 만족스러운 방식으로 설명되기를 기대했다는 사실이다. 양자물리학의 태동에 결정적인 기여를 하고서도 결국에는 양자물리학에 대해 비판적인 태도를 견지한 두 사람의 태도는 근본적인 원리 이론의 중요성을 강조했던 두 사람에게는 어쩌면 자연스러운 선택이었을지도 모른다.

이상의 논의는 플랑크의 1900년 논문에 대한 물리학 교과서의 표준적 설명을 거짓으로 만드는 것은 아니다. 플랑크의 논문이 양자 물리학의 역사에서 중요한 기여를 하였으며 이후의 물리학 발전에 지대한 영향을 끼쳤음은 논란의 여지가 없다. 단지 플랑크의 연구의 배경에 인과적으로 중요한 역할을 한 두 요소, 즉 산업과학기술 연구의 역할과 근본 이론으로서의 열역학의 중요성이 간과되었을 뿐이다. 이 두 요소를 배제한 ‘표준적’ 설명으로 공부한다고 해서 미래 물리학자가 될 학문 후속 세대들의 물리학에 대한 이해에 문제가 생기는 것도 아니다. 오히려 쿤이 지적했듯이, 1900년도에 동료 물리학자들에 의해 플랑크 논문이 어떻게 이해되었는지를 파악하는 것보다는 21세기 현대 물리학의 관점에서 플랑크의 논문이 갖는 이론적 함의를 정확하게 파악하는 것이 현대 물리학의 패러다임 하에서 물리학자로 활동하는데 훨씬 더 도움이 된다. 이런 점을 고려할 때 플랑크의 1900년 혁명적 논문에 대한 ‘표준적’ 설명은 물리학 교육을 위해서는 충분히 좋은 설명이다.

하지만 그럼에도 불구하고 ‘표준적’ 설명에 문제가 없는 것은 아니다. 우선 이런 설명은 학문 후속 세대들에게 물리학 연구가 실험과 이론의 ‘주고받기’ 식으로 발전할 뿐, 물리학자가 살았던 사회 외부의 영향과는 무관하다는 ‘순수주의적’ 사고를 부당하게 심어줄 수 있다. 이에 더해 진짜 물리학 연구 과정에서는, 이후의 이론적 정리 과정에서는 별다른 의미를 찾기 어려운 다양한 요인들이 영향을 미친다는, 즉 물리학 ‘연구’와 나중에 정리된 물리학 ‘지식’ 사이에는 수많은 중요한 차이가 있다는 사실이 간과될 수 있다. 이는 물리학자의 물리학 ‘연구 능력’에는 직접적인 해가 되진 않겠지만, 물리학자들이 물리학을 바라보는 메타적 관점에는 상당한 왜곡을 가져올 수 있다는 점에 유의해야 한다.