뇌과학의 동이 트기 전 기억 탐구

인간을 포함한 생명체는 환경의 변화에 적응적으로 대응하기 위해 새로운 것을 ‘학습’하며, 학습의 결과물은 ‘기억’으로 저장되어 다음에 다시 그것을 마주하게 될 때 이전과는 다른 적응적 반응을 하게 해준다. 이렇게 학습과 기억이 생존을 위해 매우 중요하다는 것은 아마도 오래전부터 인류가 알고 있었을 것이지만, 이를 지적 탐구의 대상으로 체계적으로 고찰하고 연구한 것은 아마도 고대 그리스의 철학자들에 의해서 시작되었을 것이다. 예를 들면, 고대 철학자인 아리스토텔레스는 자신의 저서 ‘기억과 회상에 관하여’에서 우리가 사고하고 행동하는데 기억이 중요하며 기억이 우리 몸에 저장된다는 생각을 구체화하였다. 하지만 학습과 기억을 과학의 영역, 즉 가설검증을 위한 실험의 영역으로 끌어들여 본격적으로 연구를 시작한 인물은 19세기 독일의 심리학자 헤르만 에빙하우스^{Herman Ebbinghaus}로 볼 수 있다. 에빙하우스는 1885년에 ‘Memory: A contribution to experimental psychology’라는 저서에서 기억의 저장과 망각을 실험적으로 연구할 수 있는 방법론을 소개하였다. 특히 ‘망각 곡선^{forgetting curve}’이라는 개념을 소개하며 기억이 우리 머릿속에서 불변의 형태로 있는 것이 아니라 학습 이후 역동적으로 변화하는 것이라는 중요한 시사점을 던져주었다. 하지만 에빙하우스 역시 뇌를 직접적으로 들여다보거나 조작하는 실험을 한 것은 아니었으며 행동실험을 통해 뇌 안에서 벌어지는 현상을 유추한 것이었다.

그림1. 헤르만 에빙하우스Hermann Ebbinghaus https://snl.no/Hermann_Ebbinghaus	그림 2. 에빙하우스의 망각곡선 필자

뇌 속의 기억 보관소를 찾아서

학습과 기억의 뇌과학을 가르칠 때 뇌의 어딘가에 기억이 저장되었다는 가설을 실험적으로 검증하려 했던 인물로 처음 언급되는 학자는 칼 래슐리^{Karl Lashley}이다. 일반인들도 기억이 뇌에 “저장”되어 있다고 표현하듯이 특정 기억은 뇌의 특정한 위치에 보관되어 있다가 필요할 때 꺼내서 활용하는 것이라는 가설을 래슐리는 과학적으로 테스트하고 싶었다. 심리학자이자 동물학자로 융합적 교육을 받은 래슐리는 그의 스승인 유명한 실험 심리학작인 존 왓슨^{John B. Watson}과 달리 직접적으로 뇌에서 ‘기억의 흔적’을 찾고자 하였다. 이 흔적을 엔그램^Engram이라고 불렀고 1950년 출판한 그의 논문 ‘In search of engram’에서 논문의 제목으로 쓸 정도로 이에 대한 집착을 보였다. 래슐리로 인해 자극과 행동의 관계에서 함수적 기능 추론만을 하던 심리학의 영역으로부터 학습과 기억 연구가 지금의 신경과학 혹은 뇌과학의 영역으로 들어왔다고 해도 과언이 아닐 듯하다.

1950년 출판된 논문에서 래슐리는 사람들 대부분이 기억을 마치 특정 서랍 속에 저장해 두는 것처럼 여기는 기억의 ‘국소적 저장^localization’ 가설을 뒤집는 주장을 하였다. 만약 기억이 뇌의 특정 영역에 저장된다면 그 저장된 영역을 손상시킴으로써 그 기억이 사라지게 할 수 있어야 한다는 명료한 가설을 실험하기 위해 래슐리는 쥐에게 미로를 학습시킨 후, 외과적 수술을 통해 쥐의 뇌의 다양한 부위를 손상시키고 나서 다시 그 쥐가 미로에서 학습한 것을 기억하는지 보았다. 하지만 래슐리의 실험 결과, 어느 부위를 손상시킨다 해도 쥐가 이미 학습한 미로에서 완전히 길을 헤매는 상황은 관찰되지 않았다. 이를 근거로 래슐리는 ‘집단 행동의 법칙^{Law of mass action}’을 주장하였다. 즉, 학습된 기억의 흔적, 엔그램은 여러 뇌 영역들에 산재되어 있으며 이들 영역들이 집단적으로 기능을 할 때 기억이 온전히 발현된다는 이론이다. 게다가 하나의 뇌 영역이 손상되면 다른 영역들이 기꺼이 그 영역의 기능을 떠안아서 보완할 수 있는 능력, 즉 ‘기능적 동등함^{equipotentiality}’이 있다고 주장하였다. 이는 그때까지 기억이 특정 뇌 영역에만 국한되어 저장된다는 가설을 정면으로 반박한 것이다. 래슐리가 논문을 발표한 1950년보다 1년전인 1949년에 도널드 헵^{Donald Hebb}이라는 캐나다의 심리학자이자 뇌과학자가 ‘The organization of behavior’라는 책을 출간하면서 ‘세포 집합체 이론^{cell assembly theory}’이라는 훗날 매우 영향력 있는 이론을 발표하였는데, 이는 서로 같은 시기에 활동한 뇌세포들간의 시냅스는 특별히 강화되면서 기능적 세포 집합체^assembly를 형성한다는 것이다. 이러한 특성을 갖는 시냅스는 오늘날 ‘헵 시냅스^{Hebbian synapse}’라는 이름으로 명명되어 잘 알려져 있다. 그리고, 이 세포 집합체가 이후에 다시 활성화되면 그것이 바로 기억의 인출이라고 생각하였다. 따라서 뇌세포들이 집단으로 활성화되면서 기억이 형성되고 인출된다는 생각은 다각도로 지원을 받았다고 볼 수 있다.

특별한 기억을 위한 특별한 뇌 영역, 해마

래슐리가 1950년에 기억의 국소 저장 이론을 정면으로 반박하는 이론을 발표한지 불과 7년후인 1957년에 윌리엄 스코빌^{William Scoville}이라는 신경과 의사가 캐나다의 브렌다 밀너^{Brenda Milner}라는 뇌과학자와 함께 자신이 해마^Hippocampus라는 뇌 영역에 대한 절제술을 실시한 헨리 몰레이슨^{Henry Molaison}이라는 환자의 케이스를 담은 논문을 발표하였다. 래슐리의 이론이 사실이라면 해마를 절제하더라도 다른 뇌 영역들이 기억을 분담해서 저장하고 있고 다른 영역들이 해마의 기능을 대신 하면 되기 떄문에 심한 기억 상실은 발견되지 않아야 했다. 하지만 결과는 정반대였다. 스코빌과 밀너는 몰레이슨 환자에게서 특정한 종류의 기억만이 매우 선택적으로 사라졌으며, 그 특정한 종류의 기억은 다시 생성조차 불가능하다는 충격적인 실험 결과를 발표하였다. 래슐리가 부정했던 기억의 국소 저장 이론이 부활한 것 같은 느낌을 주기에 충분한 사건이었다.

참고로 1970년 초반은 툴빙의 일화기억 주장이 나왔을 뿐만 아니라 현대 학습과 기억 연구의 패러다임을 확립한 중요한 역사적 논문들이 많이 발표된 시기이다. 아니 어쩌면 학습과 기억 연구 뿐 아니라 현대 뇌인지과학의 접근법의 틀이 이 시기에 다져졌다고 봐도 과언이 아니다. 학습, 기억, 감정, 지각, 감각, 사회적 인지 등 모든 인지 현상을 연구하기 위해서는 뇌 속 특정 신경망과 인지 및 행동을 연결시켜 연구하는 시스템적 접근, 뇌 세포로 이루어진 신경회로에서 일어나는 정보처리를 세포 간 혹은 세포 내에서 연구하는 신경생리학적이고 신경생물학적 접근, 그리고 마지막으로 이 두 접근법으로부터 밝혀진 작동 원리를 정량적 언어로 알고리즘화하여 구현하여 설명하는 계산신경과학적 접근의 3가지 접근법이 현대 뇌인지과학에서는 필수 3요소로 꼽힌다. 이 3가지 접근법의 중요성을 처음 주장했던 사람은 데이비드 마^{David Marr}였다.

30대에 요절한 천재로 잘 알려진 마는 1971년 그의 박사학위 논문에서 해마의 해부학적, 신경생리학적 특성을 고려하여 해마가 하는 계산이 ‘단순 기억^{simple memory}’을 형성하기 위한 것이라는 주장을 처음 내놓았다. 여기서 단순 기억이란 해마와 같이 진화적으로 ‘오래된 피질^archicortex’은 신피질^neocortex에 비해 거친 형태의 단순한 기억을 빠르게 형성하는 것이 주된 기능임을 강조하기 위한 단어이다. 이는 훗날 계산신경과학자들에 의해 해마가 비슷한 기억을 초기에 분류하여 저장하고 인출하는데 중요한 ‘패턴완성^{pattern completion}’과 ‘패턴분리^{pattern separation}’ 기능에 중요한 역할을 한다는 계산적 이론과 실험으로 발전되면서 해마의 기능 연구에 중요한 전환점을 마련하였다. 또, 1973년에는 영국의 티모시 블리스^{Timothy Bliss}와 테르헤 뢰모^{Terje Lømo}가 도널드 헵의 시냅스 강화 현상뿐만 아니라 강화된 시냅스가 수시간 동안 지속될 수 있음을 해마의 절편을 가지고 한 전기생리학적 실험을 통해 보였다. 이후 이 현상은 시냅스의 ‘장기강화^{long-term potentiation}’ 현상이라고 명명되며 세포와 시냅스 수준에서 자극이 사라진 후에도 그 자극에 대한 정보가 어떻게 유지될 수 있는지에 대한 중요한 정보를 제공하였다. 마의 계산신경학적 접근법과 시냅스 장기강화 현상의 발견으로 인한 신경생리학적, 신경생물학적 접근법은 70년대 초까지 학습과 기억에 대해 이루어지고 있던 시스템 수준의 접근법과 맞물리며 이후 50년의 학습과 기억에 대한 뇌과학적 연구의 프레임을 만들었다. 어찌보면 해마라는 뇌의 특정 영역을 중심으로 철학, 심리학, 인지과학, 수학, 계산과학, 해부학, 생물학, 생리학 등의 관련 분야가 총집결하게 된 중요한 시기였다. 이런 이유로 인해 뇌인지과학은 학과 간 경계가 매우 높은 대학 구조에서는 발전하는데 한계가 있었으며 비교적 경계가 느슨한 유럽의 대학과 연구소가 이론적 틀을 마련하는데 유리했고 이를 정량적 패러다임으로 완성시킨 것은 주로 미국의 대학과 연구소를 중심으로 현재까지도 이루어지고 있다.

기억의 유형 분류의 시대, 유형학^Typology의 유행

헨리 몰레이슨의 케이스를 통해 기억의 종류가 뇌의 기억 기전을 연구하는데 결정적인 정보라는 점을 인식하면서 70년대와 80년대에는 학습과 기억을 유형별로 체계적으로 정리하는 유형학^typology이 유행하였다. 이 당시에 맹렬히 활약한 학자의 대표로는 미국의 래리 스콰이어^{Larry Squire}를 꼽을 수 있다. 스콰이어는 현재까지도 교과서에 가장 많이 등장하는 학습과 기억의 종류 분류표를 정립한 인물이기도 하다. 당시 이러한 연구를 하기 위해서는 다양한 유형의 환자를 많이 보유한 대형 대학병원과 연구를 하는 것이 중요했는데 헨리 몰레이슨을 연구했던 밀너 박사 역시 캐나다의 맥길^McGill 대학의 신경과 교수였으며 몬트리올 신경연구소^{Montreal Neurological Institute}에 있었기 때문에 해마의 기능적 특이성 연구를 발전시킬 수 있었다. 스콰이어도 미국 샌디에고의 캘리포니아 대학^UCSD에서 많은 환자들을 관찰하며 연구를 할 수 있는 환경에 있었다. 스콰이어는 헨리 몰레이슨과 같이 특정 뇌 영역의 손상이 특정한 종류의 학습과 기억 장애로 이어지는 사례들을 수집하여 학습과 기억의 종류 및 이와 기능적으로 연관된 뇌 영역들에 대한 분류 작업을 하였다.

스콰이어의 분류법에 따르면 오랫동안 저장되는 장기기억의 경우 크게 ‘서술적 기억^{declarative memory}’와 ‘비서술적 기억^{nondeclarative memory}’으로 나눌 수 있다. 물론 뇌는 감각과 지각 시스템 내에서도 세포가 정보를 처리하고 나면 자극이 사라진 후에도 그 정보처리의 여파로 아주 잠깐 동안만 지속되는 흔적이 남게되는데 이는 장기기억으로 바뀔 수 없는 속성을 가지고 있어 ‘지각적 기억^{perceptual memory}’이라고 분류하였지만 이는 진정한 기억이라고 보기는 어렵다. 흔히들 이를 단기기억이라고 부르면서 이것이 리허설을 하면 장기기억으로 전환되는 것이라고 잘못 알고 있는 분도 많은데, 기억의 종류를 구분하는 작업을 먼저 해야한다는 것이 현재는 정설로 되어 있다. 스콰이어 분류의 핵심은 기억의 내용을 말로 ‘서술’ 할 수 있느냐 없느냐에 달려있다. 말로 서술한다는 것은 ‘의식^{consciousness}’의 작용을 동반해야 한다는 것 또한 의미하기 때문에 그의 대분류를 ‘의식적 기억’과 ‘무의식적 기억’으로 설명하기도 한다. 훗날 이러한 분류 기준은 말을 하지 못하는 동물을 대상으로 기억을 연구하는 패러다임에 어떻게 이 분류를 적용시킬 것인가를 놓고 논란을 야기하게 된다.

스콰이어에 따르면 ‘서술적 기억’ 내에는 툴빙이 이야기했던 일화기억^{episodic memory}과 의미기억^{semantic memory}이 속하고, ‘비서술적 기억’ 내에는 감각-지각적 기억과 몸을 움직이는 운동 기억이 있다. 특히 감각-지각-운동을 통해 몸의 움직임을 학습하여 기억하는 종류를 이후 문헌에서는 ‘절차적 기억^{procedural memory}’이라고 부르게 되었다. 또 비서술적 기억에 포함되는 기억의 종류에는 지각적 기억이 이후의 정보처리에 영향을 미치는 프라이밍^{perceptual priming}, 단순한 파블로프식 조건형성^{Pavlovian conditioning} 등의 비교적 단순한 기억들이 있다. 스콰이어는 해마를 포함한 내측측두엽^{medital temporal lobe} 전체가 서술적 기억에 중요하며 내측측두엽의 영역들은 비서술적 기억에는 비교적 덜 관여하거나 전혀 관여하지 않는다고 주장하였다. 오히려 비서술적 기억은 선조체^striatum, 소뇌^cerebellum, 편도체^amygdala를 비롯하여 뇌의 반사회로 등이 주로 관여한다고 주장하였다. 스콰이어의 이 분류체계는 현재까지도 교과서를 비롯하여 많은 뇌과학 입문서에 채택되고 있을 뿐 아니라 병원에서 뇌 손상 환자의 학습 이상을 진단할 때도 가이드 역할을 하고 있다.

지금까지 기억의 종류에 따라 뇌의 서로 다른 영역들이 기능을 차별적으로 한다는 다중기억이론^{multiple memory theory}이 어떻게 생겨났는지 그 역사적 배경을 설명하였다. 다음에는 아마도 그 여러 영역들 중 단연코 가장 많이 연구되었다고 할 수 있는 해마의 기능과 이를 뒷받침하는 실험결과들을 더 자세히 설명할 예정이다.