해마의 맥락에서 바라본 뇌과학적 기억 탐구

해마 속 인지 지도^{cognitive map}

뇌과학 혹은 신경과학이 아직 뇌에서 벌어지는 학습과 기억의 기전을 설명할 이론과 방법론을 갖추지 못했던 20세기 초에 이를 실험적으로 연구한 사람들은 대부분 심리학자들이었다. 특히 일반인들에게도 개를 대상으로 침을 흘리는 학습을 구현한 실험으로 잘 알려진 이반 파블로프^{Ivan Pavlov}의 조건형성^conditioning 학습에 대한 실험이 1897년에 발표되면서 학습을 연구하는 심리학자들은 뚜렷한 외부자극이 존재하고 이에 대한 반응이 자동적으로 학습되는 조건형성식 학습 연구에 몰입하였다. 그러면서 이 시기에 종소리와 같은 뚜렷한 자극^stimulus과 흘린 침의 양과 같이 정량적으로 측정 가능한 반응^response이 존재하는 학습에 대한 연구만이 과학적으로 정당하다는 주장을 하는 행동주의^behaviorism 학파가 등장하였다. 1913년 심리학자 존 왓슨^{John Watson}을 시작으로 아마도 학습을 연구한 심리학자 중에 가장 잘 알려진 인물 중 하나인 버러스 스키너^{Burrhus Skinner}에 의해 조작적 조건형성^{operant conditioning}을 통한 학습과 기억의 연구가 활발히 이루어졌다.

행동주의 학습 이론에 따르면 인간을 비롯한 동물이 보이는 학습된 행동은 모두 특정 자극에 대한 특정 반응이 강화^{reinforcement}에 의해 반복적으로 연합된 결과로 설명될 수 있다. 이는 외부 자극이 없으면 학습은 일어날 수 없다는 것으로도 해석될 수 있다. 하지만 주로 쥐를 대상으로 공간 상의 미로에서 길찾기 학습을 통해 기억을 연구하던 심리학자들 중에는 행동주의의 이러한 단순한 이론에 잘 들어맞지 않는 실험 결과를 가지고 고민하던 사람들이 있었다. 그중 가장 잘 알려진 인물이 에드워드 톨먼^{Edward Tolman}으로 1948년에 출판한 논문 ‘Cognitive maps in rats and men^{쥐와 인간의 인지지도}’에서 쥐가 미로에서 길찾기를 단순한 길찾기 학습을 하는 동안 쥐의 머릿속에는 쥐가 돌아다녔던 곳 뿐 아니라 해당 공간 전체에 대한 일종의 지도가 만들어진다고 주장하였다.[1] 그리고 이 지도 덕분에 쥐에게 갑자기 학습이 되어있지 않은 길로 가야하는 돌발 과제를 제시해도 쥐는 마치 그 과제를 학습한 것처럼 미로에서 길을 잘 찾아가는 여유로운 행동을 보임을 실험을 통해 입증하였다. 톨먼은 행동주의처럼 단순한 자극-반응의 연합으로만 기억이 구성되는 것은 아니며 쥐의 뇌는 환경 내의 다양한 자극들을 인지적으로 구조화하여 실제 물리적 공간을 모방한 ‘모델^model’을 스스로 만들 수 있다고 주장하였고 이를 ‘인지지도^{cognitive map}’이라고 명명하였다. 1950년대는 인지과학의 혁명이 일어난 중요한 시기로 뇌에서 일어나는 현상을 마치 컴퓨터의 프로그램처럼 정보처리의 관점에서 이해할 수 있다는 분위기가 대세였다. 톨먼이 속한 ‘인지주의^cognitivism’ 역시 이러한 시대적 흐름에 잘 부합하였다.

하지만 당시 심리학의 방법론적 한계로 인해 실제로 뇌 속의 세포들이 하는 정보처리를 측정할 수 없었는데, 20세기 중반을 넘어서면서 살아 움직이는 쥐의 뇌에서 세포의 전기적 활성패턴을 측정하는 전기생리학 기술이 발전하면서 이것이 가능해졌다. 그리고 1971년 영국의 University College London의 존 오키프^{John O’Keefe}는 자유롭게 움직이는 쥐의 해마에서 개별 뇌세포의 전기적 활성을 기록하는 실험을 통해 놀라운 현상을 발견하였다. 즉, 해마의 특정 세포가 쥐가 공간 내 특정 위치에 있을 때만 선택적으로 활성화되었으며, 그 위치를 벗어나면 활성이 사라진다는 사실이었다. 더 흥미로운 것은 해마의 거의 모든 흥분성 세포가 이런 특성을 보이며, 각 세포마다 반응하는 위치가 서로 달라서 마치 뇌 안에서 공간 전체가 세포들에 의해 분할되어 표상되고 있는 것처럼 보였다는 점이다. 오키프는 이 세포들을 ‘장소세포^{place cell}‘라고 명명하였다. 장소세포의 발견은 단순한 신기한 현상의 관찰을 넘어, 20여 년 전 에드워드 톨먼이 행동실험을 통해 쥐의 머릿속에 ‘인지지도’가 있다고 주장했던 그 이론에 대한 직접적인 신경생물학적 증거를 제공한 것이다. 즉, 인지지도가 실제로 해마의 수많은 장소세포들의 앙상블 활성으로 구현되어 있을 가능성을 처음으로 시사한 것이다. 오키프는 이후 1978년에 린 나델^{Lynn Nadel}과 함께 ‘The Hippocampus as a Cognitive Map’이라는 기념비적 저서를 출간하면서[3] 장소세포의 발견이 갖는 이론적 함의를 체계적으로 정리하였다. 이 책은 해마가 공간 속에서 한 경험을 통합하고 표상하는 인지적 지도를 구현하는 곳이라는 이론의 토대를 마련하였으며, 이후 수십 년에 걸친 해마 기능 연구의 이론적 축으로 자리잡았다. 이 공로로 오키프는 훗날 2014년 노벨 생리의학상을 수상하게 된다.

시냅스가 기억을 새기는 방식: 장기강화^LTP의 발견

오키프가 장소세포를 발견한 1971년으로부터 불과 2년 후인 1973년, 영국의 티모시 블리스^{Timothy Bliss}와 노르웨이의 테르헤 뢰모^{Terje Lømo}는 해마의 절편^slice을 이용한 전기생리학 실험을 하면서 매우 중요한 현상을 보고하였다.[4] 해마로 전달되는 신피질의 시냅스 경로에 매우 강한 전기 자극을 짧게 가하면 해당 시냅스들의 정보전달 효율성이 크게 증가하는데, 놀랍게도 이렇게 하니까 전기 자극이 사라진 후에도 수 시간에 걸쳐 해당 시냅스의 신호 전달 효율이 증가한 채로 그대로 지속되는 현상이 관찰된 것이다. 이 현상은 시냅스의 강화된 상태가 오랫동안 지속된다는 면을 지칭하기 위해 ‘장기강화^{long-term potentiation, LTP}‘라고 명명되었으며, 1949년 도널드 헵이 이론적으로 예측했던 ‘함께 활성화되는 세포들 사이의 시냅스는 강화된다’는 헵 시냅스 개념을 실험적으로 뒷받침하는 직접적 증거로 받아들여졌다. 이 LTP 현상의 발견은 학습과 기억 분야에 여러 중요한 함의를 가지고 있다. 자극이 가해지고 사라진 이후에도 그 자극의 흔적이 시냅스 효율의 변화로 남아 지속될 수 있다는 것은, 세포 수준에서 기억이 어떻게 물리적으로 저장될 수 있는지에 대한 환원론적 메커니즘을 제시한 것이었다. 이 발견을 계기로 학습과 기억의 생물학적 기반을 시냅스의 분자적, 세포적 변화로 설명하는 연구들이 폭발적으로 증가하기 시작하였고, 오늘날까지도 LTP는 기억의 시냅스 기반을 탐구하는 연구의 핵심 현상으로 중요하게 다루어지고 있다.

물 속에서 길을 찾는 쥐: 모리스 수중미로의 등장

장소세포의 발견과 LTP의 발견이 가져온 이론적 흥분은 해마의 공간 기억을 직접적으로 행동 수준에서 검증할 수 있는 동물 모델에 대한 갈증을 불러 일으켰다. 기존의 고전적 미로 실험들은 쥐가 수많은 시행착오를 통해 특정 경로를 학습하는 방식에 의존하고 있어서, 인지지도에 기반한 거의 원샷^one-shot에 가까운 해마의 공간 학습 능력을 측정하기가 어렵다는 한계가 있었다. 이러한 문제를 해결하기 위해 1982년 영국의 신경과학자 리처드 모리스^{Richard Morris}는 새로운 동물 행동 과제인 ‘수중미로^{water maze}‘, 일명 ‘모리스 수중미로^{Morris Water Maze}‘를 개발하였다.[5] 수중미로는 불투명한 물이 채워진 원형의 수조 내에 수면 아래에 숨겨진 작은 플랫폼을 설치해 놓는다. 수중미로에 들어가면 쥐는 수조 바깥에 배치된 다양한 공간적 단서들을 이용하여 물 속에 잠겨 보이지 않는 플랫폼의 위치를 학습하고 기억하도록 하는 과제이다. 이 과제의 중요한 특징은 쥐가 특정한 하나의 감각 자극을 따라가는 방식이 아니라 방안에 보이는 다양한 공간적 단서들을 통합하여 플랫폼의 절대적 위치를 머릿속에 표상해야만 과제를 효율적으로 수행할 수 있다는 점이다. 즉, 쥐가 인지지도를 빨리 형성하지 않으면 공간 학습을 빨리하기 어렵게 설계된 행동실험 패러다임이어서 해마의 기능을 측정하기에 적합하였다. 모리스는 이 과제를 이용하여 해마가 손상된 쥐들이 정상 쥐에 비해 플랫폼의 위치를 학습하는 능력이 현저히 저하된다는 것을 보임으로써, 해마가 공간 기억에 필수적이라는 직접적인 행동적 증거를 제공하였다. 수중미로는 이후 해마 연구의 표준적인 행동 도구로 자리잡아, 유전자 조작 쥐나 특정 약물 처치 등 다양한 실험 조건에서 해마 의존적 공간 기억을 검증하는 데 광범위하게 활용되었으나, 전기생리학적으로 세포의 활동을 측정하는 패러다임과 물에서 실험을 하는 실험법의 괴리로 인해 최근에는 이를 활용하는 사람들이 많지 않다.

격자 위에 새겨진 공간: 격자세포^{grid cell}의 발견

한편 1971년 오키프의 장소세포 발견 이후 수십 년이 지나도록, 해마가 어떻게 공간 정보를 처리하고 인지지도를 구현하는지에 대한 핵심 질문은 완전히 풀리지 않고 있었다. 특히 해마가 외부 감각 입력으로부터 공간 정보를 받아들이는 경로 중 내후각피질^{entorhinal cortex}이 중요하다는 것은 알려져 있었지만, 이 영역의 세포들이 공간을 어떻게 표상하는지는 미지의 영역이었다. 이 물음에 결정적인 답을 제공한 것이 2005년 노르웨이 과학기술대학교^NTNU의 마이-브리트 모저^{May-Britt Moser}와 에드바르드 모저^{Edvard Moser} 연구팀이 발표한 격자세포^{grid cell}의 발견이다.[6] 모저 팀은 쥐가 넓은 공간을 자유롭게 탐색하는 동안 내후각피질의 세포 활성을 기록하는 실험에서, 특정 세포들이 공간 내의 규칙적인 육각형 격자 패턴을 이루는 여러 위치들에서 반복적으로 활성화된다는 것을 발견하였다.[2] 이러한 세포들을 격자세포라고 명명하였는데, 각각의 격자세포는 자신만의 고유한 간격과 방향을 가진 격자 패턴을 표상하며, 서로 다른 격자세포들의 활성 패턴이 조합되면 공간 내의 임의의 위치를 정밀하게 부호화할 수 있는 좌표계가 형성된다. 쉽게 말하면 우리가 특정 공간에 들어가면 그 공간을 다양한 크기의 모눈종이를 써서 분할하여 좌표화하는 기능을 내후각피질에 존재하는 격자세포들의 신경망이 수행하고 있다고 생각하면 된다. 이는 마치 뇌 안에 GPS 기능을 갖춘 내재적 좌표계가 존재하는 것과 같으며, 격자세포가 해마의 장소세포에게 공간 좌표 정보를 제공하는 역할을 한다는 이론적 그림을 완성시켜 주었다.

격자세포의 발견은 해마-내후각피질 시스템이 어떻게 공간을 학습하고 기억하는지에 대한 이론적 체계를 갖추는 데 결정적인 기여를 하였다. 이 공로로 마이-브리트 모저와 에드바르드 모저는 오키프와 함께 2014년 노벨 생리의학상을 공동 수상하였다. 다만, 현재 격자세포가 해마의 장소세포의 장소 파악 학습에 결정적인 역할을 한다는 초기의 주장은 많이 흔들리고 있어 새로운 이론적 돌파구가 필요한 상황이다. 즉, 격자세포의 활성을 마비시켜도 해마의 장소세포의 위치 파악 기능이 그다지 많이 영향을 입지 않으며, 오히려 해마의 장소세포를 손상시킬 경우 격자세포가 영향을 받는 현상이 거꾸로 보고되는 등 격자세포의 기능이 정확히 무엇인지는 다소 혼란스러운 상황이다.

일화기억의 재발견: 언제, 어디서, 무엇을

Part I에서 소개한 앤델 툴빙^{Endel Tulving}의 1972년 일화기억 이론은 해마의 기능을 순수하게 공간 기억으로만 보는 시각과 흥미로운 긴장 관계를 형성하였다. 툴빙의 이론은 일화기억을 ‘의식적으로 마치 시간여행을 하듯 회상할 수 있는 과거의 특정 사건에 대한 기억’으로 정의하였는데,[7] 이 정의는 의식이라는 개념을 기억의 핵심 요소로 끌어들인다는 점에서 동물 연구에 적용하기가 어렵다는 한계를 내포하고 있었다. 말을 하지 못하는 동물이 일화기억을 가지고 있는지를 어떻게 실험적으로 확인할 수 있는가 하는 문제는 오랫동안 논란으로 남아 있었다.

이 난제에 새로운 시각을 제공한 것이 1998년 영국 케임브리지 대학교의 니콜라 클레이튼^{Nicola Clayton}과 앤서니 디킨슨^{Anthony Dickinson}의 연구이다.[8] 클레이튼과 디킨슨은 먹이를 저장하는 습성을 가진 어치^{scrub jay, 덤불어치}를 대상으로 한 행동 실험에서, 어치가 먹이를 어디에^where, 무엇을^what, 언제^when 숨겼는지에 대한 정보를 통합적으로 기억하고 있으며, 시간의 경과에 따라 썩는 먹이와 그렇지 않은 먹이를 구분하여 저장 장소를 선택적으로 방문하는 행동을 보인다는 것을 입증하였다. 이들은 이러한 능력이 인간의 일화기억에 상응하는 ‘유사 일화기억^{episodic-like memory}‘이라고 주장하였으며, 일화기억의 핵심 요소를 ‘의식’이 아닌 ‘what-where-when’의 세 가지 정보 통합으로 조작적으로 정의함으로써 동물에서도 일화기억을 실험적으로 연구할 수 있는 길을 열었다. 이는 툴빙의 이론이 실험과학의 언어로 번역되는 중요한 계기가 되었다.

공간을 넘어 시간과 대상으로: 아이켄바움의 해마

한편, 1990년대에 미국의 신경과학자 하워드 아이켄바움^{Howard Eichenbaum}의 연구팀은 오키프의 장소세포 전통에서 자연스럽게 형성된 ‘해마는 공간 기억 전담 구조’라는 시각에 정면으로 의문을 제기하는 이론과 이를 지지하는 일련의 실험 결과들을 발표하였다. 아이켄바움 팀은 쥐가 공간을 탐색하는 동안 해마 세포의 활성을 기록하면서, 해마 세포들이 단순히 위치 정보에만 반응하는 것이 아니라 특정 위치에서 어떤 사건이 일어나고 있는지, 즉 장소와 대상, 장소와 시간이 어떻게 결합되는지에 따라 활성 패턴이 달라진다는 것을 보였다.[9] 예를 들어, 쥐가 특정 장소에 있더라도 거기서 어떤 냄새 자극을 맞닥뜨리느냐에 따라 세포의 반응이 달라지는, 장소와 사건(냄새 등)이 결합된 조건에서 선택적으로 활성화되는 세포의 존재가 확인되었다. 또한 아이켄바움은 해마의 세포들이 같은 장소에 있더라도 시간의 흐름에 따라 활성패턴을 변화시키다는 점, 즉 사건의 시간적 순서를 부호화하는 기능을 가지고 있음을 밝혔다. 이러한 연구 결과들은 해마는 공간 정보만을 처리하는 것이 아니라, 공간·시간·대상이 서로 묶여 형성되는 경험의 맥락^context 전체를 통합하여 기억하는 구조라는 더 넓은 해마 기능 이론의 토대를 마련하였다. 즉, 오키프와 나델의 인지지도 이론과 툴빙의 일화기억 이론은 아이켄바움의 연구를 통해 해마라는 동일한 뇌 구조 안에서 통합될 수 있는 가능성을 얻게 되었다고도 볼 수 있다.

장면이 기억되는 곳: 인간 해마 연구의 진전과 박쥐의 증언

해마의 학습과 기억 기능을 세포 수준에서 측정하는 연구는 그 방법론의 특성상 동물연구를 중심으로 발달했지만, 인간을 대상으로 한 뇌영상 연구들도 이러한 방향을 지지하는 중요한 결과들을 내놓았다. 특히 영국 유니버시티 칼리지 런던의 엘리너 매과이어^{Eleanor Maguire} 연구팀은 2013년을 전후하여 인간 해마가 단순히 개별 사물이나 장소를 기억하는 것이 아니라, 사람, 장소, 사물이 특정한 방식으로 배치된 ‘장면^scene‘을 전체로서 학습하고 기억하는 데 중추적인 역할을 한다는 주장을 체계적으로 발전시켰다.[10] 이 관점에 따르면 해마는 경험을 구성하는 여러 요소들이 공간적·시간적 맥락 속에서 어떻게 배치되는지를 통합적으로 부호화하는 ‘장면 구성^{scene construction}‘의 핵심 기관이라 할 수 있다. 이러한 주장은 이후 쥐와 인간 모두를 대상으로 가상현실^{virtual reality, VR} 환경을 활용한 실험들에서도 점차 확인되고 있다. 가상현실 기술은 참가자들이 경험하는 공간적 맥락과 사건을 연구자가 정밀하게 통제하고 조작할 수 있게 해주어, 해마의 공간-일화 기억 통합 기능을 인간과 동물에서 직접적으로 비교하는 연구에 새로운 지평을 열고 있다.

더 나아가 최근에는 포유류 중에서도 독특한 생태적 특성을 지닌 박쥐를 이용한 연구들이 해마 기능의 보편성을 새로운 각도에서 조명하고 있다. 어둠 속에서 3차원 공간을 자유롭게 날아다니며 음파를 이용해 환경을 탐색하는 박쥐의 해마에서도 장소세포와 유사한 공간 표상 세포들이 발견되었으며, 더불어 사회적 동료의 위치나 자신의 과거 경험과 연관된 복잡한 정보들이 해마 세포 수준에서 통합되어 부호화된다는 증거들이 보고되고 있다.[11] 이는 해마의 공간-경험 통합 기능이 쥐나 인간과 같이 특정 감각 양식에 의존하는 종에 국한된 것이 아니라, 포유류 전반에 걸쳐 보존된 해마의 핵심 기능임을 시사한다.

과거의 재생에서 미래의 시뮬레이션으로

해마가 공간과 경험을 기억이라는 형태로 부호화한다는 사실이 밝혀지면서, 자연스럽게 그럼 그렇게 저장된 기억이 이후에 어떻게 활용되는가라는 질문이 제기되었다. 이에 대한 중요한 실마리를 제공한 것이 미국 MIT의 매튜 윌슨^{Matthew Wilson}이 아리조나 대학의 브루스 맥노튼^{Bruce McNaughton} 연구팀에서 1994년 발표한 연구이다.[12] 윌슨은 쥐가 미로를 탐색하는 동안 해마의 장소세포 앙상블이 만들어내는 활성 패턴을 기록한 뒤, 이후 쥐가 수면에 빠졌을 때 같은 세포들의 활성을 관찰하였다. 놀랍게도 수면 중, 특히 서파 수면 단계에서 깨어 있는 동안 경험했던 공간 탐색 순서와 동일한 패턴의 세포 활성 순서가 빠른 속도로 재현되었다. 이 현상을 ‘기억의 재생^replay‘이라고 부르며, 이는 해마가 낮 동안의 경험을 수면 중에 반복적으로 재활성화함으로써 그 기억을 공고화^{consolidation}하는 데 핵심적인 역할을 한다는 강력한 증거로 받아들여졌다. 이후 매튜 윌슨 그룹은 이 현상이 REM 수면 중에도 나타남도 보고하였다.[13] 즉, 해마는 경험이 일어나는 순간뿐 아니라 경험이 끝난 이후에도 그 기억의 운명에 능동적으로 개입하는 구조임이 밝혀진 것이다.

그런데 이후의 연구들에서 해마의 역할이 과거 경험의 충실한 재생에만 머물지 않는다는 흥미로운 사실을 드러내기 시작하였다. 수면 중 재생과 유사한 세포 활성의 순차적 패턴이 쥐가 실제로 행동을 개시하기 직전, 즉 아직 경험하지 않은 경로를 탐색하기 전에도 미리 나타난다는 ‘사전재생^preplay‘ 혹은 시뮬레이션^simulation 현상이 보고된 것이다.[14] 이는 해마가 과거의 기억을 바탕으로 앞으로 일어날 상황을 미리 시뮬레이션하는 기능을 가지고 있을 가능성을 시사한다. 이러한 동물 연구의 방향과 맞닿아, 당시 영국 유니버시티 칼리지 런던의 박사과정 대학원생이었던, 지금의 구글 딥마인드^DeepMind의 CEO인 데미스 하사비스^{Demis Hassabis}와 그의 지도교수였던 엘리너 매과이어^{Eleanor Maguire} 교수는 2007년 발표한 인간 연구에서 해마에 손상을 입은 환자들이 과거를 기억하지 못할 뿐만 아니라 아직 일어나지 않은 미래의 상황을 상상하는 능력도 현저히 저하되어 있음을 보고하였다.[15] 과거를 기억하는 일과 미래를 상상하는 일이 전혀 다른 능력처럼 보임에도 불구하고 동일한 뇌 구조, 즉 해마에 의존한다는 이 발견은, 해마의 근본적 기능이 단순히 과거를 있는 그대로 재생하는 것이 아니라 과거의 경험으로부터 얻은 요소들을 유연하게 재조합하여 아직 경험하지 않은 상황, 즉 미래를 시뮬레이션하는 데 있다는 이론에 큰 힘을 실어 주었다. 이는 오늘날 해마 연구를 기억 과학의 경계를 넘어 상상력과 창의적 사고의 신경과학적 기반을 탐구하는 새로운 영역으로 확장시키고 있다.

맺음말

이처럼 장소세포의 발견으로부터 격자세포의 발견, 일화기억의 조작적 정의, 공간-시간-대상의 통합 부호화, 장면 구성, 다양한 종에서의 확인 및 시뮬레이션과 상상의 영역에 이르기까지, 해마는 반세기가 넘는 뇌과학 연구의 집약적인 탐구 대상으로서 우리에게 기억이란 무엇이며 우리에게 어떤 의미가 있는가라는 근본 질문에 점점 더 정교한 답을 내어주고 있다. 지면의 제약으로 인해 다루지 못한 중요한 이론적이고 방법론적인 돌파구들이 해마 연구 분야에서 목격되었다. 앞으로의 연구는 이 모든 이론적 성과들을 가상현실과 같은 새로운 기술, 더 정밀하고 광범위한 세포 활성패턴의 기록 기술, 그리고 계산신경과학적 모델링을 통해 통합함으로써 인간 기억의 가장 본질적인 작동 원리를 밝혀내는 방향으로 계속 나아갈 것이다.