김문석 가톨릭대 의과대학 의생명과학교실 교수가 기초과학연구원 분자 분광학 및 동력학 연구단 최원식 부연구단장(고려대 물리학과 교수), 최명환서울대 생명과학부 교수와의 공동 연구를 통해 살아있는 쥐의 두개골을 제거하지 않고도 뇌 신경망을 3D 고해상도로 관찰할 수 있는 홀로그램 현미경을 개발했다. 

빛을 이용해 우리 몸 깊은 곳을 관찰하기 위해서는 충분한 빛 에너지를 전달해 반사되는 신호를 정확하게 측정해야 한다. 하지만, 생체 조직에서 빛은 다양한 세포들에 부딪히며 생기는 다중산란 현상과 이미지가 흐릿하게 보이는 수차로 관찰이 쉽지 않다.

생체 조직 같은 복잡한 구조에서 빛은 여러 번 무작위하게 진행방향을 바꾸는 다중 산란을 겪는다. 이 과정에서 빛이 가진 영상 정보를 잃어버린다. 비록 아주 적은 양이더라도 보고자 하는 물체와 한번 부딪쳐 반사된 빛(단일 산란파)만 골라 수차로 인한 파면 왜곡을 보정해주면 깊은 곳까지 관찰할 수 있다. 하지만, 다중 산란파가 이를 방해한다. 따라서 고심도 생체 영상을 얻기 위해서는 방해꾼인 다중 산란파를 제거하고 단일 산란파의 비율을 증가시키는 것이 중요하다. 

공동 연구팀은 2019년에 다중 산란을 제거하고 빛의 세기와 위상을 동시에 측정할 수 있는 시분해 홀로그램 현미경을 최초로 개발하고 절개 수술 없이 살아있는 물고기의 신경망을 관찰한 바 있다. 하지만 물고기보다 두꺼운 두개골을 가진 쥐의 경우 두개골에서 발생하는 심한 빛의 왜곡과 다중산란으로 두개골을 제거하거나 얇게 깎아내지 않고는 뇌 신경망 영상을 얻을 수 없었다.

연구팀은 빛과 물질의 상호작용을 정량화해서 보다 더 깊은 곳까지 관찰 가능한 고심도 3차원 시분해 홀로그램 현미경을 개발했다. 다양한 각도로 빛을 넣어도 비슷한 반사파형을 가지는 단일 산란파의 특성을 이용해 단일 산란파만 골라내는 방법을 고안했다. 

이는 매질(파동을 전달시키는 물질)의 고유모드를 분석하는 수치연산으로 빛의 파면 사이에 보강간섭(같은 위상의 파동이 중첩될 때 일어나는 간섭)을 극대화하는 공명 상태를 찾아내는 방법이다. 즉, 이러한 방법으로 뇌 신경망에 기존보다 80배 많은 빛을 모으고, 불필요한 신호를 선택적으로 제거해 단일 산란파의 비율을 수십 배 증가시켰다.

연구팀은 기존 기술로는 불가능했던 깊이에서도 빛의 파면 왜곡을 보정했으며, 쥐의 두개골을 제거하지 않고도 가시광선 대역의 레이저로 형광 표지 없이 두개골 밑에 존재하는 뇌 신경망 영상을 고해상도로 얻는 데 성공하였다.

김문석 교수와 최원식 교수는 “복잡한 물질의 광학적 공명상태를 처음 관찰했을 때 학계에서 큰 관심을 받았다.”며 “기초 원리에서부터 쥐 두개골 속 신경망을 관찰하기까지 물리·생명·뇌과학 인재들과 함께 연구하며 뇌신경영상 융합기술의 새로운 길을 열었다.”고 전했다.

또한 “향후 뇌신경과학을 포함한 다양한 의ㆍ생명 융합 연구와 정밀 측정이 필요한 산업분야에 파급효과를 가져올 것으로 기대하고 있다.”고 말했다.

공동 연구팀의 이번 연구 결과는 ‘Through-skull brain imaging in vivo at visible wavelengths via dimensionality reduction adaptive-optical microscopy’ 라는 제목으로 국제 학술지 《Science Advances(IF=14.136)》 7월 28일자 온라인 판에 게재됐다.

김문석 가톨릭대 의과대학 의생명과학교실 교수. (가톨릭대 의과대학 제공)