수학적 모델링으로 ‘세포 잡음’ 정밀 제어 성공, ‘평균의 함정’ 극복해 세포 운명 바꾼 쾌거

성공적인 항암 치료 후에도 암은 왜 재발하는가. 강력한 항생제 공격 속에서도 일부 세균은 어떻게 살아남는가. 현대 의학이 오랫동안 풀지 못한 이 미스터리의 핵심에는 세포 내부의 무작위적인 변동성, 즉 ‘생물학적 잡음(Biological Noise)’이 존재한다. 유전자가 동일한 세포라 할지라도 단백질의 양이 제각각 달라 약물 치료를 피하는 ‘아웃라이어(Outlier)’가 발생하기 때문이다.

그동안 과학계는 세포 집단의 평균값만을 조절하는 데 그쳤으나, 최근 국내 연구진이 수학적 난제를 해결하며 개별 세포의 운명까지 통제할 수 있는 길을 열었다. 기초과학연구원(IBS) 의생명 수학 그룹 김재경 CI(KAIST 수리과학과 교수)와 POSTECH 수학과 김진수 교수, KAIST 공학생물학대학원 조병관 교수 공동연구팀은 수학적 모델링을 통해 세포 내부의 잡음을 제거하고 정밀 제어하는 ‘잡음 제어 원리’를 이론적으로 확립했다고 밝혔다. 이는 암 치료 내성 극복과 고효율 스마트 미생물 개발 등 바이오 산업 전반에 혁신을 가져올 획기적인 성과로 평가받는다.

‘평균의 함정’에 빠진 기존 생물학의 한계

우리 몸의 세포는 생존을 위해 끊임없이 외부 환경에 적응하며 항상성을 유지하려 노력한다. 하지만 실제 세포 내부는 매우 역동적이고 불규칙하다. 동일한 유전 정보를 가진 세포들이라도 환경에 따라 단백질 발현량이 달라지는 이른바 ‘잡음’이 발생한다. 이 잡음은 생명 진화의 원동력이 되기도 하지만, 질병 치료의 관점에서는 치명적인 걸림돌이다. 평균적인 세포들은 약물에 반응해 사멸하지만, 평균에서 벗어난 소수의 아웃라이어 세포들이 살아남아 암 재발이나 항생제 내성의 주범이 되기 때문이다.

기존의 유전자 회로 기술은 이 문제를 해결하는 데 명확한 한계를 보였다. 세포 집단 전체의 단백질 평균 양은 목표치에 맞출 수 있었지만, 개별 세포 간의 편차인 잡음은 오히려 증폭되는 부작용이 발생했기 때문이다. 연구팀은 이를 ‘냉온탕을 오가는 샤워기’에 비유해 설명했다. 샤워기 물 온도의 평균을 40도로 맞췄다 해도, 실제로는 펄펄 끓는 물과 얼음물이 번갈아 쏟아진다면 정상적인 샤워가 불가능한 것과 같은 이치다. 즉, ‘평균의 함정’에 빠져 통제를 벗어난 세포들을 제어하지 못했던 것이 기존 기술의 맹점이었다.

IBS, ‘뇌파 모사’ 저강도 초음파 자극으로 만성 신경병증성 통증 장기 완화 성공

수학적 설계로 탄생한 ‘잡음 제어기(NC)’

연구팀은 이 난제를 해결하기 위해 생물학적 실험이 아닌 수학적 모델링에 주목했다. 이들이 고안한 ‘잡음 제어기(Noise Controller, NC)’는 세포 내부의 신호 전달 과정을 정교하게 설계하여 잡음을 최소화하는 시스템이다.

연구진은 초기 단계에서 시스템의 최종산출물이 서로 결합해 짝을 이루는 ‘이합체(dimer) 반응’에 주목했다. 이합체 반응이 세포 상태의 미세한 흔들림, 즉 잡음을 감지하는 센서 역할을 할 수 있음을 확인했기 때문이다. 그러나 단순한 감지 기능만으로는 세포 간의 차이를 줄이는 데 한계가 있었다. 이론적 시뮬레이션 결과, 원하는 만큼 분산이 조절되지 않았고 특정 외부 자극에는 잡음이 오히려 커지는 현상도 관찰됐다.

해결의 실마리는 ‘능동적인 분해’에서 찾아졌다. 연구팀은 특정 물질이 필요 이상으로 과도하게 생성될 경우, 이를 감지해 즉각적으로 제거하는 ‘분해 기반 작동(degradation-based actuation)’ 원리를 추가했다. 센서 역할을 하는 이합체 반응과 과잉 생산을 억제하는 분해 기작을 결합하자, 외부 환경 변화에도 불구하고 세포 내 잡음 수준을 일정하게 유지하는 ‘잡음 견고 완전 적응(Noise Robust Perfect Adaptation, Noise RPA)’이 이론적으로 구현됐다. 이는 파노인자(Fano factor)가 1인 수준으로, 보편적인 생물학적 시스템이 도달할 수 있는 물리적 최소 수준까지 잡음을 억제한 것이다.

DNA 복구 시스템 사멸률 20%에서 7%로 급감

연구팀은 개발한 잡음 제어기 모델의 성능을 입증하기 위해 대장균의 DNA 복구 시스템에 가상으로 적용하는 시뮬레이션을 수행했다. 기존 시스템에서는 DNA 손상을 복구하는 단백질의 양이 세포마다 크게 달라, 약 20%의 세포가 제때 복구를 마치지 못하고 사멸하는 것으로 나타났다. 이는 잡음으로 인해 필요한 단백질이 충분히 공급되지 못한 세포들이 존재했기 때문이다.

그러나 잡음 제어기(NC)를 적용하여 모든 세포의 단백질 양을 균일하게 조절하자 상황은 급반전됐다. 세포 간의 편차가 줄어들면서 필요한 단백질이 안정적으로 공급됐고, 그 결과 사멸률은 7%까지 대폭 낮아졌다. 이는 정교한 수학적 원리만으로 세포의 생존율을 3배 가까이 끌어올린 셈이다.

이러한 결과는 기존의 ‘평균 제어’ 패러다임을 넘어 개별 세포 하나하나를 정밀하게 다루는 ‘단일 세포 제어’ 시대를 열었다는 점에서 큰 의미를 갖는다. 특히 이번 연구는 시스템의 잡음을 줄일 수 있다는 것을 이론적으로 입증했을 뿐만 아니라, 외부 자극이 지속되는 상황에서도 낮게 조절된 잡음을 유지할 수 있다는 ‘강건성’까지 확보했다는 점에서 기존 연구들과 차별화된다.

수학과 생물학의 융합, 미래 바이오 산업의 이정표

이번 연구 성과는 수학자들의 이론적 추론과 생물학적 통찰이 결합해 난제를 해결한 대표적인 융합 연구 사례다. 연구 과정에서 최종산출물의 수렴성과 발산을 이론적으로 증명하는 데 있어, 잡음 제어기 구조의 강한 비선형성 때문에 기존 수학 이론을 적용하기 어려웠던 난관도 있었다. 하지만 연구팀은 끈질긴 시도 끝에 부분적 증명에 성공하며 이론적 토대를 완성했다.

연구를 주도한 김재경 IBS CI는 “생명 현상에서 운이나 우연으로 치부되던 세포 간 잡음을 수학적 설계를 통해 제어 가능한 영역으로 가져왔다는 데 의의가 있다”고 설명하며, “앞으로 암 치료 내성 극복이나 고효율 스마트 미생물 개발 등 정밀한 세포 제어가 필수적인 분야에서 핵심적인 역할을 할 것”이라고 전망했다.

공동 교신저자인 김진수 POSTECH 교수 역시 “반응 네트워크 이론을 이용한 세포 내 잡음의 이론적 수식에서 출발해 실제 생물학적 기전을 설계했다는 점에서 수학 모형의 힘을 잘 보여주는 연구”라고 강조했다.

연구팀은 향후 생물학자들과의 더 깊은 공동연구를 통해 이론적으로 설계된 잡음 제어기를 실제 생물학적 회로로 구현하는 후속 연구를 진행할 계획이다. 이번 연구 결과는 지난 12월 24일 국제학술지 ‘네이처 커뮤니케이션스(Nature Communications)’에 게재됐다. 수학의 언어로 생명의 불확실성을 통제하려는 이들의 도전이 난치병 정복이라는 인류의 숙원을 앞당길 수 있을지 귀추가 주목된다.