계통수·분자진화 — 서열로 그리는 생명의 가계도

BIO GLOSSARY · BIOINFORMATICS 101

계통수·분자진화 — 서열로 그리는 생명의 가계도

TL;DR
계통수⁠(phylogenetic tree)는 DNA·단백질 서열의 닮은 정도로 생물들의 진화적 유연관계를 추론해 그린 '생명의 가계도'입니다. 가지⁠(branch)가 갈라지는 자리는 공통조상⁠(common ancestor)을, 가지 길이는 그동안 쌓인 진화량을 뜻하죠. 그리는 과정은 대체로 셋입니다. ① 비교할 서열을 자리맞춤하는 다중서열정렬⁠(MSA), ② 염기·아미노산이 시간에 따라 바뀌는 방식을 수학으로 담은 치환모델⁠(Jukes-Cantor·Kimura 2-parameter·GTR), ③ 그 위에서 가장 그럴듯한 나무를 찾는 트리 추론입니다. 추론 방식은 거리기반⁠(이웃결합 NJ·UPGMA)과 형질기반⁠(최대절약 MP·최대우도 ML·베이지안 Bayesian)으로 갈리고, 각 가지가 얼마나 믿을 만한지는 부트스트랩⁠(bootstrap, %)으로 표시합니다. 서열이 거의 일정한 속도로 바뀐다는 가정을 쓰면 분기 시점을 연도로 추정하는 분자시계⁠(molecular clock)도 가능합니다. 이 도구는 종 분류를 넘어, SARS-CoV-2 변이 계통을 실시간으로 좇는 계통역학⁠(phylodynamics), 16S rRNA로 미생물 군집을 읽는 작업까지 폭넓게 쓰입니다. 대표 소프트웨어는 MEGA·RAxML·IQ-TREE·MrBayes·BEAST입니다.

🔗 관련 글 · 서열에서 나무로, 그 앞뒤
• 서열 정렬 — MSA의 사촌  ·  16S rRNA 시퀀싱  ·  NGS  ·  중심원리

1. 한 줄 정의 — 서열의 닮음으로 그린 진화의 가계도

계통수⁠(phylogenetic tree)는 여러 생물이나 유전자가 진화적으로 얼마나 가까운지를 나뭇가지 모양으로 나타낸 그림입니다. 핵심 발상은 단순합니다. 두 생물의 DNA·단백질 서열이 비슷할수록 더 최근에 공통조상⁠(common ancestor)에서 갈라졌을 가능성이 크다는 것이죠. 그래서 서열의 차이를 세밀하게 재면, 누가 누구와 더 가까운 친척인지를 거꾸로 추론할 수 있습니다.

전통적인 분류가 날개·다리·꽃처럼 겉으로 드러난 형태를 기준으로 삼았다면, 분자계통학⁠(molecular phylogenetics)은 생물의 설계도인 서열 자체를 비교합니다. 겉모습은 환경에 따라 비슷해지기도⁠(수렴진화) 하지만, 서열에 쌓인 변화는 시간의 흔적을 비교적 충실히 담고 있어 더 객관적인 잣대가 됩니다.

이 글은 계통수의 구조⁠(분류군·가지·노드·뿌리·외군)부터 그리는 과정⁠(정렬→모델→추론), 방법별 차이⁠(거리·우도·베이지안), 신뢰도 평가, 그리고 바이러스 추적 같은 실제 활용까지를 차례로 따라갑니다.

2. 어원·역사 — 'phylon (종족)'의 계보, 다윈에서 우스까지

'phylogeny'는 그리스어 'phylon (종족·계통)'과 'genesis (기원·생성)'를 합친 말로, 1866년 독일 생물학자 에른스트 헤켈⁠(Ernst Haeckel)이 처음 썼습니다. 종 하나하나의 발생⁠(개체발생, ontogeny)과 구별되는, '계통 전체가 걸어온 진화의 역사'라는 뜻이죠.

뿌리는 더 거슬러 올라갑니다. 찰스 다윈⁠(Charles Darwin)은 1859년 《종의 기원》에서 유일하게 그림 한 점을 실었는데, 바로 가지 치며 갈라지는 생명의 나무였습니다. 그는 1857년 토머스 헉슬리⁠(Thomas Huxley)에게 보낸 편지에서 "언젠가 자연의 각 계⁠(kingdom)마다 꽤 정확한 계보 나무를 갖게 될 것"이라고 적기도 했습니다 (Darwin, 1857). 오래도록 그 나무는 형태와 화석으로 그려졌습니다.

서열로 나무를 그리는 분자계통학의 문은 1960~70년대에 열립니다. 결정적 전환은 1977년, 칼 우스⁠(Carl Woese)가 모든 세포가 공통으로 가진 16S rRNA 서열을 비교해 생명 전체의 계통을 처음으로 그려 낸 일입니다 (Woese & Fox, 1977). 그 나무는 세 갈래로 깔끔하게 나뉘었고, 우스는 이를 세균⁠(Bacteria)·고세균⁠(Archaea)·진핵생물⁠(Eukarya)의 3-도메인⁠(three domains)으로 정리했습니다 (Woese et al., 1990). 형태로는 박테리아와 구분되지 않던 고세균이 사실은 전혀 다른 계통이라는 발견은, 서열이 형태보다 깊은 진실을 담을 수 있음을 보여 준 사건이었습니다. 이후 계산력이 커지면서 최대우도⁠(maximum likelihood)·베이지안⁠(Bayesian) 같은 통계적 방법이 표준으로 자리 잡았습니다.

3. 개념 풀이 — 나무를 읽는 법: 분류군·가지·노드·뿌리

계통수는 몇 가지 부품으로 이루어져 있고, 이 부품들의 뜻만 알면 어떤 나무든 읽을 수 있습니다.

• 분류군⁠(taxon, 복수 taxa) — 나무의 잎⁠(leaf, 말단)에 놓이는, 우리가 비교하는 대상입니다. 종·균주·개체일 수도, 특정 유전자나 서열일 수도 있습니다.
• 가지⁠(branch) — 분류군과 노드를 잇는 선입니다. 가지의 길이는 보통 그 구간에서 일어난 진화량⁠(서열 변화의 양)을 뜻해서, 길수록 더 많이 변했다는 의미입니다.
• 내부노드⁠(internal node) — 가지가 갈라지는 지점으로, 둘로 나뉘기 직전의 공통조상⁠(common ancestor)을 나타냅니다. 실제로 관찰된 생물이 아니라 추론된 가상의 조상이죠.
• 뿌리⁠(root) — 모든 분류군의 가장 오래된 공통조상입니다. 뿌리가 있으면⁠(rooted tree) 시간의 방향, 즉 '누가 먼저 갈라졌나'를 읽을 수 있고, 뿌리가 없으면⁠(unrooted tree) 친소관계만 보여 줍니다.
• 외군⁠(outgroup) — 나무에 뿌리를 다는 흔한 방법입니다. 관심 집단⁠(내군, ingroup)보다 확실히 더 먼 친척 하나를 일부러 끼워 넣으면, 그 외군이 갈라진 자리가 자연스럽게 뿌리가 됩니다. 예컨대 사람·침팬지·고릴라의 관계를 볼 때 오랑우탄을 외군으로 넣는 식입니다.

한 가지 주의할 점은 '가까이 그려졌다고 더 가까운 친척은 아니다'라는 것입니다. 잎이 가로로 놓인 순서가 아니라, 어느 노드에서 갈라졌는가가 유연관계를 결정합니다. 가지를 회전축 삼아 돌려도 나무가 담은 정보는 그대로이기 때문이죠.

4. 작동 원리 — 정렬에서 모델, 그리고 트리 추론까지

서열 한 묶음에서 계통수 한 그루가 나오기까지는 크게 세 단계를 거칩니다.

① 다중서열정렬⁠(multiple sequence alignment, MSA). 비교하려면 먼저 자리를 맞춰야 합니다. 여러 서열을 위아래로 늘어놓고, 같은 진화적 기원을 가진 위치⁠(상동, homologous)가 한 열에 오도록 빈칸⁠(gap)을 넣어 가며 정렬합니다. 두 서열을 맞추는 서열 정렬의 여러 서열 확장판인 셈이죠. 이 정렬 품질이 곧 나무의 품질을 좌우합니다. 자리맞춤이 어긋나면 그 위에서 계산한 차이가 전부 틀어지니까요.

② 치환모델⁠(substitution model). 염기나 아미노산이 시간에 따라 바뀌는 방식을 확률로 기술한 수식입니다. 단순히 '다른 글자 개수'만 세면 같은 자리에서 두 번 바뀐 변화⁠(다중치환)를 놓쳐 거리를 실제보다 짧게 봅니다. 모델은 이를 보정합니다. 가장 단순한 저크스-칸토어⁠(Jukes-Cantor)는 네 염기의 빈도와 모든 치환 속도를 같다고 보고, 키무라 2-파라미터⁠(Kimura 2-parameter)는 전이⁠(transition, A↔G처럼 비슷한 염기끼리)가 전환⁠(transversion)보다 자주 일어난다는 사실을 반영합니다. 가장 일반적인 GTR (general time reversible)은 치환 유형마다 다른 속도와 염기 빈도를 모두 허용합니다.

③ 트리 추론⁠(tree inference). 정렬과 모델을 바탕으로 가능한 나무들 가운데 가장 그럴듯한 것을 찾습니다. 접근법은 크게 둘로 갈립니다.

• 거리기반⁠(distance-based). 먼저 모든 서열 쌍의 거리를 한 표로 만든 뒤, 그 거리에 가장 잘 맞는 나무를 빠르게 세웁니다. 대표가 이웃결합⁠(neighbor-joining, NJ)으로, 속도가 빨라 큰 자료에 유리하지만 거리 표로 요약하는 과정에서 정보가 일부 사라집니다. UPGMA는 모든 계통의 진화 속도가 같다고 가정해 더 단순하지만 그만큼 제약이 큽니다.
• 형질기반⁠(character-based). 정렬의 각 열⁠(자리)을 하나하나 증거로 삼아 나무를 평가합니다. 최대절약⁠(maximum parsimony, MP)은 변화 횟수가 가장 적은 나무를, 최대우도⁠(maximum likelihood, ML)는 치환모델 아래에서 관측된 서열이 나올 확률⁠(우도)이 가장 높은 나무를 찾습니다. 베이지안⁠(Bayesian)은 여기에 사전확률을 더해, 각 나무가 옳을 사후확률⁠(posterior probability)을 추정합니다.

이렇게 얻은 한 그루의 나무는 '확정된 사실'이 아니라 주어진 자료에서 가장 그럴듯한 가설입니다. 그래서 다음 단계로 신뢰도를 함께 표시합니다.

5. 신뢰도와 분자시계 — 가지를 얼마나 믿을까

나무를 그렸다면, 각 가지가 얼마나 탄탄한 증거 위에 서 있는지를 밝혀야 합니다. 가장 널리 쓰이는 두 척도가 부트스트랩과 사후확률입니다.

• 부트스트랩⁠(bootstrap). 정렬의 열들을 무작위로 다시 뽑아⁠(복원추출) 가짜 정렬을 만들고, 그것으로 나무를 다시 그리기를 보통 100~1,000번 반복합니다 (Felsenstein, 1985). 그 반복에서 특정 가지⁠(분기)가 몇 퍼센트나 다시 나타나는지를 가지에 적는데, 흔히 70% 이상이면 어느 정도 믿을 만한 가지로 봅니다. 자료를 조금 흔들어도 같은 가지가 계속 나오면 그만큼 견고하다는 뜻이죠.
• 사후확률⁠(posterior probability). 베이지안 분석이 내놓는 신뢰도로, 0에서 1 사이 값으로 표시합니다. 부트스트랩과는 계산 원리가 달라 값이 더 높게 나오는 경향이 있어, 둘을 그대로 비교하기보다 각자의 척도로 읽는 편이 안전합니다.

분자시계⁠(molecular clock). 서열이 대체로 일정한 속도로 바뀐다는 가정을 받아들이면, 가지 길이를 시간으로 환산해 '언제 갈라졌나'를 추정할 수 있습니다. 화석이나 채집 날짜 같은 보정점⁠(calibration)을 함께 넣으면 분기 연대를 연 단위로 매길 수 있죠. 실제 속도는 유전자·계통마다 달라 완벽한 시계는 아니지만, 속도 변이를 허용하는 완화 시계⁠(relaxed clock) 기법과 BEAST 같은 도구로 폭넓게 쓰입니다. 바이러스의 출현 시점을 거꾸로 추정하는 일도 이 원리에 기댑니다.

6. 헷갈리는 용어 비교 — 방법·구조 한눈에

계통학에는 비슷해 보이는 용어가 많습니다. 자주 엉키는 두 축을 표로 정리했습니다. 하나는 '나무를 어떤 방법으로 그리나', 다른 하나는 '나무 구조를 가르는 짝 개념⁠(뿌리·단계통 등)'입니다.

추론 방법	입력	원리	장점	단점
이웃결합⁠(NJ)	거리 행렬	거리에 맞는 나무	매우 빠름, 큰 자료	정보 손실, 단일 나무
최대절약⁠(MP)	정렬 형질	변화 횟수 최소	직관적	긴 가지 끌림 약점
최대우도⁠(ML)	정렬 + 모델	우도 최대화	통계적으로 견고	계산 부담 큼
베이지안⁠(Bayesian)	정렬 + 모델 + 사전확률	사후확률 최대	불확실성 정량화	느림, 사전확률 의존

짝 개념	한쪽	다른 쪽
뿌리	유근⁠(rooted) — 시간 방향 있음	무근⁠(unrooted) — 친소만
계통의 묶음	단계통⁠(monophyletic) — 조상+모든 후손	측계통·다계통 — 일부만/여럿서
닮음의 기원	상동⁠(homology) — 공통조상 유래	상사⁠(homoplasy) — 수렴·평행
거리 vs 형질	거리법 — 쌍별 거리로 요약	형질법 — 자리별 증거로 평가

두 표를 한 줄씩 요약하면 이렇습니다. 위 표에서는 NJ가 속도, ML·베이지안이 정확도와 통계적 엄밀함을 가져간다는 게 핵심입니다. 실무에서는 NJ로 빠르게 윤곽을 보고, 최종 결과는 ML이나 베이지안으로 굳히는 흐름이 흔하죠. 아래 표에서는 뿌리가 시간의 방향을, 단계통이 '자연스러운 한 무리'를 정의한다는 점이 중요합니다. 특히 단계통군⁠(monophyletic group, clade)은 한 조상과 그 모든 후손을 빠짐없이 묶은 무리로, 분류의 가장 단단한 단위입니다.

7. 현장 활용 — 바이러스 추적·미생물 군집·유전자 가족

계통수는 교과서 속 그림이 아니라, 지금도 매일 돌아가는 분석 도구입니다. 대표 활용 셋을 보겠습니다.

바이러스 계통추적⁠(phylodynamics). 코로나19⁠(COVID-19) 동안 전 세계 연구진은 채집된 SARS-CoV-2 유전체를 모아 실시간으로 계통수를 그렸습니다. 변이들이 어떤 계통⁠(lineage)으로 갈라지는지를 보면, 새 변이가 어디서 생겨 어떻게 퍼지는지를 추적할 수 있죠. 이때 쓰인 팡고⁠(Pango) 계통 명명법은 나무의 가지마다 B.1.1.7처럼 이름을 붙여 역학적으로 의미 있는 갈래를 표시했고 (Rambaut et al., 2020), 넥스트스트레인⁠(Nextstrain)은 새 서열이 올라올 때마다 갱신되는 나무를 공개해 전 세계가 함께 감시하도록 했습니다 (Hadfield et al., 2018). 서열 데이터와 역학 모형을 함께 다루는 이 분야를 계통역학⁠(phylodynamics)이라 부릅니다.

16S rRNA 미생물 군집. 배양하기 어려운 미생물이 대부분이라, 환경·장내 시료에서 곧장 16S rRNA 시퀀싱으로 읽어 낸 서열을 계통수에 얹어 '어떤 미생물이 얼마나 있나'를 가늠합니다. 우스가 도메인을 가른 바로 그 유전자가, 오늘날 마이크로바이옴 연구의 표준 잣대로 쓰이는 셈이죠. 군집 간 유사도를 잴 때도 계통 거리를 반영한 지표⁠(UniFrac 등)가 흔히 쓰입니다.

유전자 가족·기능 추정. 한 유전자가 진화하며 복제되어 만든 친척들⁠(유전자 가족, gene family)을 나무로 그리면, 종 분화로 갈라진 사본⁠(ortholog)과 유전자 복제로 갈라진 사본⁠(paralog)을 구분할 수 있습니다. 새로 찾은 유전자가 나무에서 기능이 알려진 가지 옆에 붙으면, 그 기능을 추정하는 단서가 되죠. AI 구조예측인 알파폴드가 단백질의 '모양'을 다룬다면, 계통수는 그 단백질이 '어디서 왔는가'를 다룹니다. 분석은 보통 NGS로 얻은 서열에서 출발하며, 이 모든 흐름의 큰 그림은 서열에서 단백질로 이어지는 중심원리 위에 놓여 있습니다.

대표 도구로는 입문에 편한 MEGA, 빠른 최대우도 분석의 RAxML·IQ-TREE, 베이지안의 MrBayes, 분자시계·분기연대의 BEAST가 널리 쓰입니다.

8. 핵심 정리 & 다음 학습

• ✅ 계통수⁠(phylogenetic tree)는 서열의 닮음으로 추론한 진화의 가계도 — 잎=분류군, 노드=공통조상, 가지 길이=진화량, 뿌리=시간 방향.
• ✅ 그리는 3단계 = 정렬⁠(MSA) → 치환모델⁠(JC·K2P·GTR) → 트리 추론. 거리기반⁠(NJ)은 빠르고, 형질기반⁠(ML·베이지안)은 통계적으로 견고.
• ✅ 신뢰도는 부트스트랩⁠(%, 보통 ≥70%)·사후확률로, 분기 연대는 분자시계⁠(molecular clock)로 추정.
• ✅ 활용 = SARS-CoV-2 계통추적⁠(Pango·Nextstrain)·16S 미생물 군집·유전자 가족. 도구는 MEGA·RAxML·IQ-TREE·MrBayes·BEAST.
• ⚠️ 나무는 '사실'이 아니라 가장 그럴듯한 가설 — 정렬 품질과 모델 선택, 그리고 신뢰도 값을 늘 함께 본다.

🎓 다음 학습
• (정렬·사촌) 서열 정렬이란? — 계통수의 출발점인 MSA의 두-서열 버전
• (미생물·계통) 16S rRNA 시퀀싱이란? — 우스가 도메인을 가른 그 유전자로 군집 읽기
• (데이터·출발) NGS란? — 계통 분석에 쓰는 서열을 얻는 차세대 시퀀싱
• (큰 그림) 중심원리란? — 서열에서 단백질로, 분자진화가 놓인 토대

References

1. Woese, C. R., & Fox, G. E. (1977). Phylogenetic structure of the prokaryotic domain: the primary kingdoms. PNAS, 74(11), 5088–5090. doi:10.1073/pnas.74.11.5088
2. Woese, C. R., Kandler, O., & Wheelis, M. L. (1990). Towards a natural system of organisms: proposal for the domains Archaea, Bacteria, and Eucarya. PNAS, 87(12), 4576–4579. doi:10.1073/pnas.87.12.4576
3. Felsenstein, J. (1985). Confidence limits on phylogenies: an approach using the bootstrap. Evolution, 39(4), 783–791. doi:10.1111/j.1558-5646.1985.tb00420.x
4. Yang, Z., & Rannala, B. (2012). Molecular phylogenetics: principles and practice. Nature Reviews Genetics, 13(5), 303–314. doi:10.1038/nrg3186
5. Rambaut, A., et al. (2020). A dynamic nomenclature proposal for SARS-CoV-2 lineages to assist genomic epidemiology. Nature Microbiology, 5(11), 1403–1407. doi:10.1038/s41564-020-0770-5
6. Hadfield, J., et al. (2018). Nextstrain: real-time tracking of pathogen evolution. Bioinformatics, 34(23), 4121–4123. doi:10.1093/bioinformatics/bty407
7. Nguyen, L. T., Schmidt, H. A., von Haeseler, A., & Minh, B. Q. (2015). IQ-TREE: a fast and effective stochastic algorithm for estimating maximum-likelihood phylogenies. Molecular Biology and Evolution, 32(1), 268–274. doi:10.1093/molbev/msu300

Pipette & Pipeline · A bio portfolio journal