AlphaFold2는 어떻게 단백질 구조를 풀었나 — 작동 원리부터 한계까지 (Jumper 2021 Nature 정밀 해부)

TL;DR — AlphaFold 개념 글에서 "50년 난제를 풀었다"는 결과를 봤습니다. 이번엔 그 원논문(Jumper 외 2021, Nature)을 한 겹 더 들어가 '어떻게'를 해부합니다. CASP14에서 중앙값 GDT 92.4, 골격 정확도 0.96 Å (차순위 방법의 2.8 Å 대비 약 3배)라는 숫자 뒤에 무엇이 있었나.

핵심 장치는 셋입니다 — 진화 정보를 먹는 MSA·쌍(pair) 표현, 기하를 '생각하는' 신경망 Evoformer (삼각 어텐션·삼각 곱셈), 좌표를 짓는 구조 모듈(잔기 프레임·불변점 어텐션 IPA·FAPE 손실). 여기에 재활용(recycling)과 자기증류(self-distillation)가 정확도를 끌어올렸습니다.

그런데 논문에서 가장 흥미로운 건 ablation (무엇을 빼면 아픈가)입니다 — 직관과 반대로, 기하 모듈 IPA를 빼도 거의 멀쩡했고(저자 표현 "등변성은 필수가 아니다"), 정작 크게 무너진 건 MSA 깊이·자기증류·masked-MSA·recycling 같은 데이터·학습 쪽이었습니다. 그래서 "AlphaFold가 단백질 접힘(folding)을 풀었다"는 표현은 두 겹으로 과장입니다 — 푼 건 접힘 '과정'이 아니라 '구조(결과)'이고, 정확도의 원천도 물리적 통찰보다 데이터 전략이었습니다.

🔗 관련 글  ·  개념·구조 짝: AlphaFold 단백질 구조 예측(개념)  ·  단백질 구조 4단계

그림 1. AlphaFold2 전체 흐름 — 서열·MSA → Evoformer (쌍 표현) → 구조 모듈(IPA) → 3D 좌표 + pLDDT, 출력을 되먹이는 재활용(×3).

1. 무엇을 풀었나 — CASP14의 충격

2020년 블라인드 대회 CASP14에서, AlphaFold2는 전체 표적에 대해 중앙값 GDT 92.4 (100점 만점)를 냈습니다. 더 인상적인 건 골격 정확도입니다 — 중앙값 0.96 Å (Cα, r.m.s.d.95), 차순위 방법의 2.8 Å과 비교하면 약 3배 차이입니다. 전원자 기준으로도 1.5 Å 대 차순위 3.5 Å였습니다.

다만 '실험에 준한다'는 표현은 정확히 새겨야 합니다. 첫째, 이 수치는 CASP14의 87개 도메인(대부분 단일·잘 접히는 도메인)에 대한 중앙값입니다 — 분포엔 꼬리가 있고, 잘 못 푼 표적도 있었습니다. 둘째, r.m.s.d.95 자체가 관대한 잣대입니다. 이름 그대로 정렬 오차가 큰 최악 5% 잔기를 버리고 나머지 95%로 잰 값이라, 흐물거리는 무질서 부위가 점수를 깎는 걸 막아 줍니다. 즉 '실험급'은 이 표적군의 중앙값이라는 뜻이지, 모든 단백질이 결정학 수준으로 풀렸다는 뜻이 아닙니다.

2. 입력 — 진화를 먹는다

AlphaFold2는 두 개의 표현(representation)을 굴립니다.

• MSA 표현 — 목표 서열의 다중서열정렬(MSA), 즉 진화적으로 닮은 친척 서열을 쌓은 행렬. UniRef90·BFD·Uniclust30·MGnify를 JackHMMER·HHblits로 뒤져 모읍니다.
• 쌍 표현(pair representation) — 잔기 i 와 j 사이 관계를 담는 격자. 여기서 '누가 누구와 가까운가'라는 기하가 자랍니다.
• 템플릿(template) — 선택 사항으로, 알려진 호몰로그 구조를 PDB70에서 찾아(HHsearch) 곁들입니다.

요지는 — 공진화의 흔적이 접촉 지도의 단서라는 것. 함께 변해 온 두 잔기는 구조상 가까이 붙어 있을 가능성이 높고, 그 통계가 쌍 표현으로 흘러듭니다.

3. Evoformer — 기하를 '생각하는' 신경망

심장은 Evoformer, 48개 블록으로 MSA 표현과 쌍 표현 사이를 오가며 정보를 섞습니다. 새로운 장치가 둘 있습니다.

• 삼각 곱셈 갱신(triangle multiplicative update) — 쌍 ij 를, 삼각형 ijk 의 나머지 두 변(ik·jk)으로 갱신합니다. 어텐션보다 싸고 대칭적인 방식입니다.
• 삼각 어텐션(triangle attention) — 쌍 표현에 어텐션을 걸되 삼각부등식 일관성(세 거리가 삼각형을 이루도록)을 유도합니다.

MSA 표현 쪽엔 행·열 축 어텐션(axial attention)이 돌고(행 어텐션엔 쌍 표현 편향이 더해짐), 외적 평균(outer product mean)이 MSA의 통계를 쌍 표현으로 넘깁니다. 정리하면 — 쌍 표현이 기하를 '생각'하고, 마지막엔 잔기별 단일(single) 표현이 그 결과를 구조 모듈에 넘깁니다.

그림 2. 두 엔진 — Evoformer는 삼각 어텐션·곱셈으로 쌍 표현의 기하를, 구조 모듈은 잔기 프레임·IPA·FAPE로 좌표를 만든다.

4. 구조 모듈 — 좌표를 짓다

이제 추상적 표현을 3차원 원자 좌표로 바꿀 차례입니다.

• 잔기 프레임(residue gas) — 각 잔기를 회전+이동을 가진 독립 강체(프레임)로 봅니다. 모두 원점에서 출발해(빈 공간) 제자리로 움직입니다. 8개 층이 가중치를 공유합니다.
• 불변점 어텐션(IPA, Invariant Point Attention) — 전역 회전·이동에 불변(invariant)인 어텐션. 각 잔기의 국소 프레임에서 만든 3D 점을 쓰는데, 벡터의 길이(L2)는 강체 변환에 불변이라 전역 변환이 상쇄됩니다.
• FAPE 손실(Frame-Aligned Point Error) — 예측 원자를 모든 국소 프레임 기준으로 정답과 비교해(클램프 L1, 10 Å) 더합니다. 강체 변환엔 불변이지만 거울상(reflection)엔 불변이 아니라서, 자연스럽게 올바른 손대칭(chirality)을 강제합니다.

여기에 재활용(recycling) — 네트워크 출력을 입력으로 되먹여 총 4번 통과(=3번 되먹임)하며 점진적으로 다듬습니다. 비용은 적고 정확도 기여는 큽니다.

5. 학습의 비결 — 자기증류와 보조 손실

순수 구조 데이터(PDB)는 한정적입니다. AlphaFold2는 라벨 없는 데이터를 스스로 라벨링해 이 한계를 넘었습니다.

• 자기증류(self-distillation, noisy-student) — 먼저 PDB로 학습한 모델로 Uniclust30의 약 35만 개 서열 구조를 예측 → 신뢰도로 거른 뒤 → 그걸 정답 삼아 다시 학습합니다(배치의 75%는 자기증류·25%는 PDB).
• 보조 손실 — 잔기 쌍 거리 히스토그램을 맞히는 distogram 헤드, MSA 일부를 가리고 맞히는 masked-MSA (BERT식), 잔기별 신뢰도를 내는 pLDDT 헤드가 함께 학습됩니다.

데이터 누수를 막으려 PDB 2018-04-30 컷오프를 두고 CAMEO로 검증했습니다.

6. 신뢰도 — pLDDT·PAE·pTM

AlphaFold가 단순 좌표가 아니라 자기 확신을 함께 내는 게 실전에서 결정적입니다.

• pLDDT — 잔기별 신뢰도(0~100). lDDT-Cα를 예측하며, 낮은 pLDDT는 흔히 무질서 부위를 가리킵니다.
• PAE (예측 정렬 오차) — 잔기 y 에 맞췄을 때 잔기 x 위치의 기대 오차(Å). 도메인 간 상대 배치의 신뢰도를 봅니다.
• pTM (예측 TM-score) — 전체 접힘/배치 신뢰도이자 기본 순위 지표. 논문 표현으로 실제 TM-score의 '비관적(하한) 추정'입니다.

7. Ablation — 무엇이 진짜 중요했나 (반전)

이 논문에서 가장 자주 오해되는 대목입니다. 저자들이 직접 구성요소를 하나씩 빼 보았는데, 결과가 직관과 어긋납니다.

빼 본 구성요소	정확도 타격	메모
MSA 깊이 / 실제 MSA	큼	중앙값 정렬 깊이 ~30개 미만에서 급락
자기증류(self-distillation)	큼	라벨 없는 데이터 활용이 핵심
masked-MSA 손실	큼	표현 학습에 크게 기여
재활용(recycling)	비교적 큼	모든 MSA 깊이에서 효과
종단 구조 경사·중간 손실	큼	전 과정 학습이 정확도에 필요
IPA (불변점 어텐션) 단독 제거	작음(놀랍게도)	"등변성은 필수가 아니다"
distogram 헤드	작음	"놀랄 만큼 작은 역할"
템플릿(template)	작음(추정)	강한 템플릿이 있어도 기여 제한적

요컨대 정확도를 만든 주역은 정교한 기하 엔진이 아니라 '진화 정보를 깊게 먹고, 스스로 라벨을 만들어 더 많이 배운' 데이터·학습 전략이었습니다. 기하 모듈(IPA)·등변성은, 단독으로는 의외로 작은 기여였습니다.

⚠️ 단서가 둘 있습니다. ① 저자들은 ablation에서 하이퍼파라미터를 다시 튜닝하지 않아 효과가 과대/과소될 수 있다고 밝혔습니다. ② 구성요소는 상호작용합니다 — 예컨대 recycling과 IPA를 함께 빼면 recycling만 뺄 때보다 훨씬 크게 무너집니다. 그러니 "IPA는 쓸모없다"가 아니라 "단독 제거의 한계 효과가 작다"가 정확한 독법입니다.

그림 3. Ablation의 반전 — MSA·자기증류·recycling을 빼면 크게 무너지지만, IPA·distogram·템플릿 단독 제거는 작다.

8. 비교와 한계 — RoseTTAFold, 그리고 'folding을 풀었다'?

AlphaFold2만 있던 건 아닙니다. 거의 동시에 베이커 연구실의 RoseTTAFold (Baek 외 2021, Science)가 나왔습니다 — 서열·거리·좌표를 잇는 3-트랙 구조로, 오픈소스라 누구나 돌릴 수 있었지만 정확도는 AlphaFold2에 약간 못 미쳤습니다.

한계도 분명합니다(저자·학계가 인정).

• 깊은 MSA가 필요 — 친척 서열이 적은 고아 단백질엔 약합니다.
• 정지 구조 한 장 — 동역학·여러 형태(앙상블)는 못 줍니다.
• 돌연변이 효과·결합 자유에너지(ΔΔG) — 점 돌연변이를 넣어도 예측이 거의 안 바뀝니다. 설계용이 아닙니다.
• 복합체·리간드·보조인자·이온·변형 잔기 — 이 버전은 단량체 폴리펩타이드만. 복합체는 이후 AF-Multimer·AlphaFold3의 몫.
• pLDDT도 틀릴 수 있다 — 신뢰도가 높아도 자신 있게 틀릴 수 있습니다.

⚠️ 그래서 "AlphaFold가 단백질 접힘(protein folding)을 풀었다"는 흔한 표현은 과장입니다. AlphaFold가 예측하는 건 접힌 최종 '구조(결과)'이지, 어떻게 접히는가의 '과정·경로·동역학'이 아닙니다. 후자가 진짜 'folding problem'이고, 여전히 미해결입니다. CASP 주최 측의 정확한 표현도 "단일 도메인 구조 예측이 대체로 해결됐다"였지, "접힘을 풀었다"가 아니었습니다.

💬 한 줄 인사이트

"AlphaFold2의 진짜 교훈은 '기하를 푸는 정교한 모듈이 핵심'이라는 통념과 반대다. 논문 자신의 ablation이 말한다 — 불변점 어텐션(IPA)·등변성을 빼도 정확도는 거의 그대로였다. 정작 정확도를 만든 건 '진화 정보(MSA)를 깊게 먹고, 스스로 라벨을 만들어(self-distillation) 더 많이 배운' 데이터·학습 전략이었다. 그래서 'AlphaFold가 단백질 접힘(folding)을 풀었다'는 말은 두 겹으로 빗나간다 — 푼 건 접힘 '과정'이 아니라 '구조(결과)'이고, 그 힘의 원천도 물리적 통찰이라기보다 데이터였다. 구조 예측은 대체로 풀렸다. 그러나 '단백질이 왜·어떻게 그렇게 접히는가'는 여전히 열려 있다."

※ 개인적 견해이며, 논문 해석은 관점에 따라 다를 수 있습니다. 저자도 ablation은 '하이퍼파라미터를 재조정하지 않아 효과가 과대·과소될 수 있다'고 단서를 달았습니다.

9. 핵심 정리

• ✅ AlphaFold2 (Jumper 2021, Nature) — CASP14 중앙값 GDT 92.4 / 0.96 Å (차순위 2.8 Å). 단, 87개 도메인 중앙값이고 r.m.s.d.95는 최악 5%를 버린 관대한 잣대.
• ✅ 구조 — MSA·쌍 표현 → Evoformer (삼각 어텐션·곱셈) → 구조 모듈(잔기 프레임·IPA·FAPE) → 좌표+신뢰도, 거기에 recycling.
• ✅ 학습 — 자기증류(~35만 서열)·masked-MSA·distogram·pLDDT 헤드.
• ✅ 신뢰도 — pLDDT (잔기별)·PAE (상대 배치)·pTM (순위, 하한 추정).
• 🔬 Ablation의 반전 — 크게 무너지는 건 MSA 깊이·자기증류·masked-MSA·recycling; IPA 단독·distogram·템플릿은 작음, "등변성은 필수가 아니다".
• ⚠️ 한계 — 깊은 MSA 필요·정지 구조·돌연변이/복합체/리간드 못함. 'folding (과정)을 풀었다'가 아니라 '단일 도메인 구조(결과) 예측'을 푼 것.

10. 다음 학습 추천

• 🧬 AlphaFold 단백질 구조 예측(개념) — 이 논문을 쉽게 푼 개념 짝 (기초)
• ✍️ 단백질 설계(de novo) — 구조를 '읽기'의 반대, '쓰기'로 (응용)
• 🧱 단백질 구조 4단계 — AlphaFold가 예측하는 바로 그 형태 (기초)

References

1. Jumper, J., Evans, R., Pritzel, A., et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596(7873), 583–589. (+ Supplementary Information)
2. Baek, M., DiMaio, F., Anishchenko, I., et al. (2021). Accurate prediction of protein structures and interactions using a three-track neural network (RoseTTAFold). Science, 373(6557), 871–876.
3. Tunyasuvunakool, K., Adler, J., Wu, Z., et al. (2021). Highly accurate protein structure prediction for the human proteome. Nature, 596(7873), 590–596.
4. Varadi, M., et al. (2022). AlphaFold Protein Structure Database (초기 ~36만 구조; 이후 2022-07 ~2억으로 확장). Nucleic Acids Research, 50(D1), D439–D444.
5. The Royal Swedish Academy of Sciences (2024). Nobel Prize in Chemistry 2024 — Hassabis·Jumper (구조 예측) / Baker (단백질 설계). nobelprize.org.

Pipette & Pipeline · A bio portfolio journal — bridging research, data, and industry.