AlphaFold3는 무엇이 달라졌나 — 단백질을 넘어 DNA·RNA·리간드까지 (Abramson 2024 Nature 정밀 해부)

TL;DR — 2021년 AlphaFold2가 '단백질 한 개의 접힌 모양'을 풀었다면, 2024년 AlphaFold3는 그 단백질이 DNA·RNA·약물 분자·이온과 어떻게 맞물리는가, 즉 생체분자 복합체를 하나의 모델로 예측합니다. 비결은 두 가지 큰 수술 — ① MSA에 의존하던 Evoformer를 가볍게 줄인 Pairformer로 바꾸고, ② 좌표를 한 번에 계산하던 구조 모듈을 '노이즈에서 원자를 그려내는' 확산(diffusion) 생성모델로 갈아끼운 것입니다.

단백질–리간드 도킹에서 전용 도구(AutoDock Vina)를 큰 차이로 앞섰지만, 공짜는 아니었습니다. 생성모델로 가며 무질서 영역에 그럴듯한 헛구조(환각), 키랄성 위배 4.4%가 새로 생겼고, 무엇보다 딥마인드가 코드를 공개하지 않은 채 웹 서버만 내놓아 1,000명 넘는 과학자가 공개서한으로 항의했습니다. 이 글은 Nature 원논문(Abramson 2024)을 AF2와 나란히 놓고 무엇이 달라졌고, 무엇을 얻고 잃었는지, 그리고 '공개'를 둘러싼 진짜 교훈까지 해부합니다.

🔗 관련 글  ·  AI·구조 클러스터: AlphaFold2 원논문 리뷰  ·  단백질 구조 예측이란?  ·  단백질 설계(de novo)  ·  AI 신약개발 심층 분석

그림 1. AlphaFold2 → AlphaFold3 — 예측 대상이 '단백질'에서 '단백질+DNA·RNA·리간드 복합체'로, 구조 생성은 결정론적 모듈에서 확산 모델로.

0. 한 장으로 보는 도약

구분	AlphaFold2 (2021)	AlphaFold3 (2024)
예측 대상	단백질 단량체(+AF-Multimer로 단백질 복합체)	단백질·DNA·RNA·리간드·이온·변형잔기를 한 모델로
MSA 처리	Evoformer (무거운 MSA 연산)	Pairformer (MSA 블록 4개로 축소, trunk엔 MSA 미보유)
좌표 생성	구조 모듈(frame + torsion, 결정론적)	확산(diffusion) 모듈(원자 좌표 직접 생성)
출력 성격	결정론적 1개 답	생성형 — 여러 샘플 중 최고점 선택
공개	코드 Apache-2.0 + 가중치 공개	코드 비상업(CC BY-NC-SA), 가중치 요청제

AF3는 Nature 630권(2024년 5월 8일 온라인 공개, 6월 13일 정식 호 수록)에 실렸습니다. 제1저자는 Josh Abramson, 책임저자에 John Jumper·Demis Hassabis가 들어가며, 구글 딥마인드와 Isomorphic Labs (딥마인드의 신약개발 자회사)의 공동 작품입니다.

1. 왜 AF3가 필요했나 — AF2가 남긴 숙제

AlphaFold2는 'AI가 단백질 접힘을 풀었다'는 역사적 사건이었습니다(AF2 리뷰 참고). 하지만 생명은 단백질 하나로 작동하지 않습니다. 효소는 기질·보조인자와 맞물리고, 전사인자는 DNA에 달라붙고, 약은 단백질 주머니(포켓)에 끼워집니다. 정작 신약개발·기능 해석에서 궁금한 건 '무엇과 어떻게 결합하는가'입니다.

AF2와 그 확장판 AlphaFold-Multimer는 단백질(과 단백질끼리)만 다뤘습니다. 단백질–저분자, 단백질–핵산, 변형 잔기(인산화 등)는 사각지대였죠. AF3의 한 문장 목표는 "PDB에 있는 거의 모든 분자 유형을 하나의 모델로 함께 예측한다"입니다.

⚠️ 단, 딥마인드 블로그의 "생명의 모든 분자" 같은 문구는 마케팅 과장입니다. 뒤에서 보듯 핵산·일부 표적의 정확도는 단백질보다 낮고, 한계도 분명합니다. 정확한 표현은 "거의 모든 유형을 하나의 모델로 다룬다"입니다.

2. 핵심 전환 ① — Evoformer에서 Pairformer로 (MSA 다이어트)

AF2의 심장은 Evoformer였습니다. 수백~수천 개의 유사 서열을 모은 MSA (다중서열정렬)를 무겁게 굴리며 '진화적 공변이(co-evolution)' 신호로 어느 잔기끼리 가까운지 추론했죠.

AF3는 이 부분을 대폭 다이어트했습니다.

• MSA를 처리하는 블록을 4개로 축소하고, 메인 trunk는 Pairformer 48블록으로 single 표현 + pair 표현만 굴립니다.
• 즉 MSA 표현을 trunk 내내 들고 다니지 않고, 핵심 정보를 일찍 'pair 표현'에 녹인 뒤 그걸로 추론합니다. 무거운 MSA 연산을 값싼 연산으로 대체한 셈입니다.

⚠️ 흔한 오해 — "AF3는 MSA를 안 쓴다"는 틀립니다. AF3는 여전히 MSA를 입력으로 사용합니다. 바뀐 건 의존도를 줄이고 처리를 단순화한 것뿐입니다. "MSA를 없앴다"가 아니라 "MSA 다이어트"가 정확합니다.

3. 핵심 전환 ② — 구조 모듈에서 '확산 모델'로

이게 AF3의 진짜 도박입니다.

그림 2. 확산 모델 — 노이즈를 끼얹은 좌표를 반복해 '걷어내(denoise)' 원자 구조를 생성. 결정론적 1개 답이 아니라, 여러 샘플 중 신뢰도로 최고를 고른다.

AF2는 마지막에 구조 모듈로 각 잔기의 '뼈대 좌표계(residue frame)'와 회전각(torsion)을 계산해 좌표를 결정론적으로 한 번에 뽑았습니다. 단백질은 아미노산이 사슬로 이어진 규칙적 구조라 이 방식이 잘 통했죠. 하지만 리간드·이온처럼 사슬이 아닌 임의의 화학 구조엔 이 '뼈대+회전각' 틀이 안 맞습니다.

AF3는 이 모듈을 통째로 확산(diffusion) 생성모델로 갈아끼웠습니다.

• 원자 좌표를 직접 예측합니다 — 잔기 뼈대도, 회전각도 없이. 그래서 단백질이든 약물 분자든 똑같이 '원자 덩어리'로 다룰 수 있습니다.
• 학습은 이미지 생성 AI와 같은 원리 — 정답 구조에 노이즈를 잔뜩 끼얹었다가, 그 노이즈를 걷어내(denoise) 원래 구조를 복원하도록 훈련합니다. 여러 노이즈 스케일을 쓰는데, 약한 노이즈에선 국소 입체화학(결합 길이·각도)을, 강한 노이즈에선 전체적인 배치를 배웁니다.
• 덕분에 AF2가 쓰던 명시적 '입체화학 위배 페널티' 손실 함수도, 회전·병진 불변성(equivariance) 강제도 필요 없어졌습니다. 확산 과정이 물리적으로 그럴듯한 구조를 직접 만들어내니까요.
• 생성모델이므로 답이 하나로 정해지지 않습니다. 여러 random seed로 여러 구조를 샘플한 뒤, 별도의 신뢰도(confidence) 점수로 최고점을 고릅니다.

이 전환은 예측 대상을 '단백질'에서 '임의의 생체분자 복합체'로 넓힌 열쇠였지만, §5에서 보듯 새로운 부작용도 함께 들여왔습니다.

4. 무엇을 얻었나 — 성능

(a) 단백질–리간드(약물) — 도킹 전용 도구를 이기다.

신약개발의 핵심 질문 "이 약이 이 단백질 주머니에 어떻게 끼나?"입니다. PoseBusters 벤치마크(리간드 위치 오차 < 2 Å 성공률)에서:

• AF3 ≈ 76% vs 전통 도킹 AutoDock Vina·Gold ≈ 50%대 중반 — 통계적으로 유의한 우위(P = 2.27×10⁻¹³).
• 핵심은 AF3가 결합부위(포켓) 정보 없이(blind) 이 점수를 냈다는 것. "포켓을 알려줘서 이겼다"가 아닙니다.

(b) 단백질–핵산 — 전용 모델을 앞서다.

단백질–DNA/RNA 복합체와 RNA 구조에서 RoseTTAFold2NA 등 전용 도구보다 정확했습니다. 다만 CASP15에서 사람 전문가가 개입한 최상위 RNA 예측법(AIchemy_RNA2)에는 못 미쳤습니다 — AI 단독이 아직 인간+도구를 다 넘진 못했다는 정직한 한계.

(c) 항체–항원 — 그리고 'seed를 퍼부으면' 더 좋아진다.

AF-Multimer (v2.3) 대비 단백질 복합체 전반이 향상됐고, 특히 항체–단백질 상호작용 개선이 뚜렷했습니다(P = 6.5×10⁻⁵). 흥미로운 건 모델 seed를 최대 1,000개까지 늘리면 항체 예측이 계속 좋아진다는 점(P = 2.0×10⁻⁵) — 단, 이 효과는 항체에 거의 특이적이고 다른 분자류에선 일반적으로 안 나타납니다.

5. 무엇을 잃었나 — 확산의 그림자

생성모델은 공짜가 아니었습니다.

• 환각(hallucination) — 확산 모델은 무질서(intrinsically disordered) 영역에도 자신만만하게 그럴듯한 '가짜 구조'를 그려넣는 경향이 생겼습니다. 딥마인드는 이를 누르려고 교차 증류(cross-distillation) — AF-Multimer가 무질서 영역을 '길게 늘어진 고리'로 표현한 예측을 학습데이터에 섞어, AF3도 그 행동을 모방하게 가르쳤습니다. 완화일 뿐 제거는 아닙니다.
• 키랄성(chirality) 위배 4.4% — 입체화학 페널티를 없앤 대가로, 거울상 이성질체를 틀리게 만드는 경우가 벤치마크에서 4.4% 나왔습니다(참조 구조를 넣어줘도 발생).
• 원자 겹침(clash) — 거대 복합체에서 원자가 서로 파고드는 충돌이 남았는데, 거의 전부가 뉴클레오타이드 100개 초과 + 총 잔기 2,000개 초과인 큰 단백질–핵산 복합체에서 발생했습니다.
• 정적인 단일 구조 — 동역학이 아니다. AF3는 PDB에 보이는 한 장의 정지 사진을 예측할 뿐, 용액에서의 움직임이 아닙니다. ⚠️ 그리고 논문이 직접 못 박은 오해 — "seed를 여러 개 돌리면 구조 앙상블이 나온다"는 틀립니다. 여러 seed를 써도 그것이 용액 내 형태 분포의 근사가 되진 않습니다. 알로스테릭 변화·형태 전환엔 약합니다.
• 화학량론(stoichiometry)을 지정해야 — 사본이 몇 개인지 등을 입력으로 알려줘야 하며 스스로 알아내지 못합니다.
• 일반화 vs 기억(memorization) 논쟁 — §6에서.

6. 진짜 논쟁 — 공정성과 '닫힌 공개'

화려한 수치 뒤에 두 개의 그늘이 있습니다.

(a) 성능 비교는 '공정'했나.

PoseBusters 우위는 인상적이지만, AF3의 훈련 컷오프는 2019-09-30이고 PoseBusters set은 그 뒤 공개된 구조라 시간 분리는 됐습니다. 그러나 서열·리간드 '유사도' 기준 분리는 없어서, ML 벤치마크로 가장 엄격한 split은 아닙니다. 후속 연구들은 AF3의 정확도가 훈련데이터와의 유사도에 강하게 좌우된다며 '일반화'보다 '기억' 가능성을 제기했습니다. 다만 예측의 물리적 타당성(PB-valid)은 ~93%로 양호해, 그림이 단순하진 않습니다. → "유의미한 우위이되, 공정성 논쟁이 진행 중"으로 읽는 게 정확합니다.

(b) 코드를 공개하지 않은 SOTA.

AF2는 코드(Apache-2.0)와 가중치를 풀어 전 세계가 깔아 썼습니다. 그런데 AF3는 Nature 게재일(2024-05-08)에 코드도 가중치도 없이 웹 서버(AlphaFold Server)만 내놨습니다. 서버엔 제약이 많았죠 — 출시 당시 하루 약 10건, 리간드·이온은 미리 정해진 ~20종만 허용(임의 신약 분자 입력 불가), 막(membrane) 맥락 미지원.

• 재현성을 중시하는 구조·계산생물학계가 들고일어났습니다. Roland Dunbrack·Stephanie Wankowicz 등이 주도한 공개서한에 5월 말까지 1,000명 넘게 서명했고, Nature는 생물보안·윤리를 사유로 들었습니다.
• 결국 2024-11-11, 딥마인드가 코드를 공개했습니다. 하지만 라이선스는 CC BY-NC-SA 4.0 (비상업 전용), 가중치는 학술 소속자가 신청해야 받는 요청제이며 상업적(신약개발) 사용은 금지입니다. "오픈소스가 됐다"는 절반만 맞습니다.

그림 3. '닫힘 → 열림' 타임라인 — 2024.5.8 서버만 공개(코드 X) → 공개서한 1,000+명 → 11.11 코드 공개(비상업) → 그 사이 Boltz-1이 완전 오픈으로 따라잡음.

7. 생태계 — 오픈소스의 반격

닫힌 SOTA는 오히려 열린 재현을 자극했습니다.

• Boltz-1 (MIT, 2024-11) — AF3급 정확도에 도달한 첫 완전 오픈소스 모델. 훈련·추론 코드와 가중치를 MIT 라이선스로 풀어 상업적 사용까지 허용.
• RoseTTAFold All-Atom (Baker 연구실, Science 2024) — 단백질·핵산·저분자·금속을 다루는 all-atom 모델, 코드·가중치 공개.
• Chai-1 (Chai Discovery, 2024) — 가중치 공개(비상업)이되 웹으로는 상업 신약개발 용도 사용을 허용.

AF3가 공개를 미룬 약 6개월 사이, 커뮤니티가 비슷한 성능을 열린 형태로 따라잡은 셈입니다.

8. 노벨상이라는 각주

이 모든 흐름은 2024년 노벨 화학상으로 공인됐습니다(2024-10-09 발표). 절반은 David Baker (단백질 설계), 나머지 절반을 Demis Hassabis와 John Jumper가 공동 수상(단백질 구조 예측, AlphaFold)했습니다 — 즉 '예측'과 '설계'가 한 해에 함께 상을 받은 것입니다(단백질 설계 글 참고). AF3는 그 '예측' 쪽 계보의 최신판입니다.

9. 한 줄 인사이트

💡 AF3는 예측의 무대를 '단백질 한 개'에서 '분자들의 상호작용'으로 넓혔다. 그러나 결정론에서 생성모델로 갈아타며 환각·정적 구조라는 신뢰의 회색지대를 새로 들였고, 가장 큰 교훈은 모델이 아니라 '공개'에 있었다 — 닫힌 SOTA는 6개월 만에 열린 재현(Boltz-1)을 불러냈다. 도구로서 AF3는 '시작점'이지 '정답지'가 아니며, 모든 예측은 confidence와 실험으로 검증돼야 한다.

※ 위 인사이트는 원논문과 후속 자료에 근거한 개인적 견해이며, 단정이 아니라 해석입니다.

10. 다음 학습 추천

• 🧬 AlphaFold2 원논문 리뷰 — AF3와 나란히 읽어야 할 출발점 (비교)
• 📘 단백질 구조 예측이란? — AlphaFold 개념을 처음부터 (기초)
• 🛠 단백질 설계(de novo) — '예측'의 반대편, '설계'와 노벨 2024 (심화)
• 🏭 AI 신약개발, 거품인가 변곡점인가 — AF3 같은 도구가 산업에서 갖는 의미 (산업)

References

1. Abramson, J., Adler, J., Dunger, J., … Jumper, J. M., Hassabis, D. (2024). Accurate structure prediction of biomolecular interactions with AlphaFold 3. Nature, 630(8016), 493–500. (온라인 2024-05-08) doi:10.1038/s41586-024-07487-w
2. Jumper, J., et al. (2021). Highly accurate protein structure prediction with AlphaFold. Nature, 596, 583–589. (AlphaFold2 원논문)
3. Krishna, R., et al. (2024). Generalized biomolecular modeling and design with RoseTTAFold All-Atom. Science, 384(6693). (Baker 연구실)
4. Wohlwend, J., et al. (2024). Boltz-1: Democratizing biomolecular interaction modeling. bioRxiv. (오픈소스 AF3 재현)
5. Callaway, E. (2024). Major AlphaFold upgrade / Who will use AlphaFold3? Nature News. (코드 비공개 논란·공개 보도)
6. The Nobel Prize in Chemistry 2024 — Baker; Hassabis & Jumper. NobelPrize.org (2024-10-09).

Pipette & Pipeline · A bio portfolio journal — bridging research, data, and industry.