ESM3 — 단백질을 '예측'에서 '생성'으로: 5억 년의 진화를 건너뛴 언어모델 (Hayes 2025)

TL;DR
• ESM3는 단백질의 서열·구조·기능을 한꺼번에 다루는 생성형 언어모델(generative language model)로, 자연에 없던 새 형광단백질 esmGFP를 설계했다.
• 개발사는 이 단백질을 "5억 년 이상의 자연 진화에 맞먹는다"고 표현했지만, 이는 일정한 변이 속도를 가정한 추정치라 과장 논란이 따라붙는다.
• AlphaFold가 구조를 예측한다면 ESM3는 단백질을 생성한다 — 예측에서 설계로 넘어가는 분기점이자, 발표 1년여 만에 비영리 연구소(CZ Biohub) 산하로 흡수된 모델이다.

📚 함께 읽으면 좋은 글
• AlphaFold2는 어떻게 단백질 구조를 풀었나 (Jumper 2021) — 서열에서 구조를 '예측'한 분수령
• AlphaFold3 — 단백질을 넘어 DNA·RNA·리간드까지 (Abramson 2024) — 예측의 확장
• 단백질 구조 예측이란? — AlphaFold가 50년 난제를 푼 법 — 개념 정리

1. 한 장 요약

논문	Hayes, T., et al. "Simulating 500 million years of evolution with a language model." Science 387(6736), 850–858 (2025)
공개	preprint bioRxiv 2024.7 → Science 정식 게재 2025.1.16
개발	EvolutionaryScale — 옛 메타(Meta) FAIR의 ESM 단백질 AI 팀이 독립한 스타트업(창업자 Alexander Rives 등)
모델	단백질 언어모델(protein language model), 최대 98B (980억 파라미터)
핵심 결과	새 형광단백질 esmGFP 설계 — 자연계 최근접 단백질과 서열 58%만 일치

한 문장으로: ESM3는 "단백질을 읽는 AI"를 넘어 "단백질을 쓰는 AI"가 되려는 시도다.

2. 왜 중요한가 — '예측'과 '생성'은 다른 일이다

AlphaFold2가 푼 문제는 예측(prediction)이었다. 아미노산 서열을 넣으면 그 단백질이 접히는 3차원 구조를 맞힌다. 입력은 서열, 출력은 구조. 방향이 한쪽으로 고정돼 있다.

ESM3가 노리는 문제는 생성(generation)이다. "이런 기능을 하는, 이런 구조의 단백질을 만들어줘"라고 조건을 주면 그 조건을 만족하는 새 서열을 설계한다. 예측기가 "이 단백질은 어떻게 생겼나"에 답한다면, 생성기는 "원하는 단백질을 어떻게 만드나"에 답한다.

이 차이가 중요한 이유는, 신약·효소·소재 개발이 결국 "없던 단백질을 새로 만드는" 일이기 때문이다. 자연이 진화로 수억 년에 걸쳐 탐색한 단백질 공간(protein space)을, 모델이 프롬프트 한 번으로 탐색할 수 있다면 — 그게 ESM3가 내건 약속이다.

▲ AlphaFold은 서열→구조를 '예측'하고, ESM3는 조건에서 새 단백질을 '생성'한다.

3. 어떻게 작동하나 — 서열·구조·기능을 한 언어로

ESM3의 핵심 설계는 멀티모달 마스크드 언어모델(multimodal masked language model)이다. 세 가지를 기억하면 된다.

① 세 가지를 한꺼번에 토큰으로 — 서열·구조·기능. GPT 같은 모델이 글자(token)를 다루듯, ESM3는 단백질의 세 측면을 각각 이산 토큰(discrete token)으로 변환한다. ① 아미노산 서열, ② 3차원 구조, ③ 기능 주석(function annotation, 예: 효소 활성·결합 부위). 세 트랙이 하나의 모델 안에서 같은 '언어'로 취급된다.

② 빈칸 채우기로 학습 — 마스크드 언어모델. 학습 방식은 빈칸 맞히기다. 서열·구조·기능의 일부를 가린(mask) 뒤 나머지로 복원하게 한다. 그래서 ESM3는 어느 트랙이든, 어느 위치든 부분 정보만 주면 나머지를 채워 넣는다. "구조 일부 + 원하는 기능"을 주면 그에 맞는 서열을 생성하는 식이라, 예측기와 달리 양방향·프로그래머블하다.

③ 규모 — 98B 파라미터, 단백질 27.8억 개. 가장 큰 모델은 98B (980억 파라미터), 단백질 약 27.8억 개·토큰 7,710억 개로 학습했다(연산량 약 1.07×10²⁴ FLOPs). 데이터·파라미터를 키울수록 생성 충실도가 올라간다는 점도 함께 보고됐다. 한편 누구나 받을 수 있는 공개판은 1.4B짜리 'ESM3-open' 한 종뿐이다.

구분	AlphaFold2/3	ESM3
하는 일	구조 예측	단백질 생성·설계
입력→출력	서열 → 구조(한 방향)	서열·구조·기능 상호 변환
학습 신호	구조 정답 맞히기	빈칸 채우기(마스킹)
비유	단백질을 읽는다	단백질을 쓴다

4. 핵심 결과 — 새 형광단백질 'esmGFP'

논문의 간판 실험은 형광단백질(fluorescent protein) 설계다. 해파리·산호의 GFP 계열은 생명과학에서 가장 널리 쓰는 '표지등'인데, 자연계 형광단백질들은 서로 꽤 가깝게 모여 있다. 연구진은 ESM3에게 "기존과 멀리 떨어진, 그러나 빛나는 단백질을 만들라"고 요구했다.

설계 → 검증 과정

• 모델이 후보를 생성하면 실제로 발현시켜 형광을 측정했다. 2라운드에 걸쳐 각 96개, 총 192개를 실험.
• 1라운드의 유망주 B8 (자연 단백질과 57% 일치)을 출발점으로, 그 추론 흐름을 이어 2라운드에서 더 밝은 C10을 얻었다. 이것이 esmGFP다.

esmGFP가 얼마나 '새로운가'

• 자연계 최근접 형광단백질(tagRFP)과 서열 58%만 일치 — 229개 아미노산 중 96개가 다르다. 흔히 쓰는 avGFP 기준으로는 36% 일치에 그친다.
• 개발사는 "비슷한 차이를 자연이 만들려면 5억 년 이상의 진화가 필요했을 것"이라고 추정했다.

▲ 192개를 실험해 가장 먼·빛나는 단백질 esmGFP를 골랐다.

⚠️ '5억 년'은 측정값이 아니라 추정값이다. 이 수치는 "형광단백질들이 일정한 속도로 변이가 쌓인다고 가정할 때, 58% 차이를 벌리는 데 걸리는 시간"을 역산한 것이다. 개발사도 'estimate'라고 명시했다. 멋진 헤드라인이지만, 자연선택의 복잡성을 단순화한 값이라는 점을 기억해야 한다(아래 6장).

5. 계보와 지형 — ESM2에서 ESM3로, 그리고 경쟁자들

ESM2 → ESMFold → ESM3. ESM3는 갑자기 나온 게 아니다.

• ESM2 (2022): 서열만 학습한 단백질 언어모델(최대 15B). 단백질의 '문법'을 배웠다.
• ESMFold: 그 ESM2를 구조 예측에 붙인 모델. AlphaFold와 달리 다중서열정렬(MSA) 없이 단일 서열만으로 구조를 빠르게 예측해 화제가 됐다.
• ESM3 (2024–25): 구조·기능을 입력이자 출력으로 통합한 첫 생성형. '읽기'에서 '쓰기'로 넘어온 단계.
• ESM C (Cambrian) (2024.12): ESM3와 짝을 이루는 표현학습(representation) 중심 라인(최대 6B), 학술·상업 모두 사용 가능하게 공개. (2026년 중반까지 'ESM4'라는 공식 후속은 없다.)

예측 vs 생성 — 단백질 AI 지형도. 이 분야는 크게 두 진영으로 나뉜다.

진영	대표 모델	특징
예측(구조)	AlphaFold2/3, Boltz-1/2, Chai-1	서열→구조. Boltz는 완전 오픈
생성(설계)	ESM3, Profluent ProGen3, AlphaProteo	조건→새 단백질. 일부만 공개

특히 경쟁사 Profluent의 ProGen3 (2025.4, 최대 46B·토큰 1.5T)는 단백질 생성에서의 스케일링 법칙(scaling law)을 전면에 내세웠고, 앞서 세계 첫 AI 설계 유전자가위 OpenCRISPR-1을 오픈소스로 공개해 주목받았다. 즉 ESM3는 "단백질 생성 AI" 경쟁의 선두 주자 중 하나이지, 유일한 승자가 아니다.

▲ 예측 진영(AlphaFold·Boltz·Chai)과 생성 진영(ESM3·ProGen3·AlphaProteo).

6. 한계와 비판 — 균형 있게 읽기

화려한 헤드라인일수록 한계를 같이 봐야 한다.

① '5억 년'은 마케팅에 가까운 추정. 진화생물학자 Tiffany Taylor (영국 바스대)는 "AI 단백질 공학은 흥미롭지만 수백만 년의 자연선택을 능가한다고 과신하는 듯하다"며, 이 추정이 개별 단백질 하나에만 국한되고 자연선택의 여러 단계를 반영하지 못한다고 지적했다.

② esmGFP의 '신규성' 자체도 논쟁거리. 독립 분석가 Brian Naughton 등은 esmGFP가 일부 자연 단백질과 계산상 겹치는 부분이 있다며 "58% 독립성"을 액면 그대로 받기 어렵다고 봤다. 다만 "이 정도로 먼 형광단백질은 수십 년의 단백질 공학으로도 자연에서 발견될 때만 얻었다"는 의의는 인정하는 분위기다.

③ 실용성의 벽 — 성숙 시간. esmGFP는 밝기는 표준 대조군과 비슷했지만 형광이 다 자라는 데 최대 약 1주가 걸렸다(보통 실험실 GFP는 수십 분). 설계는 됐지만 바로 쓰기엔 거친 단백질이라는 뜻이다.

④ '오픈'이라 부르기 어려운 공개 방식. 공개된 것은 소형 ESM3-open (1.4B) 한 종뿐이고, 라이선스는 비영리 전용(상업·신약 개발 금지)이다. 핵심인 98B 대형 모델은 API로만 접근할 수 있다(학술 무료 티어 존재). 완전 오픈인 Boltz와 비교하면 ESM3는 '소형 비영리 공개 + 대형 비공개'의 하이브리드로 보는 게 정확하다.

7. 의미와 전망 — '프로그래머블 생물학'과 갑작스러운 인수

ESM3가 가리키는 방향은 분명하다. 단백질을 자연에서 찾는(discover) 시대에서, 목적에 맞게 짓는(design) 시대로. 구조 예측(AlphaFold)이 "이미 있는 것을 이해"하는 도구였다면, 생성 모델은 "없던 것을 만드는" 도구다. 효소·항체·결합 단백질을 프롬프트로 설계하는 프로그래머블 생물학(programmable biology)의 초입인 셈이다.

그러나 회사의 운명은 빨랐다. EvolutionaryScale은 2024년 6월 시드(seed)로만 1.42억 달러라는 이례적 규모(AWS·엔비디아 참여)로 출발했지만, 2025년 11월 챈 저커버그 바이오허브(CZ Biohub)에 인수되며 약 50명 팀이 합류, 창업자 Rives는 CZI의 과학 책임자로 자리를 옮겼다. 독립 스타트업으로서의 EvolutionaryScale은 사실상 종료되고, 비영리 연구 조직 산하로 흡수된 것이다.

이 결말은 시사적이다. 단백질 생성 AI는 기술적으로는 약진했지만, 막대한 학습 비용과 모호한 수익 모델 앞에서 독립 상업화의 길은 좁았다. 같은 시기 AI 신약 분야가 겪은 '기술은 되는데 사업이 어려운' 긴장과 같은 결을 보인다.

✍️ 한 줄 인사이트
ESM3의 진짜 뉴스는 "5억 년"이 아니라 "예측에서 생성으로"의 전환이다 — 그리고 그 전환을 이끈 회사가 1년 만에 비영리 산하로 들어갔다는 사실은, 단백질 AI의 과학적 가속과 상업적 현실 사이의 간극을 동시에 보여준다.

References

1. Hayes, T., et al. (2025). Simulating 500 million years of evolution with a language model. Science 387(6736), 850–858. doi:10.1126/science.ads0018. (preprint: bioRxiv 2024.07, doi:10.1101/2024.07.01.600583)
2. EvolutionaryScale (2024). ESM3 release blog — esmGFP, 멀티모달 아키텍처, 98B, 192개 설계(B8→C10).
3. EvolutionaryScale (2024.12). ESM Cambrian (ESM C) release. / ESM3-open Community License (비영리 전용).
4. Lin, Z., et al. (2023). Evolutionary-scale prediction of atomic-level protein structure with a language model (ESM2/ESMFold). Science 379, 1123–1130.
5. 비판·검증 — Live Science (2025, Tiffany Taylor 코멘트) / owlposting (2024, esmGFP·avGFP 36%·성숙시간 분석) / Wikipedia "EsmGFP".
6. 경쟁·맥락 — Profluent ProGen3·OpenCRISPR-1 (2025); Boltz-1/2 (MIT, 2024–25); AlphaProteo (DeepMind, 2024).
7. 인수·자금 — Fortune·TechCrunch (2024.6, 시드 $142M); Axios·Endpoints News (2025.11, CZ Biohub의 EvolutionaryScale 인수).

🎓 다음 학습
• (기초) 단백질 구조 4단계 — 단백질이 왜 '접히는지'부터
• (비교) AlphaFold2 (Jumper 2021) vs AlphaFold3 (Abramson 2024) — '예측' 계보
• (심화) ProGen3·RFdiffusion — 단백질 '생성·설계' 모델로 더 들어가기

Pipette & Pipeline · A bio portfolio journal