단백질 상호작용 기초모델, 학습 없이 약물 발견 능력 보유
원제 Emergent Biological Capabilities in a Foundation Model for Molecular Interactions
추천 10댓글 2
Key Point
기초모델이 감독 없이 학습하면서 자연스럽게 습득한 약물 발견 능력이 실제 실험에서 작동함을 보여주는, 생물학 AI의 실용적 전환점이다.
핵심 요약
- Bonbon은 약 3.2조 토큰의 단백질-리간드 서열 쌍으로 학습한 다중양식 생물학 기초모델이다.
- 작업별 감독 없이 서열 정보만으로 학습했으나, 작용 메커니즘, 결합 부위 위치 파악, 결합 유형 판별 등 세 가지 영상학적 능력을 제로샷 상태에서 보여준다.
- 이 모든 능력은 학습 분포 밖의 복합체에도 일반화된다.
- 42M부터 1.6B 파라미터까지 여섯 가지 규모의 제어된 스케일링 실험에서 사전학습 손실은 부드럽게 감소하지만 각 능력은 최대 규모에서 급격히 향상되어, 손실만으로는 영상학적 능력의 출현을 예측할 수 없음을 보여준다.
- 1:2000 파라미터-토큰 비율(생물 상호작용 데이터의 희소성을 고려)로 학습되었다.
- 같은 표현으로 단백질 접힘 방법 대비 5자리 수 배 빠른 속도로 최첨단 결합 및 친화력 예측을 달성한다.
- 습식 실험실 검증에서 9개 질병 표적(7개 단백질 계열)에서 신규 화합물에 대해 61.5% 용량-반응 적중률을 기록했으며, 이전에 이 단백질을 억제하는 것으로 보고되지 않은 구조적으로 새로운 분자를 생성했다.