cleanUrl: "/alphafold2-paper-review"
description: "AlphaFold2 논문을 최대한 직관적으로, 자세히 리뷰합니다"
title: "AlphaFold2 리뷰"
Article
Highly accurate protein structure prediction with AlphaFold - Nature
Supplementary material
아미노산 residue들의 co-evolution, residue pair의 feature 및 두 요소 간의 상호작용을 deep learning 모델에 접목시켜 protein structure를 예측하기 위해서 self-attention과 그 variant들을 훌륭하게 design하여 활용함
저자들은 AlphaFold2
모델의 novelty로서 7가지를 제시한다.
Multiple sequence alignments (MSAs)와 pairwise feature를 jointly embed할 수 있는 new architecture
New output representation과 associated loss
→ Backbone frame (for residue) and torsion angle (for atom)
→ End-to-end structure prediction을 가능하게 함.
New equivariant attention architecture
→ 두 residue의 3차원 공간 상의 거리를 attention에 반영할 수 있다. 이 때, whole protein이 공간 상에 어떻게 위치하는지(global transformation)는 attention에 영향을 주지 않는다.
→ (global transformation-) invariant point attention (IPA)
Intermediate loss의 사용
→ prediction들의 iterative refinement를 가능하게 함.
Masked MSA loss
→ BERT를 떠올리면 된다. 고의로 MSA의 residue 일부를 masking해놓고 이를 reconstruct하도록 만드는 loss. BERT-loss
Learning from unlabelled protein sequences using self-distillation
→ Noisy student self-distillation