Языковые модели белков, обученные на биофизической динамике, информируют о влиянии мутаций

Структурная динамика является фундаментальной для функций белков и влияния мутаций. Современные глубокие модели для белков преимущественно обучаются на данных последовательностей и/или статических структур, которые часто не отражают динамическую природу белков. Чтобы решить эту проблему, мы представляем SeqDance и ESMDance — две языковые модели белков, обученные на динамических биофизических свойствах, полученных из молекулярно-динамических симуляций и анализа нормальных мод более чем 64 000 белков. Обе модели могут быть непосредственно применены для предсказания динамических свойств невиданных упорядоченных и неупорядоченных белков. SeqDance, обученная с нуля, имеет механизмы внимания, которые улавливают динамические взаимодействия и совместное движение между остатками, а её встраивания кодируют богатые представления динамики белков, которые могут далее использоваться для предсказания конформационных свойств за пределами задач обучения при помощи переноса обучения. Предсказанные SeqDance изменения динамических свойств отражают влияние мутаций на стабильность сворачивания белка. ESMDance, построенная на выходах ESM2 (Evolutionary Scale Model II), значительно превосходит ESM2 в zero-shot предсказании эффектов мутаций для синтетических и вирусных белков, лишённых эволюционной информации. В совокупности SeqDance и ESMDance предлагают рамочную основу для интеграции динамики белков в языковые модели, обеспечивая более обобщаемые предсказания поведения белков и эффектов мутаций.