Язык белков: обработка естественного языка, машинное обучение и белковые последовательности

Обработка естественного языка (NLP) — это область информатики, занимающаяся автоматизированным анализом текстов и языка. В последние годы, после серии прорывов в области глубокого обучения и машинного обучения, методы NLP продемонстрировали значительный прогресс. В этой статье мы рассматриваем успехи, перспективы и ограничения применения алгоритмов NLP для изучения белков. Белки, которые можно представить в виде строк из букв аминокислот, естественным образом подходят для многих методов NLP. Мы исследуем концептуальные сходства и различия между белками и языком, а также рассматриваем широкий спектр задач, связанных с белками, для которых применимо машинное обучение. Мы представляем методы кодирования информации о белках в виде текста и её анализа с помощью методов NLP, рассматривая как классические концепции, такие как мешок слов, k-меры/n-граммы и текстовый поиск, так и современные методы, включая векторные представления слов, контекстуализированные векторные представления, глубокое обучение и нейросетевые языковые модели. Особое внимание уделено последним инновациям, таким как моделирование языка с маскированием, самообучение без учителя и модели на основе механизма внимания. В заключение мы обсуждаем тенденции и проблемы на стыке NLP и исследований белков.