Современные расширенные NLP-трансформеры для прямого и одношагового ретросинтеза

Мы исследовали влияние различных сценариев обучения на предсказание (ретро)синтеза химических соединений с использованием текстоподобного представления химических реакций (SMILES) и архитектуры нейронной сети Transformer для обработки естественного языка (NLP). Показано, что аугментация данных, мощный метод, применяемый в обработке изображений, устраняет эффект запоминания данных нейронными сетями и улучшает их способность предсказывать новые последовательности. Этот эффект наблюдался при одновременном применении аугментации к входным и целевым данным. Топ-5 точность составила 84,8% при предсказании наибольшего фрагмента (тем самым идентифицируя основное преобразование для классического ретросинтеза) на тестовом наборе USPTO-50k; это было достигнуто сочетанием аугментации SMILES и алгоритма beam search. Тот же подход дал существенно лучшие результаты при предсказании прямых реакций на одношаговом тестовом наборе USPTO-MIT. Наша модель достигла 90,6% топ-1 и 96,1% топ-5 точности для сложного смешанного набора и 97,0% топ-5 точности для раздельного набора USPTO-MIT. Она также существенно улучшила результаты одношагового ретросинтеза на наборе USPTO-full как по топ-1, так и по топ-10 точностям. Частота появления наиболее часто сгенерированных SMILES хорошо коррелировала с результатом предсказания и может использоваться как мера качества предсказания реакции.