Объяснимый искусственный интеллект в биоинформатике: методы, инструменты и применения

Системы искусственного интеллекта (ИИ), использующие глубокие нейронные сети и алгоритмы машинного обучения (МО), широко применяются для решения важных задач биоинформатики, биомедицинской информатики и прецизионной медицины. Однако сложные модели МО, которые часто воспринимаются как непрозрачные методы типа «чёрного ящика», затрудняют понимание обоснования принимаемых ими решений. Такая недостаточная прозрачность может создавать проблемы для конечных пользователей и лиц, принимающих решения, а также для разработчиков ИИ. В таких чувствительных областях, как здравоохранение, объяснимость и подотчётность являются не только желательными свойствами, но и юридическими требованиями к системам ИИ, способным существенно влиять на жизнь людей. Ещё одной растущей проблемой является справедливость, поскольку алгоритмические решения не должны демонстрировать предвзятость или дискриминацию в отношении определённых групп или отдельных лиц на основании чувствительных признаков. Объяснимый искусственный интеллект (XAI) направлен на преодоление непрозрачности моделей типа «чёрного ящика» и обеспечение прозрачности процесса принятия решений системами ИИ. Интерпретируемые модели МО позволяют объяснить, каким образом они формируют прогнозы, и выявить факторы, влияющие на их результаты. Однако большинство современных методов интерпретируемого МО не зависят от предметной области и развивались в таких областях, как компьютерное зрение, автоматизированное рассуждение или статистика, поэтому их непосредственное применение к задачам биоинформатики без адаптации и настройки под конкретную предметную область затруднено. В данной статье мы рассматриваем важность объяснимости и алгоритмической прозрачности в контексте биоинформатики. Мы представляем обзор интерпретируемых методов и инструментов МО, специфичных для модели и независимых от модели, а также обозначаем их потенциальные ограничения. Мы обсуждаем, каким образом существующие методы интерпретируемого МО могут быть адаптированы и применены к исследовательским задачам биоинформатики. Кроме того, на примере тематических исследований в области биоизображений, геномики рака и анализа текста мы демонстрируем, как методы XAI могут повышать прозрачность и справедливость принимаемых решений. Наш обзор призван предоставить ценные сведения и послужить отправной точкой для...