Прозрачность глубоких нейронных сетей для анализа медицинских изображений: обзор методов интерпретируемости

Искусственный интеллект (ИИ) стал полезным инструментом во многих клинических приложениях, связанных с диагностикой и принятием решений о лечении. Благодаря быстрому увеличению объёма доступных данных и вычислительных мощностей глубокие нейронные сети продемонстрировали в ряде задач результаты, сопоставимые с результатами клиницистов или превосходящие их. Для соответствия принципам надёжного ИИ необходимо, чтобы система ИИ была прозрачной, устойчивой, справедливой и обеспечивала подотчётность. Современные решения на основе глубоких нейронных сетей называют «чёрными ящиками» из-за недостаточного понимания особенностей процесса принятия решений. Поэтому необходимо обеспечить интерпретируемость глубоких нейронных сетей до их внедрения в стандартный клинический рабочий процесс. В этом нарративном обзоре с помощью систематического поиска по ключевым словам и экспертных знаний в предметной области были выявлены девять различных типов методов интерпретируемости, применявшихся для понимания моделей глубокого обучения в задачах анализа медицинских изображений; классификация основывалась на типе формируемых объяснений и техническом сходстве методов. Кроме того, мы описываем прогресс в оценке объяснений, формируемых различными методами интерпретируемости. Наконец, мы обсуждаем ограничения, предлагаем рекомендации по применению методов интерпретируемости и обозначаем перспективные направления, связанные с интерпретируемостью глубоких нейронных сетей для анализа медицинских изображений.