Интерпретируемость предсказательных моделей машинного обучения в здравоохранении

Существует необходимость обеспечивать интерпретируемость моделей машинного обучения (ML). Более высокая интерпретируемость модели обеспечивает более простое понимание и объяснение ее будущих предсказаний для конечных пользователей. Кроме того, интерпретируемые ML-модели позволяют экспертам в здравоохранении принимать обоснованные, основанные на данных решения и предоставлять персонализированные рекомендации, что в конечном итоге может привести к повышению качества обслуживания в здравоохранении. Как правило, подходы к интерпретируемости можно разделить на две группы: те, которые ориентированы на персонализированную интерпретацию (локальная интерпретируемость), и те, которые обобщают модели предсказания на уровне популяции (глобальная интерпретируемость). Альтернативно, методы интерпретируемости можно классифицировать как специфичные для модели, которые разработаны для интерпретации предсказаний конкретной модели, такой как нейронная сеть, и модель-независимые подходы, которые обеспечивают понятные объяснения предсказаний любой ML-модели. В настоящей работе мы даем обзор подходов к интерпретируемости для структурированных данных и приводим примеры практической интерпретируемости ML в различных областях здравоохранения, включая прогнозирование связанных со здоровьем исходов, оптимизацию лечения и повышение эффективности скрининга при конкретных состояниях. Наконец, мы очерчиваем направления дальнейших исследований в области интерпретируемого ML и подчеркиваем важность разработки алгоритмических решений, которые могут обеспечить принятие решений на основе ML в задачах здравоохранения с высокими ставками.