Интерпретируемость предсказательных моделей машинного обучения в здравоохранении

Interpretability of machine learning‐based prediction models in healthcare
Marinka Žitnik, Gregor Stiglic, Primoz Kocbek, Nino Fijacko, Marinka Zitnik, Katrien Verbert, Leona Cilar, Katrien Verbert, Leona Cilar
2020-06-29

глобальная интерпретируемостьинтерпретируемостьлокальная интерпретируемостьмодель-независимые подходыметоды, специфичные для модели
Существует необходимость обеспечивать интерпретируемость моделей машинного обучения (ML). Более высокая интерпретируемость модели обеспечивает более простое понимание и объяснение ее будущих предсказаний для конечных пользователей. Кроме того, интерпретируемые ML-модели позволяют экспертам в здравоохранении принимать обоснованные, основанные на данных решения и предоставлять персонализированные рекомендации, что в конечном итоге может привести к повышению качества обслуживания в здравоохранении. Как правило, подходы к интерпретируемости можно разделить на две группы: те, которые ориентированы на персонализированную интерпретацию (локальная интерпретируемость), и те, которые обобщают модели предсказания на уровне популяции (глобальная интерпретируемость). Альтернативно, методы интерпретируемости можно классифицировать как специфичные для модели, которые разработаны для интерпретации предсказаний конкретной модели, такой как нейронная сеть, и модель-независимые подходы, которые обеспечивают понятные объяснения предсказаний любой ML-модели. В настоящей работе мы даем обзор подходов к интерпретируемости для структурированных данных и приводим примеры практической интерпретируемости ML в различных областях здравоохранения, включая прогнозирование связанных со здоровьем исходов, оптимизацию лечения и повышение эффективности скрининга при конкретных состояниях. Наконец, мы очерчиваем направления дальнейших исследований в области интерпретируемого ML и подчеркиваем важность разработки алгоритмических решений, которые могут обеспечить принятие решений на основе ML в задачах здравоохранения с высокими ставками.
1
Будущие направления подчеркивают необходимость разработки алгоритмических решений для поддержки принятия решений на основе МЛ в критичных для здоровья областях.
2
Более высокая интерпретируемость позволяет медицинским экспертам принимать обоснованные, основанные на данных персонализированные решения, повышая качество ухода.
3
Подходы к интерпретируемости можно классифицировать как локальные (персонализированные) или глобальные (на уровне популяции) объяснения.
4
Интерпретируемые модели машинного обучения упрощают понимание и объяснение прогнозов для пользователей в здравоохранении.
5
Методы также делятся на специфичные для модели техники (например, для нейронных сетей) и модель-агностичные подходы, применимые к любым моделям МЛ.
6
В статье представлен обзор методов интерпретируемости для структурированных медицинских данных с практическими примерами: прогнозирование исходов, оптимизация лечения и повышение эффективности скрининга.

Подходы к интерпретируемости моделей машинного обучения для предсказаний в здравоохранении на структурированных данных

Методы и приёмы объяснения и понимания предсказаний моделей МЛ (локальная vs глобальная интерпретируемость, модель-специфичные vs модель-агностичные), обеспечивающие понимание, персонализированную и популяционную поддержку принятия решений и безопасное использование МЛ в критичных задачах здравоохранения

Publication Details
Publication Date
2020-06-29
Journal
Publisher
ISSN
Cited by
539
Access Type
Author Information
Authors
Marinka Žitnik
Gregor Stiglic
Primoz Kocbek
Nino Fijacko
Marinka Zitnik
Katrien Verbert
Leona Cilar
Katrien Verbert
Leona Cilar
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%