Просветительская роль объяснимого искусственного интеллекта в медицине и здравоохранении: систематический обзор литературы

The enlightening role of explainable artificial intelligence in medical & healthcare domains: A systematic literature review
Ali Shariq Imran, Subhan Ali, Filza Akhlaq, Zenun Kastrati, Sher Muhammad Daudpota, Muhammad Moosa
2023-10-04

Объяснимый искусственный интеллектLIMEМашинное обучение в медицинеИнтерпретируемость моделейSHAP
В области медицины и здравоохранения интерпретируемость и объяснимость систем машинного обучения и искусственного интеллекта имеют решающее значение для формирования доверия к их результатам. Ошибки, вызванные такими системами, например неправильная диагностика или ненадлежащее лечение, могут иметь тяжелые и даже угрожающие жизни пациентов последствия. Для решения этой проблемы объяснимый искусственный интеллект (XAI) стал активно развивающимся направлением исследований, сосредоточенным на понимании природы «черного ящика» сложных и трудных для интерпретации моделей машинного обучения. Хотя техническая экспертиза позволяет повысить точность таких моделей, понимание того, как именно они функционируют в процессе обучения, может быть затруднительным или даже невозможным. Алгоритмы XAI, такие как локальные интерпретируемые модельно-независимые объяснения (Local Interpretable Model-Agnostic Explanations, LIME) и аддитивные объяснения Шепли (SHapley Additive exPlanations, SHAP), могут объяснять работу этих моделей, повышать доверие к их прогнозам за счет определения важности признаков и укреплять уверенность в надежности систем. Опубликовано множество статей, в которых предлагаются решения медицинских задач с использованием моделей машинного обучения совместно с алгоритмами XAI для обеспечения интерпретируемости и объяснимости. В нашем исследовании мы выявили 454 статьи, опубликованные в период с 2018 по 2022 год, и проанализировали 93 из них, чтобы изучить применение этих методов в медицинской сфере.
1
Объяснимый искусственный интеллект устраняет непрозрачность сложных моделей машинного обучения, поясняя, как формируются их прогнозы.
2
Интерпретируемость и объяснимость особенно важны в здравоохранении, поскольку ошибочные диагнозы или назначения ИИ могут иметь тяжёлые или угрожающие жизни последствия для пациентов.
3
LIME и SHAP представлены как модельно-независимые методы XAI, объясняющие прогнозы через важность признаков и потенциально повышающие доверие к медицинским системам ИИ.
4
Рассмотренная литература часто объединяет модели машинного обучения с методами XAI для обеспечения интерпретируемости при решении медицинских задач.
5
В рамках систематического обзора выявлено 454 релевантные статьи, опубликованные в 2018–2022 годах, из которых 93 исследования были проанализированы применительно к медицине.

системы машинного обучения и искусственного интеллекта, используемые в медицинской сфере и здравоохранении

интерпретируемость и объяснимость этих систем, включая то, как методы объяснимого искусственного интеллекта повышают доверие к их прогнозам

Publication Details
Publication Date
2023-10-04
Journal
Publisher
ISSN
Cited by
385
Access Type
Author Information
Authors
Ali Shariq Imran
Subhan Ali
Filza Akhlaq
Zenun Kastrati
Sher Muhammad Daudpota
Muhammad Moosa
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%