Просветительская роль объяснимого искусственного интеллекта в медицине и здравоохранении: систематический обзор литературы
The enlightening role of explainable artificial intelligence in medical & healthcare domains: A systematic literature review
2023-10-04
SCID: 54.1/zkf76hnw
Discuss with AI
Объяснимый искусственный интеллектLIMEМашинное обучение в медицинеИнтерпретируемость моделейSHAP
Figures from the paper
Abstract (AI)
В области медицины и здравоохранения интерпретируемость и объяснимость систем машинного обучения и искусственного интеллекта имеют решающее значение для формирования доверия к их результатам. Ошибки, вызванные такими системами, например неправильная диагностика или ненадлежащее лечение, могут иметь тяжелые и даже угрожающие жизни пациентов последствия. Для решения этой проблемы объяснимый искусственный интеллект (XAI) стал активно развивающимся направлением исследований, сосредоточенным на понимании природы «черного ящика» сложных и трудных для интерпретации моделей машинного обучения. Хотя техническая экспертиза позволяет повысить точность таких моделей, понимание того, как именно они функционируют в процессе обучения, может быть затруднительным или даже невозможным. Алгоритмы XAI, такие как локальные интерпретируемые модельно-независимые объяснения (Local Interpretable Model-Agnostic Explanations, LIME) и аддитивные объяснения Шепли (SHapley Additive exPlanations, SHAP), могут объяснять работу этих моделей, повышать доверие к их прогнозам за счет определения важности признаков и укреплять уверенность в надежности систем. Опубликовано множество статей, в которых предлагаются решения медицинских задач с использованием моделей машинного обучения совместно с алгоритмами XAI для обеспечения интерпретируемости и объяснимости. В нашем исследовании мы выявили 454 статьи, опубликованные в период с 2018 по 2022 год, и проанализировали 93 из них, чтобы изучить применение этих методов в медицинской сфере.
Key Findings
1
Объяснимый искусственный интеллект устраняет непрозрачность сложных моделей машинного обучения, поясняя, как формируются их прогнозы.
2
Интерпретируемость и объяснимость особенно важны в здравоохранении, поскольку ошибочные диагнозы или назначения ИИ могут иметь тяжёлые или угрожающие жизни последствия для пациентов.
3
LIME и SHAP представлены как модельно-независимые методы XAI, объясняющие прогнозы через важность признаков и потенциально повышающие доверие к медицинским системам ИИ.
4
Рассмотренная литература часто объединяет модели машинного обучения с методами XAI для обеспечения интерпретируемости при решении медицинских задач.
5
В рамках систематического обзора выявлено 454 релевантные статьи, опубликованные в 2018–2022 годах, из которых 93 исследования были проанализированы применительно к медицине.
Research Object
системы машинного обучения и искусственного интеллекта, используемые в медицинской сфере и здравоохранении
Research Subject
интерпретируемость и объяснимость этих систем, включая то, как методы объяснимого искусственного интеллекта повышают доверие к их прогнозам
Publication Details
Publication Date
2023-10-04
Journal
Publisher
ISSN
Cited by
385
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest