Современные применения объяснимого искусственного интеллекта (XAI): систематический обзор литературы

В настоящем систематическом обзоре литературы используется методология Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) для изучения современных применений объяснимого искусственного интеллекта (XAI) за последние три года. Из первоначальной совокупности из 664 статей, выявленных в базе данных Web of Science, 512 рецензируемых журнальных статей соответствовали критериям включения — они представляли собой недавние высококачественные статьи о применении XAI, опубликованные на английском языке, — и были подробно проанализированы. Для анализа выявленных статей применялись как качественные, так и количественные статистические методы: качественный анализ заключался в обобщении характеристик включенных исследований на основе заранее определенных кодов, а количественный — в статистическом анализе данных. Статьи были классифицированы по областям применения, используемым методам и способам оценки. Особенно широко были представлены приложения, связанные со здравоохранением, с особым акцентом на диагностике рака, ведении пациентов с COVID-19 и медицинской визуализации. К другим значимым областям применения относились экологическое и сельскохозяйственное управление, промышленная оптимизация, кибербезопасность, финансы, транспорт и индустрия развлечений. Кроме того, новые применения в юриспруденции, образовании и социальной помощи свидетельствуют о расширении влияния XAI. Обзор показывает преимущественное использование методов локального объяснения, особенно SHAP и LIME, причем SHAP чаще выбирают благодаря его стабильности и математическим гарантиям. Однако выявлен существенный пробел в оценке результатов XAI: большинство исследований опирается на отдельные примеры или мнения экспертов, а не на надежные количественные метрики. Это подчеркивает настоятельную необходимость стандартизированных рамок оценки для обеспечения надежности и эффективности приложений XAI. Будущие исследования должны быть сосредоточены на разработке комплексных стандартов оценки, а также на повышении интерпретируемости и стабильности объяснений. Эти усовершенствования необходимы для удовлетворения разнообразных требований различных областей применения при одновременном повышении...