Интерпретация моделей искусственного интеллекта: систематический обзор применения LIME и SHAP для обнаружения болезни Альцгеймера

Объясняемый искусственный интеллект (XAI) в последние годы вызвал большой интерес благодаря способности объяснять сложные процессы принятия решений моделями машинного обучения (ML) и глубокого обучения (DL). Фреймворки Local Interpretable Model-agnostic Explanations (LIME) и Shapley Additive exPlanation (SHAP) стали популярными инструментами интерпретации для ML и DL моделей. В данной статье представлен систематический обзор применения LIME и SHAP для интерпретации обнаружения болезни Альцгеймера (AD). В соответствии с руководствами PRISMA и Kitchenham мы выделили 23 релевантные статьи и подробно изучили потенциальные возможности, преимущества и проблемы этих фреймворков. Результаты подчеркивают ключевую роль XAI в укреплении надежности прогнозов AD на основе ИИ. Обзор нацелен на представление основных возможностей XAI-фреймворков LIME и SHAP для повышения достоверности в клинических системах поддержки принятия решений при прогнозировании AD.