Объяснимый ИИ для Healthcare 5.0: возможности и проблемы

В области здравоохранения предполагается трансформационный переход к Healthcare 5.0. Он расширяет операционные границы Healthcare 4.0 и использует ориентированное на пациента цифровое благополучие. Healthcare 5.0 ориентирован на мониторинг пациентов в реальном времени, управление окружающей средой и благополучием, а также соблюдение конфиденциальности с помощью вспомогательных технологий, таких как искусственный интеллект (ИИ), Интернет вещей (IoT), большие данные и вспомогательные каналы связи. Однако операционные процедуры здравоохранения, верифицируемость моделей прогнозирования, устойчивость, а также отсутствие этических и регуляторных рамок могут препятствовать реализации Healthcare 5.0. В последнее время объяснимый ИИ (EXAI) стал революционной тенденцией в ИИ, сосредоточенной на объяснимости традиционных моделей ИИ за счёт анализа процесса принятия решений моделями и их прогнозных результатов. Фактор объяснимости открывает новые возможности для «чёрных ящиков» и повышает уверенность заинтересованных сторон в здравоохранении при интерпретации моделей машинного обучения (ML) и глубокого обучения (DL). EXAI направлен на улучшение клинической практики и обеспечивает прозрачность предиктивного анализа, что критически важно в медицине. Недавние обзоры по EXAI в здравоохранении не уделяли значительного внимания анализу данных и интерпретации моделей, что снижает возможности их практического внедрения. В связи с этим предлагаемый обзор детально описывает требования EXAI для Healthcare 5.0, операционные и процессы сбора данных. На основе метода обзора и поставленных научных вопросов статья системно разворачивает предлагаемую архитектуру, представляющую ансамбль EXAI для задач классификации и сегментации изображений компьютерной томографии (CT). Предложена таксономия решений EXAI в Healthcare 5.0 и изложены операционные проблемы. Представлен кейс по мониторингу электрокардиограммы (ECG), который сохраняет конфиденциальность локальных моделей посредством федеративного обучения (FL) и использует EXAI для валидации метрик. Кейс подтверждён экспериментальной валидацией. Анализ доказывает эффективность EXAI в медицинских установках и предполагает реальное развертывание моделей в широком спектре клинических приложений.