Применение объяснимого искусственного интеллекта в здравоохранении: систематический обзор

Искусственный интеллект (ИИ) обладает значительным потенциалом в различных областях здравоохранения, включая передовую диагностику, поддержку принятия клинических решений и персонализированную медицину. Несмотря на эти достижения, непрозрачная «чёрная коробка» сложных моделей ИИ требует применения объяснимого искусственного интеллекта (XAI) для обеспечения доверия, подотчётности, интерпретируемости и соблюдения нормативных требований. В настоящем исследовании систематически рассмотрены 76 публикаций, вышедших в период с 2020 по 2025 год и посвящённых применению XAI в здравоохранении. Результаты показывают, что модели XAI, такие как SHAP и LIME, преимущественно используются для работы со структурированными данными, например электронными медицинскими картами, тогда как другие модели XAI, такие как Grad-CAM и послойное распространение релевантности (Layer-wise Relevance Propagation, LRP), главным образом применяются в медицинской визуализации. В исследовании специально анализируются метрики оценки, необходимые для практической реализации объяснимости, включая достоверность объяснений, надёжность и соответствие нормативным требованиям, что отличает его от предшествующих описательных обзоров. Наш анализ показывает, что, хотя XAI существенно повышает доверие клиницистов, полнота объяснений остаётся неоднородной, а их применение в значительной степени ограничено контролируемыми условиями и используемыми эталонными наборами данных. Критические препятствия для клинического внедрения включают непоследовательную интерпретируемость для различных типов данных и отсутствие стандартизированных рамок оценки. Существующие методы XAI часто не соответствуют строгим нормативным стандартам, таким как Закон ЕС об искусственном интеллекте (EU AI Act), руководства Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США (Food and Drug Administration, FDA) и Закон о переносимости и подотчётности медицинского страхования (Health Insurance Portability and Accountability Act, HIPAA). В обзоре обосновывается необходимость срочной стандартизации валидации XAI и разработки человекоцентричных решений, позволяющих перейти от алгоритмической прозрачности к надёжной интеграции в реальные больничные процессы.