Послойное распространение значимости для объяснения решений глубоких нейронных сетей при классификации болезни Альцгеймера по данным МРТ
Layer-Wise Relevance Propagation for Explaining Deep Neural Network Decisions in MRI-Based Alzheimer's Disease Classification
2019-07-31
SCID: 54.1/u32a8j98
Discuss with AI
Классификация болезни АльцгеймераСверточные нейронные сетиПослойное распространение значимостиПлотность значимостиСтруктурная МРТ
Figures from the paper
Abstract (AI)
Глубокие нейронные сети обеспечили результаты мирового уровня во многих задачах медицинской визуализации, включая выявление болезни Альцгеймера (БА) на основе данных структурной магнитно-резонансной томографии (МРТ). Однако решения сети часто воспринимаются как недостаточно прозрачные, что затрудняет применение этих алгоритмов в повседневной клинической практике. В настоящем исследовании предлагается использовать послойное распространение значимости (layer-wise relevance propagation, LRP) для визуализации решений сверточной нейронной сети при выявлении БА по данным МРТ. Подобно другим методам визуализации, LRP формирует тепловую карту во входном пространстве, показывающую важность или значимость каждого вокселя, вносящего вклад в итоговый результат классификации. В отличие от карт чувствительности, получаемых с помощью управляемого обратного распространения («Какое изменение вокселей сильнее всего изменило бы результат?»), метод LRP способен непосредственно выделять во входном пространстве положительные вклады в классификацию сетью. В частности, мы показываем, что (1) метод LRP обладает высокой индивидуальной специфичностью («Почему у этого человека БА?») и характеризуется высокой межпациентной вариабельностью; (2) у здоровых лиц значимость для БА весьма мала; и (3) области с высокой значимостью хорошо коррелируют с данными, известными из литературы. Для количественной оценки последнего свойства мы рассчитываем скорректированные по размеру показатели суммарной значимости для каждой области мозга, например плотность значимости и прирост значимости. Хотя эти показатели формируют весьма индивидуальные «отпечатки» паттернов значимости у пациентов с БА, значительная важность приходится на области височной доли, включая гиппокамп. Обсудив ряд ограничений, таких как чувствительность к используемой модели и вычислительным параметрам, мы заключаем, что LRP обладает значительным потенциалом для помощи клиницистам в объяснении решений нейронных сетей при диагностике БА и, потенциально, других заболеваний на основе данных структурной МРТ.
Key Findings
1
Области мозга с высокой релевантностью хорошо соответствуют данным литературы о болезни Альцгеймера, особенно участкам височной доли, включая гиппокамп.
2
Объяснения LRP в высокой степени индивидуальны, демонстрируют значительную вариабельность между пациентами и очень низкую релевантность болезни Альцгеймера у здоровых людей.
3
Метод распространения релевантности по слоям (LRP) визуализирует решения сверточной нейронной сети при классификации болезни Альцгеймера по МРТ с помощью карт релевантности на уровне вокселей.
4
Метрики релевантности с поправкой на размер, такие как плотность релевантности и прирост релевантности, количественно описывают индивидуальные паттерны, но чувствительны к используемой модели и параметрам вычислений.
5
В отличие от карт восприимчивости, получаемых методом guided backpropagation, LRP напрямую выявляет воксели, положительно влияющие на классификацию болезни Альцгеймера.
Research Object
Классификация болезни Альцгеймера с помощью глубокой нейронной сети на основе данных МРТ
Research Subject
Послойные паттерны значимости и вклад отдельных вокселей, лежащие в основе индивидуальных решений нейронной сети при болезни Альцгеймера, включая региональную плотность значимости и прирост значимости
Publication Details
Publication Date
2019-07-31
Journal
Publisher
ISSN
Cited by
291
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Работы, цитирующие эту статью8
Прозрачность глубоких нейронных сетей для анализа медицинских изображений: обзор методов интерпретируемости2021
Объяснимое, надежное и этичное машинное обучение в здравоохранении: обзор2022
Обзор методов объяснимого искусственного интеллекта для биомедицинской визуализации с использованием глубоких нейронных сетей2023
Объяснимый искусственный интеллект в классификации болезни Альцгеймера: систематический обзор2023
Объяснимый искусственный интеллект в биоинформатике: методы, инструменты и применения2023
Объяснимый искусственный интеллект: обзор приложений к данным нейровизуализации2022
Объяснимый искусственный интеллект в нейровизуализации болезни Альцгеймера2025
Интерпретируемые глубокие сверточные нейронные сети для диагностики болезни Альцгеймера на основе МРТ2020