Объяснимый искусственный интеллект: обзор приложений к данным нейровизуализации

Глубокие нейронные сети (DNN) преобразили область компьютерного зрения и в настоящее время относятся к числу наиболее эффективных моделей представлений, формируемых в результате иерархической обработки в человеческом мозге. В медицинской визуализации эти модели продемонстрировали результаты на уровне человека и даже превосходящие его при ранней диагностике широкого спектра заболеваний. Однако зачастую целью является не только точное прогнозирование принадлежности к группе или постановка диагноза, но и предоставление объяснений, обосновывающих решение модели в форме, легко интерпретируемой человеком. Ограниченная прозрачность препятствовала внедрению алгоритмов DNN во многих областях. Для изучения «чёрного ящика» и интерпретации моделей DNN был разработан широкий спектр методов объяснимого искусственного интеллекта (XAI), основанных на несколько различающихся подходах. Мы предлагаем рассматривать эти методы с учётом цели интерпретации, включая функциональные или механистические интерпретации, разработку архетипических экземпляров классов либо постфактум-оценку значимости определённых признаков или отображений в обученной модели. Далее мы сосредотачиваемся на обзоре недавних применений методов постфактум-оценки значимости к данным нейровизуализации. Кроме того, в статье предлагается метод сравнения надёжности методов XAI, особенно в глубоких нейронных сетях, а также рассматриваются их преимущества и недостатки.