Обзор методов объяснимого искусственного интеллекта для биомедицинской визуализации с использованием глубоких нейронных сетей

Методы искусственного интеллекта (ИИ), основанные на глубоком обучении, произвели революцию в диагностике заболеваний благодаря выдающимся результатам классификации изображений. Несмотря на эти результаты, широкое внедрение данных методов в клиническую практику по-прежнему происходит умеренными темпами. Одним из основных препятствий является то, что обученная модель глубокой нейронной сети (ГНС) выдает прогноз, однако вопросы о том, почему и каким образом был сделан этот прогноз, остаются без ответа. Установление этой связи имеет первостепенное значение в регулируемой сфере здравоохранения для повышения доверия практикующих специалистов, пациентов и других заинтересованных сторон к автоматизированным диагностическим системам. Применение глубокого обучения в медицинской визуализации требует осторожной интерпретации из-за проблем, связанных со здоровьем и безопасностью, аналогичных вопросам установления ответственности в случае аварии с участием автономного автомобиля. Последствия как ложноположительных, так и ложноотрицательных случаев могут иметь далеко идущие последствия для благополучия пациентов и не могут игнорироваться. Ситуация усугубляется тем, что современные алгоритмы глубокого обучения состоят из сложных взаимосвязанных структур и миллионов параметров и обладают свойствами «черного ящика», обеспечивая лишь ограниченное понимание принципов их работы, в отличие от традиционных алгоритмов машинного обучения. Методы объяснимого искусственного интеллекта (XAI) помогают понять прогнозы моделей, способствуя формированию доверия к системе, ускорению диагностики заболеваний и соблюдению нормативных требований. В настоящем обзоре представлен всесторонний анализ перспективной области применения XAI для диагностической биомедицинской визуализации. Кроме того, приведена классификация методов XAI, рассмотрены нерешенные проблемы и предложены перспективные направления развития XAI, представляющие интерес для клиницистов, регулирующих органов и разработчиков моделей.