Объяснимость графовых нейронных сетей: таксономический обзор

Методы глубокого обучения демонстрируют постоянно повышающуюся эффективность при решении многих задач искусственного интеллекта. Существенным ограничением глубоких моделей является их низкая интерпретируемость. Это ограничение можно преодолеть путем разработки апостериорных методов объяснения предсказаний, что привело к формированию области объяснимости. В последнее время был достигнут значительный прогресс в области объяснимости глубоких моделей для изображений и текстов. В сфере графовых данных графовые нейронные сети (GNN) и методы обеспечения их объяснимости быстро развиваются. Однако до сих пор отсутствуют как унифицированное представление методов объяснимости GNN, так и стандартный бенчмарк и тестовая среда для их оценки. В данном обзоре представлен унифицированный таксономический взгляд на современные методы объяснимости GNN. Унифицированный и таксономический анализ этой предметной области позволяет выявить общие черты и различия существующих методов и создает основу для дальнейшего методологического развития. Для облегчения оценки мы предлагаем тестовую среду для исследования объяснимости GNN, включающую наборы данных, распространенные алгоритмы и метрики оценки. Кроме того, мы проводим всесторонние эксперименты для сравнения и анализа эффективности множества методов. В целом данная работа представляет унифицированное методологическое описание объяснимости GNN и стандартизированную тестовую среду для оценки.