Графовая нейронная сеть с механизмом внимания для неоднородных графов

Графовые нейронные сети как мощные методы представления графов на основе глубокого обучения продемонстрировали высокую эффективность и привлекли значительный исследовательский интерес. Однако неоднородные графы, содержащие различные типы узлов и связей, еще не получили всестороннего рассмотрения в графовых нейронных сетях. Их неоднородность и богатая семантическая информация создают серьезные трудности при разработке графовых нейронных сетей для неоднородных графов. В последнее время одним из наиболее значимых достижений глубокого обучения стал механизм внимания, большой потенциал которого был продемонстрирован в различных областях. В данной работе впервые предлагается новая графовая нейронная сеть для неоднородных графов, основанная на иерархическом механизме внимания и включающая внимание на уровне узлов и на семантическом уровне. В частности, внимание на уровне узлов предназначено для оценки значимости каждого узла относительно его соседей, связанных метапутями, тогда как внимание на семантическом уровне позволяет оценивать значимость различных метапутей. Благодаря учету значимости, полученной с помощью внимания на уровне узлов и семантическом уровне, предложенный метод всесторонне учитывает важность узлов и метапутей. Затем модель формирует векторные представления узлов путем иерархической агрегации признаков соседей, связанных метапутями. Обширные эксперименты на трех неоднородных графах реального мира показывают не только превосходство предложенной модели над современными методами, но и ее потенциально высокую интерпретируемость для анализа графов.