Графовые сверточные нейронные сети для рекомендательных систем веб‑масштаба

Недавние достижения в области глубоких нейронных сетей для графово структурированных данных привели к передовым результатам на бенчмарках рекомендательных систем. Тем не менее практическая реализация и масштабирование этих методов для рекомендаций веб‑масштаба с миллиардами объектов и сотнями миллионов пользователей остаются нерешённой задачей. В работе описан крупномасштабный движок глубокой рекомендательной системы, разработанный и развернутый в Pinterest. Мы разработали энерго- и дата‑эффективный алгоритм Graph Convolutional Network (GCN), который сочетает эффективные случайные блуждания и графовые свёртки для получения встраиваний узлов (т.е. объектов), учитывающих как структуру графа, так и информацию о признаках узлов. По сравнению с предыдущими подходами GCN мы предлагаем новый метод, основанный на высокоэффективных случайных блужданиях для структурирования свёрток, и разрабатываем новую стратегию обучения, которая использует постепенно усложняющиеся тренировочные примеры для повышения устойчивости и сходимости модели. Также нами разработан эффективный алгоритм вывода модели на базе MapReduce для генерации встраиваний с помощью обученной модели. В целом мы можем обучать и получать встраивания для графов, которые на четыре порядка больше типичных реализаций GCN. Мы демонстрируем, как встраивания GCN могут быть использованы для получения высококачественных рекомендаций в различных сценариях в Pinterest, где базовый граф содержит 3 миллиарда узлов, представляющих пины и доски, и 17 миллиардов рёбер. Согласно офлайн-метрикам, пользовательским исследованиям и A/B-тестам, наш подход генерирует рекомендации более высокого качества по сравнению с сопоставимыми системами на базе глубокого обучения. Насколько нам известно, это далеко самая крупная на сегодняшний день реализация глубинных графовых встраиваний и она прокладывает путь для нового поколения рекомендательных систем веб‑масштаба на основе архитектур графовых свёрточных сетей.