Wide & Deep Learning для рекомендательных систем

Wide & Deep Learning for Recommender Systems
Xiaobing Liu, Greg S. Corrado, Rohan Anil, Heng-Tze Cheng, Tal Shaked, Tushar Chandra, Levent Koç, Jeremiah Harmsen, Hrishi Aradhye, Glen Anderson, Wei Koong Chai, Mustafa Ispir, Zakaria Haque, Lichan Hong, Vihan Jain, Hemal Shah
2016-09-15

рекомендательная система Google PlayWide & Deep обучениеперекрестные преобразования признаковглубокие нейронные сетиширокие линейные модели
Обобщённые линейные модели с нелинейными преобразованиями признаков широко используются для задач масштабной регрессии и классификации при разреженных входных данных. Запоминание взаимодействий признаков посредством широкого набора перекрёстных преобразований признаков эффективно и интерпретируемо, тогда как обобщение требует большей инженерии признаков. При меньшей инженерии признаков глубокие нейронные сети могут лучше обобщать на невидимые комбинации признаков за счёт низкоразмерных плотных эмбеддингов, обучаемых для разреженных признаков. Однако глубокие нейронные сети с эмбеддингами могут чрезмерно обобщать и рекомендовать менее релевантные элементы, когда взаимодействия пользователь–предмет разрежены и имеют высокий ранг. В этой статье мы представляем Wide & Deep learning — совместно обучаемые широкие линейные модели и глубокие нейронные сети — чтобы объединить преимущества запоминания и обобщения для рекомендательных систем. Мы внедрили систему в промышленную эксплуатацию и оценили её на Google Play, коммерческом магазине мобильных приложений с более чем одним миллионом приложений и более чем одним миллиардом активных пользователей. Результаты онлайн-экспериментов показывают, что Wide & Deep значительно увеличивает приобретения приложений по сравнению с моделями только wide и только deep. Мы также опубликовали нашу реализацию с открытым исходным кодом в TensorFlow.
1
Комбинация широкой линейной модели и глубокой нейронной сети (Wide & Deep) обеспечивает одновременно запоминание (взаимодействия признаков) и обобщение (встраивания).
2
Глубокие нейронные сети с встраиваниями обобщаются на невидимые комбинации признаков, но могут чрезмерно обобщать и рекомендовать менее релевантные элементы при разреженных и высокоранговых взаимодействиях.
3
Авторы внедрили систему Wide & Deep в промышленной среде (Google Play) и опубликовали реализацию на TensorFlow с открытым исходным кодом.
4
Совместно обученная модель Wide & Deep превосходит только широкие и только глубокие модели в онлайн-экспериментах на Google Play, значительно увеличивая установки приложений.
5
Широкие модели с попарными преобразованиями признаков обеспечивают эффективное и интерпретируемое запоминание, но требуют больше инженерии признаков для обобщения.

Рекомендательная система Wide & Deep (совместно обучаемые широкая линейная модель и глубокая нейронная сеть), развернутая для рекомендаций приложений в Google Play

Комбинирование запоминания и обобщения посредством совместного обучения широкой модели (с перекрёстными признаками) и глубокой модели (с встраиваемыми представлениями) для улучшения релевантности рекомендаций и приобретений приложений при разреженных и высокоранговых взаимодействиях пользователь–элемент

Publication Details
Publication Date
2016-09-15
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Xiaobing Liu
Greg S. Corrado
Rohan Anil
Heng-Tze Cheng
Tal Shaked
Tushar Chandra
Levent Koç
Jeremiah Harmsen
Hrishi Aradhye
Glen Anderson
Wei Koong Chai
Mustafa Ispir
Zakaria Haque
Lichan Hong
Vihan Jain
Hemal Shah
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%