Системы рекомендаций в эпоху больших языковых моделей (LLMs)

С развитием электронной коммерции и веб-приложений системы рекомендаций (RecSys) стали неотъемлемой частью повседневной жизни, предоставляя персонализированные предложения, соответствующие предпочтениям пользователей. Хотя глубокие нейронные сети (DNN) достигли значительного прогресса в улучшении систем рекомендаций за счёт моделирования взаимодействий «пользователь–объект» и учёта текстовой побочной информации, эти методы на основе DNN по-прежнему имеют ограничения, такие как трудности с эффективным пониманием интересов пользователей и захватом текстовой побочной информации, неспособность обобщаться на различные видимые/невидимые сценарии рекомендаций и ограниченные возможности рассуждения о своих предсказаниях. Между тем появление больших языковых моделей (LLMs), таких как ChatGPT и GPT-4, революционизировало области обработки естественного языка (NLP) и искусственного интеллекта (AI) благодаря выдающимся способностям в понимании и генерации языка, а также впечатляющим возможностям обобщения и рассуждения. В результате недавние исследования активно стремятся использовать мощь LLM для улучшения систем рекомендаций. Учитывая быстрый рост этого направления, существует острая необходимость в систематическом обзоре, суммирующем существующие системы рекомендаций с поддержкой LLM, чтобы обеспечить исследователей и практиков глубинным пониманием. В данном обзоре мы проводим всесторонний анализ систем рекомендаций, использующих LLM, по различным аспектам, включая предобучение, дообучение и подходы с подсказками (prompting). В частности, мы сначала представляем представительные методы использования LLM в качестве кодировщика признаков для обучения представлений пользователей и объектов. Затем мы систематически рассматриваем возникающие продвинутые техники применения LLM для улучшения систем рекомендаций в трёх парадигмах: предобучение, дообучение и prompting. Наконец, мы обсуждаем перспективные направления в этой развивающейся области.