Обзор взаимодействия RAG и LLM: к большим языковым моделям с дополнением извлечённой информацией

Одной из наиболее передовых технологий в области искусственного интеллекта является генерация с дополнением извлечённой информацией (Retrieval-Augmented Generation, RAG), способная предоставлять надёжные и актуальные внешние знания, что существенно упрощает выполнение множества задач. Особенно в эпоху контента, генерируемого искусственным интеллектом (AI-Generated Content, AIGC), мощные возможности поиска дополнительной информации позволяют RAG содействовать существующим генеративным системам искусственного интеллекта в создании высококачественных результатов. В последнее время большие языковые модели (Large Language Models, LLMs) продемонстрировали революционные способности к пониманию и генерации языка, однако по-прежнему сталкиваются с присущими им ограничениями, включая галлюцинации и устаревшие внутренние знания. Благодаря способности RAG предоставлять наиболее актуальную и полезную вспомогательную информацию появились большие языковые модели с дополнением извлечённой информацией (Retrieval-Augmented Large Language Models, RA-LLMs), использующие внешние авторитетные базы знаний вместо исключительной опоры на внутренние знания модели, что позволяет повысить качество контента, генерируемого LLMs. В этом обзоре мы всесторонне рассматриваем существующие исследования RA-LLMs с трёх основных технических позиций. Кроме того, для более глубокого анализа мы обсуждаем текущие ограничения и несколько перспективных направлений будущих исследований. Актуальная информация об этом обзоре доступна по адресу: https://advanced-recommender-systems.github.io/RAG-Meets-LLMs/