Генерация с дополнением извлечённой информацией для контента, создаваемого искусственным интеллектом: обзор

Развитие алгоритмов моделей, появление фундаментальных моделей и доступность высококачественных наборов данных стимулировали эволюцию контента, создаваемого искусственным интеллектом (AIGC). Несмотря на значительные успехи, AIGC по-прежнему сталкивается с такими проблемами, как обновление знаний, обработка данных из «длинного хвоста», снижение риска утечки данных и высокие затраты на обучение и инференс. В последнее время генерация с дополнением извлечённой информацией (retrieval-augmented generation, RAG) стала новым подходом к решению этих задач. В частности, RAG вводит процесс информационного поиска, который совершенствует процесс генерации за счёт извлечения релевантных объектов из доступных хранилищ данных, что повышает точность и устойчивость. В настоящей работе представлен всесторонний обзор существующих исследований, интегрирующих методы RAG в сценарии AIGC. Сначала мы классифицируем основы RAG в соответствии с тем, каким образом модуль извлечения дополняет генератор, выделяя фундаментальные абстракции методов дополнения для различных модулей извлечения и генераторов. Эта унифицированная перспектива охватывает все сценарии RAG, раскрывая достижения и ключевые технологии, способствующие дальнейшему развитию. Мы также обобщаем дополнительные методы совершенствования RAG, обеспечивающие эффективное проектирование и реализацию систем RAG. Затем, с другой точки зрения, рассматриваем практические применения RAG в различных модальностях и задачах, предлагая исследователям и практикам полезные ориентиры. Кроме того, мы представляем бенчмарки для RAG, обсуждаем ограничения современных систем RAG и предлагаем перспективные направления дальнейших исследований.