Семь критических точек отказа при разработке системы генерации с дополнением извлечённой информацией

Seven Failure Points When Engineering a Retrieval Augmented Generation System
Scott Barnett, Stefanus Kurniawan, Srikanth Thudumu, Zach Brannelly, Mohamed Abdelrazek
2024-04-14

галлюцинации в ответахинформационный поискбольшие языковые моделигенерация с дополненным поискомсемантический поиск
Разработчики программного обеспечения всё чаще добавляют в приложения возможности семантического поиска, используя стратегию, известную как генерация с дополнением извлечённой информацией (Retrieval-Augmented Generation, RAG). Система RAG включает поиск документов, семантически соответствующих запросу, и последующую передачу этих документов большой языковой модели (large language model, LLM), такой как ChatGPT, для извлечения правильного ответа. Системы RAG призваны: (а) уменьшить проблему галлюцинаций в ответах LLM, (б) связывать сгенерированные ответы с источниками или ссылками и (в) устранить необходимость аннотирования документов метаданными. Однако системы RAG имеют ограничения, присущие системам информационного поиска, а также зависят от LLM. В статье представлен отчёт об опыте, посвящённый точкам отказа систем RAG, на основе трёх тематических исследований в различных областях: научных исследованиях, образовании и биомедицине. Мы обобщаем полученные уроки и выделяем семь точек отказа, которые необходимо учитывать при проектировании системы RAG. Основные выводы нашей работы заключаются в следующем: (1) валидация системы RAG возможна только в процессе эксплуатации, а (2) устойчивость системы RAG формируется постепенно, а не проектируется с самого начала. В заключение приведён перечень перспективных направлений исследований систем RAG для сообщества специалистов по программной инженерии.
1
RAG предназначен для снижения галлюцинаций, предоставления ссылок на источники и отказа от аннотирования документов метаданными, однако эти цели не гарантируются.
2
Надёжность RAG развивается со временем и требует непрерывного совершенствования, а не может быть полностью спроектирована при запуске системы.
3
Системы RAG наследуют ограничения как компонентов информационного поиска, так и своей зависимости от больших языковых моделей.
4
В статье выявлены семь точек отказа систем Retrieval Augmented Generation на основе трёх тематических исследований в областях науки, образования и биомедицины.
5
Валидация системы RAG возможна только в процессе эксплуатации, а не исключительно на этапе первоначальной разработки.

системы генерации с дополненным поиском (Retrieval Augmented Generation, RAG)

точки отказа, эксплуатационная валидация и развивающаяся устойчивость систем RAG в исследовательской, образовательной и биомедицинской областях

Publication Details
Publication Date
2024-04-14
Journal
Publisher
ISSN
Cited by
155
Access Type
Author Information
Authors
Scott Barnett
Stefanus Kurniawan
Srikanth Thudumu
Zach Brannelly
Mohamed Abdelrazek
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%