Улучшение применения больших языковых моделей в биомедицине с помощью генерации с дополнением извлечённой информацией: систематический обзор, метаанализ и рекомендации по клинической разработке

Improving large language model applications in biomedicine with retrieval-augmented generation: a systematic review, meta-analysis, and clinical development guidelines
Allison B. McCoy, Adam Wright, Siru Liu
2025-01-03

биомедицинарекомендации по клинической разработкебольшие языковые моделигенерация с дополнением извлечениемсистематический обзор и метаанализ
ЦЕЛЬ: Целью настоящего исследования было обобщить результаты недавних исследований генерации с дополнением извлечённой информацией (retrieval-augmented generation, RAG) и больших языковых моделей (large language models, LLMs) в биомедицине, а также разработать рекомендации по клинической разработке для повышения эффективности. МАТЕРИАЛЫ И МЕТОДЫ: Были проведены систематический обзор литературы и метаанализ. Отчёт подготовлен в соответствии с рекомендациями Preferred Reporting Items for Systematic Reviews and Meta-Analyses 2020. Поиск выполнялся в 3 базах данных (PubMed, Embase, PsycINFO) с использованием терминов, связанных с «генерацией с дополнением извлечённой информацией» и «большой языковой моделью», для поиска статей, опубликованных в 2023 и 2024 годах. Были отобраны исследования, в которых сравнивались показатели базовых больших языковых моделей с показателями моделей, использующих RAG. Была разработана модель метаанализа со случайными эффектами, в которой в качестве размера эффекта использовалось отношение шансов. РЕЗУЛЬТАТЫ: Из 335 исследований 20 были включены в данный обзор литературы. Объединённый размер эффекта составил 1,35; 95%-ный доверительный интервал — 1,19–1,53, что указывает на статистически значимый эффект (P = .001). Были представлены клинические задачи, базовые большие языковые модели, источники и стратегии извлечения, а также методы оценки. ОБСУЖДЕНИЕ: На основе обзора литературы были разработаны Рекомендации по унифицированному внедрению и разработке усовершенствованных приложений на основе больших языковых моделей с использованием RAG в клинических условиях, предназначенные для содействия применению RAG в клинической практике. ЗАКЛЮЧЕНИЕ: В целом внедрение RAG обеспечило увеличение показателя эффективности по отношению шансов в 1,35 раза по сравнению с базовыми большими языковыми моделями. В будущих исследованиях следует сосредоточиться на (1) совершенствовании на уровне системы: сочетании RAG и интеллектуальных агентов; (2) совершенствовании на уровне знаний: глубокой интеграции знаний в большие языковые модели; и (3) совершенствовании на уровне интеграции: интеграции систем RAG в электронные медицинские карты.
1
Систематический обзор отобрал 335 исследований, из которых 20 сравнивали базовые большие языковые модели с моделями, использующими генерацию с дополнением поиска, в биомедицине.
2
Приоритеты будущих исследований включают сочетание RAG с агентами, глубокую интеграцию знаний в LLM и внедрение RAG-систем в электронные медицинские карты.
3
Метаанализ показал, что RAG повышает эффективность по сравнению с базовыми LLM: объединённое отношение шансов составило 1,35 (95% ДИ 1,19–1,53; P = .001).
4
Авторы разработали рекомендации по унифицированной разработке и внедрению усовершенствованных приложений LLM с RAG в клинических условиях.
5
Обзор охарактеризовал клинические задачи, базовые модели, источники и стратегии поиска, а также методы оценки, применявшиеся в биомедицинских исследованиях RAG.

Приложения генерации с дополнением извлечённой информацией (RAG), использующие большие языковые модели (LLM) в биомедицине и клинических условиях

Эффективность и повышение производительности больших языковых моделей, усовершенствованных с помощью RAG, по сравнению с базовыми LLM при выполнении биомедицинских и клинических задач

Publication Details
Publication Date
2025-01-03
Journal
Publisher
ISSN
Cited by
166
Access Type
Author Information
Authors
Allison B. McCoy
Adam Wright
Siru Liu
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%