Генерация с дополнением поиском для больших языковых моделей в здравоохранении: систематический обзор

Большие языковые модели (LLM) продемонстрировали многообещающие возможности для решения сложных задач в критически важных сферах, таких как здравоохранение. Однако LLM ограничены своими обучающими данными, которые часто устаревают, склонностью генерировать неточный («галлюцинирующий») контент и отсутствием прозрачности создаваемого ими контента. Для устранения этих ограничений генерация с дополнением поиском (retrieval-augmented generation, RAG) обосновывает ответы LLM за счет обращения к внешним источникам знаний. Вместе с тем в сфере здравоохранения в настоящее время отсутствует систематическое понимание того, какие наборы данных, методологии RAG и оценочные фреймворки доступны. Настоящий обзор направлен на восполнение этого пробела посредством оценки подходов на основе RAG, применяемых совместно с LLM в здравоохранении, с акцентом на различные этапы поиска, дополнения и генерации. Кроме того, мы выявляем ограничения, сильные стороны и пробелы в существующей литературе. Наш синтез показывает, что 78,9% исследований использовали наборы данных на английском языке, а 21,1% — наборы данных на китайском языке. Мы обнаружили, что в LLM на основе RAG в здравоохранении применяется широкий спектр методов, включая Naive RAG, Advanced RAG и Modular RAG. Удивительно, но для приложений RAG в здравоохранении чаще всего используются проприетарные модели, такие как GPT-3.5/4. Мы обнаружили отсутствие стандартизированных фреймворков оценки приложений на основе RAG. Кроме того, большинство исследований не оценивают этические аспекты, связанные с применением RAG в здравоохранении, и не рассматривают их. Важно учитывать этические проблемы, присущие внедрению систем искусственного интеллекта в клиническую практику. Наконец, мы подчеркиваем необходимость дальнейших исследований и разработок для обеспечения ответственного и эффективного внедрения RAG в медицинской сфере.