Руководство для клиницистов по большим языковым моделям: общий обзор с акцентом на галлюцинации
The Clinicians’ Guide to Large Language Models: A General Perspective With a Focus on Hallucinations
2025-01-28
SCID: 54.1/6rwedkr4
Discuss with AI
авторегрессионная генерацияклиническая реализациягаллюцинации (ложная информация)большие языковые моделифакторы обучающего набора данных
Figures from the paper
Abstract (AI)
Большие языковые модели (LLM) — это инструменты искусственного интеллекта, которые потенциально могут глубоко изменить практику всех аспектов медицины. Учитывая значительный потенциал LLM в медицине и интерес многих участников здравоохранения к их внедрению в рутинную практику, клиницисты должны быть осведомлены о основных рисках, связанных с использованием этих моделей. Существенным риском является способность LLM порождать галлюцинации. Галлюцинации (ложная информация), генерируемые LLM, возникают по множеству причин, включая факторы, связанные с обучающим набором данных, а также их авторегрессионную природу. Последствия для клинической практики варьируются от генерации неточной диагностической и терапевтической информации до закрепления ошибочных путей диагностического мышления и снижения надежности при неправильном использовании. Для снижения этого риска нами разработана общая техническая рамка по использованию LLM в повседневной клинической практике и при внедрении на уровне учреждений.
Key Findings
1
Основной риск при использовании LLM в медицине — галлюцинации, то есть генерация ложной информации, вызванная проблемами обучающего набора данных и авторегрессионной природой моделей.
2
Галлюцинации могут приводить к неточным диагностическим и терапевтическим рекомендациям и укреплять ошибочные клинические цепочки рассуждений при неправильном использовании LLM.
3
Большие языковые модели имеют значительный потенциал изменить все аспекты медицинской практики, но также несут важные риски, которые должны понимать клиницисты.
4
LLM могут быть ненадёжны в клинических условиях, если не применяются соответствующие защитные меры и практики использования.
5
Авторы предлагают общую техническую рамку для клиницистов и учреждений по использованию LLM в рутинной клинической практике и при масштабной реализации для уменьшения рисков.
Research Object
Модели большого языка (LLM), используемые в клинической/медицинской практике
Research Subject
Риск галлюцинаций (порождения ложной информации) моделями LLM и разработанная общая техническая рамка для смягчения их причин и клинических последствий для диагностики, терапии и диагностического мышления при внедрении в рутинную и институциональную медицинскую практику
Publication Details
Publication Date
2025-01-28
Journal
Publisher
ISSN
Cited by
192
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
Использование генеративного искусственного интеллекта для масштабирования интеллектуальных обучающих систем2023
Интеллект, компилируемый через аффордансы: наблюдаемое сопоставление когнитивных импедансов для LLM-интегрированных систем без мета-доступа2020
Результаты ChatGPT на экзамене USMLE: потенциал применения больших языковых моделей для медицинского образования с использованием искусственного интеллекта2023
Сравнение ответов врачей и чат-бота на основе искусственного интеллекта на вопросы пациентов, размещённые в публичном форуме в социальных сетях2023
Преимущества, ограничения и риски GPT-4 как чатбота на основе ИИ для медицины2023