Руководство для клиницистов по большим языковым моделям: общий обзор с акцентом на галлюцинации

Большие языковые модели (LLM) — это инструменты искусственного интеллекта, которые потенциально могут глубоко изменить практику всех аспектов медицины. Учитывая значительный потенциал LLM в медицине и интерес многих участников здравоохранения к их внедрению в рутинную практику, клиницисты должны быть осведомлены о основных рисках, связанных с использованием этих моделей. Существенным риском является способность LLM порождать галлюцинации. Галлюцинации (ложная информация), генерируемые LLM, возникают по множеству причин, включая факторы, связанные с обучающим набором данных, а также их авторегрессионную природу. Последствия для клинической практики варьируются от генерации неточной диагностической и терапевтической информации до закрепления ошибочных путей диагностического мышления и снижения надежности при неправильном использовании. Для снижения этого риска нами разработана общая техническая рамка по использованию LLM в повседневной клинической практике и при внедрении на уровне учреждений.