Диагностические подсказки, основанные на рассуждениях, выявляют потенциал интерпретируемости больших языковых моделей в медицине
Diagnostic reasoning prompts reveal the potential for large language model interpretability in medicine
2024-01-24
SCID: 54.1/ktr5r3n7
Discuss with AI
GPT-4клиническое рассуждениепромпты диагностического рассужденияинтерпретируемость больших языковых моделеймедицинская диагностика
Figures from the paper
Abstract (AI)
Одним из основных препятствий для использования больших языковых моделей (LLM) в медицине является представление о том, что они применяют неинтерпретируемые методы принятия клинических решений, принципиально отличающиеся от когнитивных процессов врачей. В данной работе мы разрабатываем подсказки для диагностического рассуждения, чтобы исследовать, способны ли LLM имитировать клиническое рассуждение и одновременно точно устанавливать диагноз. Мы обнаружили, что GPT-4 можно побуждать имитировать распространённые процессы клинического рассуждения врачей без снижения диагностической точности. Это существенно, поскольку LLM, способная имитировать клиническое рассуждение и предоставлять интерпретируемое обоснование, даёт врачам возможность оценивать вероятность правильности ответа LLM и принимать решение о том, можно ли доверять ему при оказании медицинской помощи пациенту. Методы формирования подсказок, использующие диагностическое рассуждение, обладают потенциалом для смягчения ограничений LLM как «чёрного ящика», приближая их к безопасному и эффективному применению в медицине.
Key Findings
1
Диагностическое промптирование может уменьшить проблему «чёрного ящика» LLM и способствовать их более безопасному и эффективному применению в медицине.
2
Разработаны диагностические промпты для оценки способности больших языковых моделей имитировать рассуждения врачей при постановке точных диагнозов.
3
GPT-4 при соответствующем промптинге воспроизводила распространённые процессы клинического рассуждения без снижения диагностической точности.
4
Промпты, основанные на рассуждениях, могут обеспечивать интерпретируемые обоснования, помогающие врачам оценивать вероятную правильность и надёжность ответов LLM.
Research Object
GPT-4 как большая языковая модель, применяемая для медицинской диагностики
Research Subject
Способность имитировать диагностическое рассуждение клиницистов при сохранении диагностической точности и предоставлении интерпретируемых обоснований
Publication Details
Publication Date
2024-01-24
Journal
Publisher
ISSN
Cited by
276
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Большие языковые модели кодируют клинические знания2023
Результаты ChatGPT на экзамене USMLE: потенциал применения больших языковых моделей для медицинского образования с использованием искусственного интеллекта2023
Сравнение ответов врачей и чат-бота на основе искусственного интеллекта на вопросы пациентов, размещённые в публичном форуме в социальных сетях2023
Преимущества, ограничения и риски GPT-4 как чатбота на основе ИИ для медицины2023