Диагностические подсказки, основанные на рассуждениях, выявляют потенциал интерпретируемости больших языковых моделей в медицине

Diagnostic reasoning prompts reveal the potential for large language model interpretability in medicine
Jonathan H. Chen, Robert J. Gallo, Robert Gallo, Thomas Savage, Ashwin Nayak, Ekanath Srihari Rangan
2024-01-24

GPT-4клиническое рассуждениепромпты диагностического рассужденияинтерпретируемость больших языковых моделеймедицинская диагностика
Одним из основных препятствий для использования больших языковых моделей (LLM) в медицине является представление о том, что они применяют неинтерпретируемые методы принятия клинических решений, принципиально отличающиеся от когнитивных процессов врачей. В данной работе мы разрабатываем подсказки для диагностического рассуждения, чтобы исследовать, способны ли LLM имитировать клиническое рассуждение и одновременно точно устанавливать диагноз. Мы обнаружили, что GPT-4 можно побуждать имитировать распространённые процессы клинического рассуждения врачей без снижения диагностической точности. Это существенно, поскольку LLM, способная имитировать клиническое рассуждение и предоставлять интерпретируемое обоснование, даёт врачам возможность оценивать вероятность правильности ответа LLM и принимать решение о том, можно ли доверять ему при оказании медицинской помощи пациенту. Методы формирования подсказок, использующие диагностическое рассуждение, обладают потенциалом для смягчения ограничений LLM как «чёрного ящика», приближая их к безопасному и эффективному применению в медицине.
1
Диагностическое промптирование может уменьшить проблему «чёрного ящика» LLM и способствовать их более безопасному и эффективному применению в медицине.
2
Разработаны диагностические промпты для оценки способности больших языковых моделей имитировать рассуждения врачей при постановке точных диагнозов.
3
GPT-4 при соответствующем промптинге воспроизводила распространённые процессы клинического рассуждения без снижения диагностической точности.
4
Промпты, основанные на рассуждениях, могут обеспечивать интерпретируемые обоснования, помогающие врачам оценивать вероятную правильность и надёжность ответов LLM.

GPT-4 как большая языковая модель, применяемая для медицинской диагностики

Способность имитировать диагностическое рассуждение клиницистов при сохранении диагностической точности и предоставлении интерпретируемых обоснований

Publication Details
Publication Date
2024-01-24
Journal
Publisher
ISSN
Cited by
276
Access Type
Author Information
Authors
Jonathan H. Chen
Robert J. Gallo
Robert Gallo
Thomas Savage
Ashwin Nayak
Ekanath Srihari Rangan
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%