Ответы большой языковой модели на медицинские вопросы по стандартным патоморфологическим заключениям
Large language model answers medical questions about standard pathology reports
2024-09-18
SCID: 54.1/rscm4knv
Discuss with AI
ChatGPTколоректальный ракврачебно-пациентская коммуникациябольшие языковые моделипатологические отчёты
Figures from the paper
Abstract (AI)
Целью настоящего исследования была оценка возможности использования большой языковой модели (LLM) для ответов на вопросы по патологической анатомии на основе патоморфологических заключений (PR) пациентов с колоректальным раком (CRC). Четыре распространённых вопроса (CQ) и соответствующие ответы по патологической анатомии были отобраны из общедоступных веб-страниц. Эти вопросы использовали в качестве запросов для Chat Generative Pre-trained Transformer (ChatGPT; gpt-3.5-turbo). Гастроэнтерологи оценивали качество всех ответов по следующим показателям: понятность, научная обоснованность и удовлетворённость. Были отобраны стандартные патоморфологические заключения пяти пациентов с CRC, которым была выполнена радикальная операция в Шанхайской больнице Чанчжэн. Гастроэнтеролог и патоморфолог сформулировали шесть вопросов по заключениям (RQ) и соответствующие ответы. Мы разработали интерактивную систему интерпретации патоморфологических заключений, позволяющую пользователям загружать стандартные заключения в виде изображений JPG. После этого генерировались ответы ChatGPT на вопросы RQ. Гастроэнтерологи и амбулаторные пациенты оценивали качество всех ответов по указанным показателям. Для CQ гастроэнтерологи оценили ответы, созданные искусственным интеллектом, аналогично ответам без использования ИИ по понятности, научной обоснованности и удовлетворённости. Для RQ1–3 гастроэнтерологи и пациенты присвоили ответам ИИ более высокие средние баллы, чем ответам без использования ИИ, по всем показателям качества. Однако для RQ4–6 гастроэнтерологи присвоили ответам ИИ более низкие средние баллы, чем ответам без использования ИИ, по понятности и удовлетворённости. Для RQ4 гастроэнтерологи оценили научную обоснованность ответов ИИ ниже, чем ответов без использования ИИ (P = 0.011); пациенты оценили понятность и удовлетворённость ответами ИИ ниже (P = 0.004 и P = 0.011 соответственно). В заключение, большие языковые модели способны генерировать достоверные ответы на распространённые вопросы по патологической анатомии и концептуальные вопросы, основанные на патоморфологических заключениях. Они обладают значительным потенциалом для улучшения взаимодействия между врачами и пациентами.
Key Findings
1
Интерактивная система позволяла ChatGPT интерпретировать загруженные стандартные патологические отчёты пациентов с колоректальным раком, что указывает на потенциал поддержки коммуникации между врачами и пациентами, несмотря на ограничения для некоторых вопросов.
2
ChatGPT генерировал ответы на распространённые патологические вопросы, которые гастроэнтерологи оценили аналогично не-ИИ-ответам по понятности, научной обоснованности и удовлетворённости.
3
Для вопросов по патологическим отчётам 4–6 гастроэнтерологи оценили ответы ChatGPT ниже не-ИИ-ответов по понятности и удовлетворённости.
4
Для вопроса RQ4 ответы ChatGPT получили статистически значимо более низкие оценки научной обоснованности у гастроэнтерологов (P = 0,011), а также понятности и удовлетворённости у пациентов (P = 0,004 и P = 0,011).
5
Для первых трёх вопросов по патологическим отчётам и гастроэнтерологи, и пациенты оценили среднее качество ответов ChatGPT выше, чем качество не-ИИ-ответов.
Research Object
ChatGPT (gpt-3.5-turbo), отвечающий на вопросы на основе стандартных патоморфологических заключений пациентов с колоректальным раком
Research Subject
Осуществимость, качество ответов и сравнительная эффективность большой языковой модели по показателям понимания, научной корректности и удовлетворённости при ответах на общие и основанные на заключениях вопросы по патологии
Publication Details
Publication Date
2024-09-18
Journal
Publisher
ISSN
Cited by
13
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Сравнение ответов врачей и чат-бота на основе искусственного интеллекта на вопросы пациентов, размещённые в публичном форуме в социальных сетях2023
Как ChatGPT показывает себя на экзамене для получения медицинской лицензии в США (USMLE)? Последствия использования крупных языковых моделей для медицинского образования и оценки знаний2023
Almanac — языковые модели с дополнением посредством поиска для клинической медицины2024
Обогащение контекстуализированных языковых моделей графами знаний для извлечения биомедицинской информации2020