Ответы большой языковой модели на медицинские вопросы по стандартным патоморфологическим заключениям

Large language model answers medical questions about standard pathology reports
Hongyi Xin, Haiyang Zhou, Haotian Cao, Anqi Wang, Jieli Zhou, Peng Zhang, Xinyun Xu
2024-09-18

ChatGPTколоректальный ракврачебно-пациентская коммуникациябольшие языковые моделипатологические отчёты
Целью настоящего исследования была оценка возможности использования большой языковой модели (LLM) для ответов на вопросы по патологической анатомии на основе патоморфологических заключений (PR) пациентов с колоректальным раком (CRC). Четыре распространённых вопроса (CQ) и соответствующие ответы по патологической анатомии были отобраны из общедоступных веб-страниц. Эти вопросы использовали в качестве запросов для Chat Generative Pre-trained Transformer (ChatGPT; gpt-3.5-turbo). Гастроэнтерологи оценивали качество всех ответов по следующим показателям: понятность, научная обоснованность и удовлетворённость. Были отобраны стандартные патоморфологические заключения пяти пациентов с CRC, которым была выполнена радикальная операция в Шанхайской больнице Чанчжэн. Гастроэнтеролог и патоморфолог сформулировали шесть вопросов по заключениям (RQ) и соответствующие ответы. Мы разработали интерактивную систему интерпретации патоморфологических заключений, позволяющую пользователям загружать стандартные заключения в виде изображений JPG. После этого генерировались ответы ChatGPT на вопросы RQ. Гастроэнтерологи и амбулаторные пациенты оценивали качество всех ответов по указанным показателям. Для CQ гастроэнтерологи оценили ответы, созданные искусственным интеллектом, аналогично ответам без использования ИИ по понятности, научной обоснованности и удовлетворённости. Для RQ1–3 гастроэнтерологи и пациенты присвоили ответам ИИ более высокие средние баллы, чем ответам без использования ИИ, по всем показателям качества. Однако для RQ4–6 гастроэнтерологи присвоили ответам ИИ более низкие средние баллы, чем ответам без использования ИИ, по понятности и удовлетворённости. Для RQ4 гастроэнтерологи оценили научную обоснованность ответов ИИ ниже, чем ответов без использования ИИ (P = 0.011); пациенты оценили понятность и удовлетворённость ответами ИИ ниже (P = 0.004 и P = 0.011 соответственно). В заключение, большие языковые модели способны генерировать достоверные ответы на распространённые вопросы по патологической анатомии и концептуальные вопросы, основанные на патоморфологических заключениях. Они обладают значительным потенциалом для улучшения взаимодействия между врачами и пациентами.
1
Интерактивная система позволяла ChatGPT интерпретировать загруженные стандартные патологические отчёты пациентов с колоректальным раком, что указывает на потенциал поддержки коммуникации между врачами и пациентами, несмотря на ограничения для некоторых вопросов.
2
ChatGPT генерировал ответы на распространённые патологические вопросы, которые гастроэнтерологи оценили аналогично не-ИИ-ответам по понятности, научной обоснованности и удовлетворённости.
3
Для вопросов по патологическим отчётам 4–6 гастроэнтерологи оценили ответы ChatGPT ниже не-ИИ-ответов по понятности и удовлетворённости.
4
Для вопроса RQ4 ответы ChatGPT получили статистически значимо более низкие оценки научной обоснованности у гастроэнтерологов (P = 0,011), а также понятности и удовлетворённости у пациентов (P = 0,004 и P = 0,011).
5
Для первых трёх вопросов по патологическим отчётам и гастроэнтерологи, и пациенты оценили среднее качество ответов ChatGPT выше, чем качество не-ИИ-ответов.

ChatGPT (gpt-3.5-turbo), отвечающий на вопросы на основе стандартных патоморфологических заключений пациентов с колоректальным раком

Осуществимость, качество ответов и сравнительная эффективность большой языковой модели по показателям понимания, научной корректности и удовлетворённости при ответах на общие и основанные на заключениях вопросы по патологии

Publication Details
Publication Date
2024-09-18
Journal
Publisher
ISSN
Cited by
13
Access Type
Author Information
Authors
Hongyi Xin
Haiyang Zhou
Haotian Cao
Anqi Wang
Jieli Zhou
Peng Zhang
Xinyun Xu
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%