Этика ChatGPT в медицине и здравоохранении: систематический обзор больших языковых моделей (LLM)

The ethics of ChatGPT in medicine and healthcare: a systematic review on Large Language Models (LLMs)
Robert Ranisch, Joschka Haltaufderheide
2024-07-08

ChatGPTбольшие языковые моделиалгоритмическая предвзятостьэтика здравоохранениячеловеческий контроль
С появлением ChatGPT большие языковые модели (LLM) привлекли огромное внимание в сфере здравоохранения. Несмотря на потенциальные преимущества, исследователи подчеркивают различные этические последствия их применения. Хотя отдельные случаи уже получили широкое внимание, систематический и всесторонний обзор практических применений, изучаемых в настоящее время, а также связанных с ними этических проблем отсутствует. В связи с этим в данной работе посредством систематического обзора представлена карта этического ландшафта, связанного с текущим внедрением LLM в медицину и здравоохранение. Поиск в электронных базах данных и на серверах препринтов проводился с использованием комплексной поисковой стратегии, в результате которой было выявлено 796 записей. Отбор и извлечение данных из исследований выполнялись в соответствии с модифицированным подходом ускоренного обзора. Методологическое качество оценивалось с использованием гибридного подхода. Для 53 записей был проведен метаагрегативный синтез. Были выделены четыре общих направления применения, что свидетельствует о динамичной фазе изучения возможностей LLM. Преимущества использования LLM связаны с их способностью анализировать данные, предоставлять информацию, поддерживать принятие решений, снижать потери информации и повышать доступность информации. Однако наше исследование также выявляет регулярно возникающие этические проблемы, связанные со справедливостью, предвзятостью, принципом непричинения вреда, прозрачностью и конфиденциальностью. Особую обеспокоенность вызывает склонность моделей генерировать вредоносный либо убедительный, но неточный контент. Регулярно звучат призывы к разработке этических рекомендаций и обеспечению контроля со стороны человека. Мы предлагаем переосмыслить дискуссию об этических рекомендациях, сосредоточив ее на определении того, что представляет собой приемлемый уровень человеческого контроля в различных областях применения. Это требует учета разнообразия условий, различного потенциала причинения вреда, а также разных приемлемых порогов эффективности и достоверности в здравоохранении. Кроме того, необходим критический анализ для оценки необходимости и обоснованности текущего экспериментального использования LLM.
1
Систематический обзор картировал этические проблемы, связанные с текущими и перспективными применениями ChatGPT и других LLM в медицине и здравоохранении.
2
Выделены четыре широкие области применения, отражающие динамическую экспериментальную фазу внедрения LLM в здравоохранении.
3
Необходима дальнейшая критическая оценка необходимости и обоснованности текущего экспериментального использования LLM.
4
Повторяющиеся этические проблемы включают справедливость, предвзятость, недопущение вреда, прозрачность, конфиденциальность, а также создание вредного или убедительного, но недостоверного контента.
5
К заявленным преимуществам относятся анализ данных, предоставление информации, поддержка принятия решений, снижение потери информации и повышение доступности информации.
6
Обзор призывает к человеческому надзору и рекомендует определять его допустимый уровень с учетом контекста применения, потенциального вреда, требований к эффективности и степени уверенности.
7
В обзоре было отобрано 796 публикаций, а результаты 53 источников обобщены с использованием метаагрегативного подхода.

Модели крупного языка (LLM, в частности ChatGPT), применяемые в медицине и здравоохранении

Их практические применения и связанные с ними этические последствия, включая справедливость, предвзятость, принцип непричинения вреда, прозрачность, конфиденциальность, вредоносные неточности и требования к человеческому надзору

Publication Details
Publication Date
2024-07-08
Journal
Publisher
ISSN
Cited by
396
Access Type
Author Information
Authors
Robert Ranisch
Joschka Haltaufderheide
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%