Этика ChatGPT в медицине и здравоохранении: систематический обзор больших языковых моделей (LLM)
The ethics of ChatGPT in medicine and healthcare: a systematic review on Large Language Models (LLMs)
2024-07-08
SCID: 54.1/zehff2mt
Discuss with AI
ChatGPTбольшие языковые моделиалгоритмическая предвзятостьэтика здравоохранениячеловеческий контроль
Figures from the paper
Abstract (AI)
С появлением ChatGPT большие языковые модели (LLM) привлекли огромное внимание в сфере здравоохранения. Несмотря на потенциальные преимущества, исследователи подчеркивают различные этические последствия их применения. Хотя отдельные случаи уже получили широкое внимание, систематический и всесторонний обзор практических применений, изучаемых в настоящее время, а также связанных с ними этических проблем отсутствует. В связи с этим в данной работе посредством систематического обзора представлена карта этического ландшафта, связанного с текущим внедрением LLM в медицину и здравоохранение. Поиск в электронных базах данных и на серверах препринтов проводился с использованием комплексной поисковой стратегии, в результате которой было выявлено 796 записей. Отбор и извлечение данных из исследований выполнялись в соответствии с модифицированным подходом ускоренного обзора. Методологическое качество оценивалось с использованием гибридного подхода. Для 53 записей был проведен метаагрегативный синтез. Были выделены четыре общих направления применения, что свидетельствует о динамичной фазе изучения возможностей LLM. Преимущества использования LLM связаны с их способностью анализировать данные, предоставлять информацию, поддерживать принятие решений, снижать потери информации и повышать доступность информации. Однако наше исследование также выявляет регулярно возникающие этические проблемы, связанные со справедливостью, предвзятостью, принципом непричинения вреда, прозрачностью и конфиденциальностью. Особую обеспокоенность вызывает склонность моделей генерировать вредоносный либо убедительный, но неточный контент. Регулярно звучат призывы к разработке этических рекомендаций и обеспечению контроля со стороны человека. Мы предлагаем переосмыслить дискуссию об этических рекомендациях, сосредоточив ее на определении того, что представляет собой приемлемый уровень человеческого контроля в различных областях применения. Это требует учета разнообразия условий, различного потенциала причинения вреда, а также разных приемлемых порогов эффективности и достоверности в здравоохранении. Кроме того, необходим критический анализ для оценки необходимости и обоснованности текущего экспериментального использования LLM.
Key Findings
1
Систематический обзор картировал этические проблемы, связанные с текущими и перспективными применениями ChatGPT и других LLM в медицине и здравоохранении.
2
Выделены четыре широкие области применения, отражающие динамическую экспериментальную фазу внедрения LLM в здравоохранении.
3
Необходима дальнейшая критическая оценка необходимости и обоснованности текущего экспериментального использования LLM.
4
Повторяющиеся этические проблемы включают справедливость, предвзятость, недопущение вреда, прозрачность, конфиденциальность, а также создание вредного или убедительного, но недостоверного контента.
5
К заявленным преимуществам относятся анализ данных, предоставление информации, поддержка принятия решений, снижение потери информации и повышение доступности информации.
6
Обзор призывает к человеческому надзору и рекомендует определять его допустимый уровень с учетом контекста применения, потенциального вреда, требований к эффективности и степени уверенности.
7
В обзоре было отобрано 796 публикаций, а результаты 53 источников обобщены с использованием метаагрегативного подхода.
Research Object
Модели крупного языка (LLM, в частности ChatGPT), применяемые в медицине и здравоохранении
Research Subject
Их практические применения и связанные с ними этические последствия, включая справедливость, предвзятость, принцип непричинения вреда, прозрачность, конфиденциальность, вредоносные неточности и требования к человеческому надзору
Publication Details
Publication Date
2024-07-08
Journal
Publisher
ISSN
Cited by
396
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai12
Анализ расового предвзятого отношения в алгоритме, используемом для управления здоровьем населения2019
Большие языковые модели кодируют клинические знания2023
Полезность ChatGPT в образовании, исследованиях и практике здравоохранения: систематический обзор перспективных возможностей и обоснованных опасений2023
Сравнение ответов врачей и чат-бота на основе искусственного интеллекта на вопросы пациентов, размещённые в публичном форуме в социальных сетях2023
О возможностях и рисках фундаментальных моделей2021
ChatGPT: комплексный обзор предпосылок создания, применений, ключевых проблем, предвзятости, этических аспектов, ограничений и перспектив развития2023
Этика этики искусственного интеллекта: оценка руководящих принципов2020
Преимущества, ограничения и риски GPT-4 как чатбота на основе ИИ для медицины2023
Будущий ландшафт больших языковых моделей в медицине2023
ChatGPT и рост крупных языковых моделей: новая угроза инфодемии, вызванной ИИ, для общественного здоровья2023
Создание научного контента с помощью ChatGPT: этические проблемы медицинской публикации2023
Проблемы и применения больших языковых моделей2023