Этика использования ChatGPT в медицине и здравоохранении: систематический обзор больших языковых моделей (LLM)

С появлением ChatGPT большие языковые модели (LLM) привлекли огромное внимание в сфере здравоохранения. Несмотря на потенциальные преимущества, исследователи подчеркивают различные этические последствия. Хотя отдельные случаи получили огласку, отсутствует систематический и всесторонний обзор практических применений, которые в настоящее время исследуются, и связанных с ними этических проблем. На этом фоне данная работа картирует этический ландшафт, связанный с текущим внедрением LLM в медицине и здравоохранении, посредством систематического обзора. Были выполнены запросы к электронным базам данных и серверам препринтов с использованием всесторонней стратегии поиска, в результате чего было выявлено 796 записей. Исследования были отобраны, а данные извлечены в соответствии с модифицированным подходом быстрого обзора. Методологическое качество оценивали гибридным подходом. Для 53 записей была выполнена мета-агрегационная синтеза. Выделились четыре общих области применения, демонстрирующие динамичную фазу исследования. Преимущества использования LLM связывают с их способностью к анализу данных, предоставлению информации, поддержке принятия решений, снижению потерь информации и повышению доступности информации. Вместе с тем наше исследование выявляет повторяющиеся этические проблемы, связанные со справедливостью, предвзятостью, ненанесением вреда, прозрачностью и конфиденциальностью. Особую обеспокоенность вызывает склонность моделей порождать вредоносный или убедительный, но неточный контент. Повторяются призывы к этическим руководствам и человеческому надзору. Мы предлагаем сместить фокус дебатов об этическом руководстве на определение того, что составляет приемлемый человеческий надзор по всему спектру применений, с учетом разнообразия условий, разной степени потенциального вреда и разных приемлемых порогов по показателям эффективности и степени уверенности в здравоохранении. Кроме того, необходима критическая оценка целесообразности и обоснованности текущего экспериментального использования LLM.