Создание научного контента с помощью ChatGPT: этические проблемы медицинской публикации

Влияние генеративного искусственного интеллекта (ИИ) на практику медицинских публикаций в настоящее время неизвестно. Однако наш опыт указывает на то, что генеративный ИИ может иметь серьёзные этические последствия. ChatGPT (OpenAI, Сан-Франциско, Калифорния, США) — чат-бот на основе ИИ, выпущенный в ноябре 2022 года. Созданный с учётом обратной связи от людей и свободно доступный, этот сервис уже привлёк миллионы взаимодействий. При обработке запроса ChatGPT автоматически генерирует ответ на основе тысяч интернет-источников, часто без дополнительного ввода от пользователя. В результате сообщается, что ChatGPT использовали для написания университетских эссе и научных статей, а при необходимости система может привести и сопроводительные ссылки. Учитывая эти данные и широкое использование, мы попросили ChatGPT написать комментарий для The Lancet Digital Health о вопросах этики ИИ в медицинских публикациях и затем спросили, как редакция должна обращаться с академическим содержимым, созданным ИИ; полученные ответы заслуживают внимания. Функциональность ChatGPT подчёркивает растущую необходимость внедрения надёжных руководств по авторству ИИ в научных публикациях. Возникают этические вопросы, связанные с авторским правом, указанием авторства, плагиатом и соавторством, когда академический текст создаётся ИИ; эти проблемы особенно актуальны, поскольку человеку и программам для обнаружения плагиата в настоящее время трудно отличить текст, созданный ИИ. В разных областях уже указывали ChatGPT в качестве автора, но остаётся дискуссионным, соответствует ли генеративный ИИ критериям авторства Международного комитета редакторов медицинских журналов: может ли чат-бот действительно одобрить работу и нести ответственность за её содержание? Комитет по этике публикаций разработал рекомендации по использованию ИИ при редакторских решениях, а международная ассоциация научных, технических и медицинских издателей подготовила доклад по этике ИИ. По мере того как технологии становятся более адаптированными к потребностям пользователей и более широко внедряются, необходимы всесторонние обсуждения политик авторства. Elsevier и другие крупные издатели заявили, что ИИ не может быть указан в качестве автора, и его использование должно быть должным образом отражено. ChatGPT в настоящее время доступен бесплатно, однако руководство OpenAI подтвердило, что бесплатный доступ временный и продукт в конечном итоге будет монетизирован; одной из коммерческих опций может стать платный доступ, что способно укрепить международное неравенство в научных публикациях, ограничив доступ для учреждений в странах с низким и средним уровнем дохода. По нашему мнению, пока ChatGPT остаётся бесплатным, его простота использования и доступность могут существенно увеличить объём научных публикаций и потенциально демократизировать распространение знаний, поскольку чат-бот может принимать и генерировать текст на нескольких языках, обходя барьеры, связанные с необходимостью публикации на английском языке. Тем не менее ChatGPT способен генерировать вводящую в заблуждение или неточную информацию, что вызывает опасения по поводу научной дезинформации; как показывает инфодемия при COVID-19, распространение дезинформации в медицинских публикациях может иметь серьёзные общественные последствия. OpenAI указывает ограничение: «ChatGPT иногда пишет звучащие правдоподобно, но неверные или бессмысленные ответы», и сам чат-бот отметил эту возможность в наших взаимодействиях. Ранний выпуск ChatGPT неизбежно породит конкурентов, что может сделать эту проблему широко распространённой. Соответственно, и в соответствии с рекомендацией ChatGPT, The Lancet Digital Health следует тщательно учитывать этические последствия публикации материалов, созданных ИИ. Мы призываем The Lancet Digital Health и семейство журналов Lancet инициировать серьёзные обсуждения последствий контента, порождённого ИИ, в академическом издательстве и разработать всесторонние руководства. Популярность ChatGPT и наш опыт показывают, что время для таких разговоров настало. Мы заявляем об отсутствии конфликта интересов.