ChatGPT и рост крупных языковых моделей: новая угроза инфодемии, вызванной ИИ, для общественного здоровья
ChatGPT and the rise of large language models: the new AI-driven infodemic threat in public health
2023-04-25
SCID: 54.1/zuy7fc23
Discuss with AI
инфодемия, вызванная ИИChatGPTБольшие языковые модели (LLMs)обнаружение текста, сгенерированного ИИдезинформация в области общественного здравоохранения
Figures from the paper
Abstract (AI)
Крупные языковые модели (LLM) недавно привлекли внимание после выхода ChatGPT — ориентированного на пользователя чат-бота от OpenAI. В этой обзорной статье мы прослеживаем эволюцию LLM, чтобы понять революцию, принесенную ChatGPT в области искусственного интеллекта (ИИ). Возможности LLM для поддержки научных исследований многочисленны, и различные модели уже были опробованы в задачах обработки естественного языка (NLP) в этой сфере. Влияние ChatGPT оказалось значительным как для широкой публики, так и для исследовательского сообщества: многие авторы использовали чат-бота для написания частей своих статей, а в некоторых работах ChatGPT даже указывали в качестве соавтора. От использования LLM вытекают тревожные этические и практические проблемы, особенно в медицине, ввиду их потенциального воздействия на общественное здоровье. Инфодемия является актуальной темой общественного здравоохранения, и способность LLM быстро генерировать огромные объемы текста может усилить распространение дезинформации в беспрецедентных масштабах, что может привести к «инфодемии, вызванной ИИ» — новой угрозе для общественного здоровья. Политики и меры противодействия этому явлению необходимо разработать срочно, поскольку проблема точного обнаружения текстов, сгенерированных искусственным интеллектом, остается неразрешенной.
Key Findings
1
ChatGPT и другие большие языковые модели произвели революцию в ИИ, обеспечив интерфейсы разговорного типа и широкое распространение среди пользователей.
2
Широкое использование ChatGPT включает написание частей статей авторами и указание ChatGPT в качестве соавтора, что вызывает этические проблемы.
3
Отсутствуют адекватные политики и надёжные методы обнаружения текста, сгенерированного ИИ, что представляет нерешённую проблему для противодействия ИИ-инфодемиям.
4
LLM способны быстро генерировать большие объёмы текста, что может усиливать распространение дезинформации и создавать «инфодемию, управляемую ИИ», новую угрозу для общественного здравоохранения.
5
LLM предоставляют многочисленные возможности для поддержки научных исследований и тестировались в различных задачах обработки естественного языка в научной области.
Research Object
Модели большого языка (LLMs), такие как ChatGPT
Research Subject
Роль LLM в генерации и усилении дезинформации, приводящей к ИИ-обусловленной инфодемии, и связанные с этим угрозы для общественного здравоохранения, включая проблемы обнаружения и разработку политик
Publication Details
Publication Date
2023-04-25
Journal
Publisher
ISSN
Cited by
706
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai11
Использование генеративного искусственного интеллекта для масштабирования интеллектуальных обучающих систем2023
Большие языковые модели кодируют клинические знания2023
Обучение языковых моделей следованию инструкциям с использованием обратной связи от человека2022
Результаты ChatGPT на экзамене USMLE: потенциал применения больших языковых моделей для медицинского образования с использованием искусственного интеллекта2023
Роль искусственного интеллекта в достижении Целей устойчивого развития2020
Преимущества, ограничения и риски GPT-4 как чатбота на основе ИИ для медицины2023
Оценка больших языковых моделей, обученных на коде2021
BioGPT: генеративный предварительно обученный трансформер для генерации и интеллектуального анализа биомедицинских текстов2022
Сравнение научных аннотаций, сгенерированных ChatGPT, с реальными аннотациями с помощью детекторов и слепых рецензентов2023
Фреймворк Aion: размерное возникновение сознания ИИ, коллапс под воздействием наблюдателя и динамика космологических порталов2023
Конвейер с поддержкой искусственного интеллекта для динамической генерации достоверного контента о пищевых добавках в больших масштабах2022
Работы, цитирующие эту статью8
Всесторонний обзор больших языковых моделей2025
Полезность ChatGPT в образовании, исследованиях и практике здравоохранения: систематический обзор перспективных возможностей и обоснованных опасений2023
Влияние чрезмерной зависимости от диалоговых систем искусственного интеллекта на когнитивные способности студентов: систематический обзор2024
Обзор больших языковых моделей: архитектуры, приложения, таксономии, нерешённые вопросы и проблемы2024
Этика ChatGPT в медицине и здравоохранении: систематический обзор больших языковых моделей (LLM)2024
Борьба с дезинформацией в эпоху больших языковых моделей: возможности и вызовы2024
AI-агенты под угрозой: обзор ключевых проблем безопасности и перспективных направлений2025
Определение места вопросов управления и регулирования, связанных с генеративным искусственным интеллектом и большими языковыми моделями, в медицинском образовании2025