Борьба с дезинформацией в эпоху больших языковых моделей: возможности и вызовы
Combating misinformation in the age of LLMs: Opportunities and challenges
2024-08-01
SCID: 54.1/ajbtz7cz
Discuss with AI
дезинформация, генерируемая большими языковыми моделямифейковые новостибольшие языковые моделиобнаружение дезинформацииобнаружение слухов
Figures from the paper
Abstract (AI)
Дезинформация, включая фейковые новости и слухи, представляет серьезную угрозу для информационных экосистем и общественного доверия. Появление больших языковых моделей (LLM) обладает значительным потенциалом для преобразования подходов к борьбе с дезинформацией. В целом LLM могут стать обоюдоострым инструментом в этой борьбе. С одной стороны, LLM открывают перспективные возможности для противодействия дезинформации благодаря обширным знаниям о мире и развитым способностям к рассуждению. В связи с этим возникает вопрос: можно ли использовать LLM для борьбы с дезинформацией? С другой стороны, ключевая проблема заключается в том, что LLM можно легко применять для масштабной генерации вводящей в заблуждение дезинформации. Поэтому возникает другой важный вопрос: как бороться с дезинформацией, создаваемой LLM? В данной статье мы сначала систематически рассматриваем историю борьбы с дезинформацией до появления LLM. Затем описываем текущие усилия и представляем перспективы по каждому из этих двух фундаментальных вопросов. Цель данного обзорного исследования — содействовать развитию методов использования LLM для борьбы с дезинформацией и призвать к междисциплинарному сотрудничеству различных заинтересованных сторон в противодействии дезинформации, создаваемой LLM.
Key Findings
1
Эффективное противодействие дезинформации, созданной LLM, требует междисциплинарного сотрудничества различных заинтересованных сторон.
2
LLM являются обоюдоострым инструментом, поскольку их также можно использовать для масштабной генерации вводящей в заблуждение дезинформации.
3
LLM предлагают перспективные возможности для борьбы с дезинформацией благодаря обширным знаниям о мире и развитым способностям к рассуждению.
4
Статья выделяет два ключевых вопроса: как использовать LLM для борьбы с дезинформацией и как противодействовать дезинформации, генерируемой LLM.
5
В статье рассматривается историческое развитие методов борьбы с дезинформацией до появления LLM и анализируются современные подходы с их использованием.
Research Object
большие языковые модели (LLM) в экосистеме дезинформации
Research Subject
возможности и проблемы использования LLM для выявления и противодействия дезинформации, включая создание LLM обманного контента
Publication Details
Publication Date
2024-08-01
Journal
Publisher
ISSN
Cited by
282
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai17
Обзор автономных агентов на основе больших языковых моделей2024
Полезность ChatGPT в образовании, исследованиях и практике здравоохранения: систематический обзор перспективных возможностей и обоснованных опасений2023
Объединение больших языковых моделей и графов знаний: дорожная карта2024
🧜Песнь сирены в океане ИИ: обзор галлюцинаций в больших языковых моделях2025
Власть народу: роль человека в интерактивном машинном обучении2014
Генерация с активным дополнением посредством поиска2023
Атаки с внедрением промптов на приложения, интегрированные с большими языковыми моделями2023
Соединяя точки в сфере заслуживающего доверия искусственного интеллекта: от принципов ИИ, этики и ключевых требований к ответственным системам ИИ и регулированию2023
Выявление и разрешение слухов в социальных сетях2018
ChatGPT и рост крупных языковых моделей: новая угроза инфодемии, вызванной ИИ, для общественного здоровья2023
Не то, на что вы подписывались: компрометация реальных приложений, интегрированных с большими языковыми моделями, с помощью косвенного внедрения промптов2023
Повышение эффективности больших языковых моделей с дополнением посредством извлечения данных за счёт итеративного взаимодействия извлечения и генерации2023
Мультимодальные базовые модели: от специализированных систем к универсальным помощникам2024
Каталог паттернов ответственного ИИ: собрание лучших практик для управления и разработки систем ИИ2023
Большие языковые модели и графы знаний: возможности и вызовы2023
Экстрактивное суммирование с помощью ChatGPT для создания достоверных резюме2023
Конвейер с поддержкой искусственного интеллекта для динамической генерации достоверного контента о пищевых добавках в больших масштабах2022