Обзор методов обнаружения дипфейков и их воздействия в визуальном, аудиальном и текстовом форматах
A Survey on the Detection and Impacts of Deepfakes in Visual, Audio, and Textual Formats
2023-01-01
SCID: 54.1/br3g524s
Discuss with AI
обнаружение дипфейковбольшие языковые моделидезинформациямультимодальные дипфейкитекстовые дипфейки
Figures from the paper
Abstract (AI)
В условиях стремительно развивающейся цифровой среды создание поддельного визуального, аудио- и текстового контента представляет значительную угрозу доверию общества, политической стабильности и достоверности информации. Процесс создания такого контента был усовершенствован и упрощён благодаря методам искусственного интеллекта, получившим название «дипфейки». Хотя визуальным и аудиодипфейкам уделяется значительное внимание, всё более очевидной становится необходимость учитывать и текстовые дипфейки. Благодаря достижениям в области обработки естественного языка и больших языковых моделей возрос потенциал манипулирования текстовым контентом с целью изменения характера онлайн-дискурса и распространения дезинформации. В настоящем исследовании всесторонне рассматриваются многоаспектная природа и последствия медиа, созданных с использованием дипфейков. Раскрываются широкие последствия распространения дипфейков в социальной, политической, экономической и технологической сферах. Критически анализируются передовые методологии обнаружения всех типов дипфейков, подчёркивая необходимость создания унифицированных, работающих в реальном времени, адаптивных и обобщаемых решений. По мере усиления угроз, связанных с дипфейками, исследование подчёркивает важность комплексного подхода, сочетающего технические решения с повышением осведомлённости общественности и законодательными мерами. Предлагая всесторонний обзор и формируя основу для дальнейших исследований, данная работа призвана помочь исследователям, разработчикам политики и практикам ориентироваться в сложной проблематике дипфейков.
Key Findings
1
Противодействие дипфейкам требует сочетания технического обнаружения с повышением общественной осведомлённости и законодательными мерами.
2
Медиаконтент, созданный с помощью дипфейков, может подрывать общественное доверие, политическую стабильность и целостность информации, затрагивая социальные, политические, экономические и технологические системы.
3
Дипфейки теперь охватывают визуальный, аудиальный и всё более текстовый контент благодаря достижениям в области искусственного интеллекта, обработки естественного языка и больших языковых моделей.
4
Существующие методы обнаружения дипфейков для разных типов контента требуют унифицированных, работающих в реальном времени, адаптивных и обобщаемых решений.
5
Текстовые дипфейки создают растущую угрозу, позволяя манипулировать онлайн-дискурсом и распространять дезинформацию.
Research Object
Медиаконтент, сгенерированный ИИ, в виде визуальных, аудио- и текстовых дипфейков
Research Subject
Методы обнаружения дипфейков и их многогранное социальное, политическое, экономическое и технологическое воздействие
Publication Details
Publication Date
2023-01-01
Journal
Publisher
ISSN
Cited by
165
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai6
Глубокое остаточное обучение для распознавания изображений2016
Генеративные состязательные сети: обзор2018
PaLM: Масштабирование языкового моделирования с помощью Pathways2022
Tacotron: к энд-ту-энд синтезу речи2017
Обнаружение deepfake: систематический обзор литературы2022
Конвейер с поддержкой искусственного интеллекта для динамической генерации достоверного контента о пищевых добавках в больших масштабах2022