Обзор методов обнаружения дипфейков и их воздействия в визуальном, аудиальном и текстовом форматах

A Survey on the Detection and Impacts of Deepfakes in Visual, Audio, and Textual Formats
Simon Parkinson, Tariq Alsboui, Rami Mubarak, Omar Alshaikh, Isa Inuwa-Dutse, Saad Khan
2023-01-01

обнаружение дипфейковбольшие языковые моделидезинформациямультимодальные дипфейкитекстовые дипфейки
В условиях стремительно развивающейся цифровой среды создание поддельного визуального, аудио- и текстового контента представляет значительную угрозу доверию общества, политической стабильности и достоверности информации. Процесс создания такого контента был усовершенствован и упрощён благодаря методам искусственного интеллекта, получившим название «дипфейки». Хотя визуальным и аудиодипфейкам уделяется значительное внимание, всё более очевидной становится необходимость учитывать и текстовые дипфейки. Благодаря достижениям в области обработки естественного языка и больших языковых моделей возрос потенциал манипулирования текстовым контентом с целью изменения характера онлайн-дискурса и распространения дезинформации. В настоящем исследовании всесторонне рассматриваются многоаспектная природа и последствия медиа, созданных с использованием дипфейков. Раскрываются широкие последствия распространения дипфейков в социальной, политической, экономической и технологической сферах. Критически анализируются передовые методологии обнаружения всех типов дипфейков, подчёркивая необходимость создания унифицированных, работающих в реальном времени, адаптивных и обобщаемых решений. По мере усиления угроз, связанных с дипфейками, исследование подчёркивает важность комплексного подхода, сочетающего технические решения с повышением осведомлённости общественности и законодательными мерами. Предлагая всесторонний обзор и формируя основу для дальнейших исследований, данная работа призвана помочь исследователям, разработчикам политики и практикам ориентироваться в сложной проблематике дипфейков.
1
Противодействие дипфейкам требует сочетания технического обнаружения с повышением общественной осведомлённости и законодательными мерами.
2
Медиаконтент, созданный с помощью дипфейков, может подрывать общественное доверие, политическую стабильность и целостность информации, затрагивая социальные, политические, экономические и технологические системы.
3
Дипфейки теперь охватывают визуальный, аудиальный и всё более текстовый контент благодаря достижениям в области искусственного интеллекта, обработки естественного языка и больших языковых моделей.
4
Существующие методы обнаружения дипфейков для разных типов контента требуют унифицированных, работающих в реальном времени, адаптивных и обобщаемых решений.
5
Текстовые дипфейки создают растущую угрозу, позволяя манипулировать онлайн-дискурсом и распространять дезинформацию.

Медиаконтент, сгенерированный ИИ, в виде визуальных, аудио- и текстовых дипфейков

Методы обнаружения дипфейков и их многогранное социальное, политическое, экономическое и технологическое воздействие

Publication Details
Publication Date
2023-01-01
Journal
Publisher
ISSN
Cited by
165
Access Type
Author Information
Authors
Simon Parkinson
Tariq Alsboui
Rami Mubarak
Omar Alshaikh
Isa Inuwa-Dutse
Saad Khan
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%