Дипфейки: надвигающаяся угроза конфиденциальности, демократии и национальной безопасности

Вредоносная ложь — не новое явление. Однако с появлением технологии «дипфейков» способность искажать реальность совершила экспоненциальный скачок. Эта технология позволяет создавать аудио- и видеозаписи с реальными людьми, на которых они произносят слова и совершают действия, которых никогда не произносили и не совершали. Методы машинного обучения повышают сложность этой технологии, делая дипфейки всё более реалистичными и всё более устойчивыми к обнаружению. Технология дипфейков обладает характеристиками, способствующими её быстрому и широкому распространению, что позволяет использовать её как высококвалифицированным, так и неподготовленным субъектам. Хотя технология дипфейков принесёт определённые преимущества, она также повлечёт за собой многочисленные негативные последствия. Рынок идей уже страдает от эрозии представлений об истине, поскольку сетевая информационная среда вступает в токсичное взаимодействие с нашими когнитивными предубеждениями. Дипфейки значительно усугубят эту проблему. Частные лица и компании столкнутся с новыми формами эксплуатации, запугивания и личного саботажа. Риски для демократии и национальной безопасности также чрезвычайно серьёзны. Наша цель — представить первое всестороннее исследование причин и последствий этого деструктивного технологического изменения, а также изучить существующие и потенциальные инструменты реагирования на него. Мы рассматриваем широкий спектр мер, включая роль технологических решений; уголовные наказания, гражданско-правовую ответственность и регуляторные меры; военные и тайные операции; экономические санкции; и развитие рынков. Мы охватываем весь спектр подходов — от иммунитетов до неизменяемых цепочек аутентификации, — предлагая рекомендации по совершенствованию законодательства и политики и предупреждая о недостатках, заложенных в различных решениях.