DeepFool: простой и точный метод обмана глубоких нейронных сетей
DeepFool: A Simple and Accurate Method to Fool Deep Neural Networks
2016-06-01
SCID: 54.1/mdqztbfa
Discuss with AI
DeepFoolадверсариальные возмущенияобман глубоких нейронных сетейклассификация изображенийробастность глубоких классификаторов
Figures from the paper
Abstract (AI)
Современные глубокие нейронные сети демонстрируют впечатляющие результаты во многих задачах классификации изображений. Однако те же архитектуры оказались неустойчивыми к небольшим, тщательно подобранным возмущениям изображений. Несмотря на значимость этого явления, не были предложены эффективные методы для точного вычисления робастности современных глубоких классификаторов к таким возмущениям на масштабных наборах данных. В этой работе мы устраняем этот пробел и предлагаем алгоритм DeepFool для эффективного вычисления возмущений, вводящих в заблуждение глубокие сети, что позволяет надежно количественно оценивать робастность этих классификаторов. Обширные эксперименты показывают, что наш подход превосходит современные методы в задаче вычисления атакующих (adversarial) возмущений и в повышении робастности классификаторов.
Key Findings
1
DeepFool позволяет надежно количественно оценивать устойчивость современных глубоких классификаторов к небольшим адверсариальным возмущениям на масштабных наборах данных.
2
DeepFool — предложенный алгоритм, который эффективно вычисляет минимальные возмущения, обманывающие глубокие нейронные сети.
3
Широкие эксперименты показывают, что DeepFool превосходит недавние методы для вычисления адверсариальных возмущений.
4
Использование DeepFool для вычисления адверсариальных возмущений можно применять для повышения устойчивости классификаторов.
Research Object
Современные глубокие нейронные сети-классификаторы изображений
Research Subject
Вычисление минимальных адверсариальных возмущений и количественная оценка робастности классификаторов (склонности к обману) с помощью алгоритма DeepFool
Publication Details
Publication Date
2016-06-01
Journal
Publisher
ISSN
Cited by
5315
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai4
Классификация ImageNet с использованием глубоких сверточных нейронных сетей2017
Интригующие свойства нейронных сетей2013
Глубокие нейронные сети для акустического моделирования в распознавании речи: общее мнение четырёх исследовательских групп2012
Стратегии обучения крупномасштабных языковых моделей на основе нейронных сетей2011
Работы, цитирующие эту статью4
Система обнаружения вторжений в сети: систематическое исследование подходов на основе машинного и глубокого обучения2020
О неустойчивости глубокого обучения при реконструкции изображений и потенциальных издержках искусственного интеллекта2020
Сравнительный анализ систем обнаружения вторжений и анализ моделей на основе машинного обучения с использованием дерева решений2023
Обзор безопасности киберфизических систем2023