DeepFool: простой и точный метод обмана глубоких нейронных сетей

Современные глубокие нейронные сети демонстрируют впечатляющие результаты во многих задачах классификации изображений. Однако те же архитектуры оказались неустойчивыми к небольшим, тщательно подобранным возмущениям изображений. Несмотря на значимость этого явления, не были предложены эффективные методы для точного вычисления робастности современных глубоких классификаторов к таким возмущениям на масштабных наборах данных. В этой работе мы устраняем этот пробел и предлагаем алгоритм DeepFool для эффективного вычисления возмущений, вводящих в заблуждение глубокие сети, что позволяет надежно количественно оценивать робастность этих классификаторов. Обширные эксперименты показывают, что наш подход превосходит современные методы в задаче вычисления атакующих (adversarial) возмущений и в повышении робастности классификаторов.