Контратаки на системы компьютерного зрения и защита от них

Современные системы компьютерного зрения на основе глубоких нейронных сетей демонстрируют наивысшую точность в задачах классификации и распознавания объектов. Однако они уязвимы к специально сконструированным возмущениям — адвёрсариальным атакам, которые остаются невидимыми для человеческого восприятия, но могут кардинально изменить предсказание модели. В настоящем исследовании проведён систематический анализ угроз безопасности моделей нейронных сетей в области компьютерного зрения. В статье представлена классификация атак в зависимости от уровня доступной информации о модели, подробно рассмотрены механизмы создания адвёрсариальных примеров с использованием градиентных методов и проанализированы современные подходы к защите, включая адвёрсариальное обучение и детекцию аномальных входных данных. Особое внимание уделено практическим аспектам: приведены результаты тестирования устойчивости популярных архитектур и количественные показатели эффективности различных методов защиты. Исследование подтверждает, что проблема адвёрсариальных атак остаётся критически важной для развертывания надёжных систем компьютерного зрения в реальных условиях.