Обучение критериев отсева фильтров для ускорения глубоких сверточных нейронных сетей

Отсев фильтров широко применяется для сжатия и ускорения нейронных сетей. Существующие методы обычно используют заранее заданные критерии отсева, такие как Lp-норма, для удаления маловажных фильтров. У таких методов есть два основных ограничения. Во-первых, они не учитывают разнообразие распределений фильтров по слоям. Для извлечения признаков от грубого к тонкому разные слои имеют различные распределения фильтров, поэтому применение одного и того же критерия отсева к разным функциональным слоям нецелесообразно. Во-вторых, распространённые методы послойного отсева обрабатывают каждый слой независимо и последовательно, не учитывая, что все слои в сети совместно формируют итоговый прогноз. В данной работе мы предлагаем Learning Filter Pruning Criteria (LFPC) для решения указанных проблем. В частности, мы разрабатываем дифференцируемый семплер критериев отсева. Этот семплер обучаемый и оптимизируется по валидационной потере обрезанной сети, полученной по сгенерированным критериям. Таким образом мы можем адаптивно выбирать подходящие критерии отсева для различных функциональных слоёв. Кроме того, при оценке сгенерированных критериев LFPC всесторонне учитывает вклад всех слоёв одновременно. Эксперименты подтверждают эффективность подхода на трёх бенчмарках по классификации изображений. В частности, на ILSVRC-2012 наш LFPC сокращает более 60% FLOPs у ResNet-50 при потере top-5 точности всего 0.83%.