Агрегированные остаточные преобразования для глубоких нейронных сетей

Мы представляем простую, высокомодульную архитектуру сети для классификации изображений. Наша сеть строится путем повторения базового блока, который агрегирует набор преобразований с одинаковой топологией. В результате простой конструкции получается однородная многоветвенная архитектура, требующая настройки лишь нескольких гиперпараметров. Этот подход выявляет новое измерение, которое мы называем кардинальностью (размером набора преобразований), как существенный фактор наряду с глубиной и шириной сети. На наборе данных ImageNet-1K мы эмпирически показываем, что даже при ограничении на сохранение вычислительной сложности увеличение кардинальности позволяет повысить точность классификации. Более того, при увеличении емкости сети наращивание кардинальности оказывается эффективнее, чем увеличение глубины или ширины. Наши модели, получившие название ResNeXt, легли в основу нашей заявки на задачу классификации ILSVRC 2016, в которой мы заняли 2-е место. Далее мы исследуем ResNeXt на наборе ImageNet-5K и наборе данных для обнаружения объектов COCO, также демонстрируя лучшие результаты по сравнению с соответствующим вариантом ResNet. Исходный код и модели доступны онлайн.