Глубокое остаточное обучение для распознавания изображений

Более глубокие нейронные сети сложнее обучать. Мы предлагаем схему остаточного обучения, облегчающую обучение сетей, которые значительно глубже ранее используемых. Мы явно переформулируем слои как изучающие остаточные функции относительно входов слоя, вместо обучения нефункционально связанных функций. Мы приводим исчерпывающие эмпирические доказательства того, что эти остаточные сети легче оптимизировать и что они могут улучшать точность при существенном увеличении глубины. На наборе данных ImageNet мы оценивали остаточные сети глубиной до 152 слоев — в 8 раз глубже, чем сети VGG [40], но при этом обладающие меньшей сложностью. Ансамбль этих остаточных сетей достигает ошибки 3.57% на тестовом наборе ImageNet. Этот результат занял 1-е место в задаче классификации ILSVRC 2015. Мы также приводим анализ на CIFAR-10 с 100 и 1000 слоями. Глубина представлений имеет ключевое значение для многих задач визуального распознавания. Исключительно благодаря нашим чрезвычайно глубоким представлениям мы получили 28% относительное улучшение на датасете обнаружения объектов COCO. Глубокие остаточные сети легли в основу наших работ для соревнований ILSVRC и COCO 2015, где мы также заняли 1-е места в задачах детекции ImageNet, локализации ImageNet, детекции COCO и сегментации COCO.