Классификация ImageNet с использованием глубоких сверточных нейронных сетей

Мы обучили большую глубокую сверточную нейронную сеть для классификации 1,2 миллиона изображений высокого разрешения из конкурса ImageNet LSVRC-2010 по 1000 различным классам. На тестовых данных мы получили показатели ошибок top-1 и top-5, равные соответственно 37,5% и 17,0%, что значительно превосходит предыдущий лучший результат. Нейронная сеть, содержащая 60 миллионов параметров и 650 000 нейронов, состоит из пяти сверточных слоев, некоторые из которых сопровождаются слоями объединения по максимуму, и трех полносвязных слоев с финальной функцией softmax по 1000 классов. Для ускорения обучения мы использовали ненасыщающиеся нейроны и высокоэффективную реализацию операции свертки на графическом процессоре (GPU). Для уменьшения переобучения в полносвязных слоях мы применили недавно разработанный метод регуляризации, называемый «dropout», который оказался весьма эффективным. Кроме того, мы представили вариант этой модели на конкурсе ILSVRC-2012 и получили лучший показатель ошибки top-5 на тестовой выборке — 15,3%, по сравнению с 26,2% у участника, занявшего второе место.