Обзор глубокого обучения: концепции, архитектуры сверточных нейронных сетей, проблемы, применения и перспективные направления

В последние годы вычислительная парадигма глубокого обучения (DL) стала считаться золотым стандартом в сообществе машинного обучения (ML). Более того, она постепенно превратилась в наиболее широко используемый вычислительный подход в области ML, продемонстрировав выдающиеся результаты при решении ряда сложных когнитивных задач, сопоставимые с результатами человека или даже превосходящие их. Одним из преимуществ DL является способность обучаться на массивах данных огромного объема. В последние годы область DL быстро развивалась и широко применялась для успешного решения разнообразных традиционных задач. Что еще более важно, DL превзошло известные методы ML во многих областях, включая кибербезопасность, обработку естественного языка, биоинформатику, робототехнику и управление, обработку медицинской информации и многие другие. Несмотря на наличие ряда работ, посвященных обзору современного состояния DL, в них, как правило, рассматривается лишь один аспект этой области, что приводит к общему недостатку целостного представления о ней. Поэтому в данной работе предлагается более целостный подход, который должен обеспечить более подходную отправную точку для формирования всестороннего понимания DL. В частности, этот обзор направлен на предоставление комплексного анализа наиболее важных аспектов DL, включая недавно разработанные усовершенствования в данной области. В работе рассматривается значение DL, а также представлены типы методов и сетей глубокого обучения. Затем рассматриваются сверточные нейронные сети (CNN), наиболее широко используемый тип сетей глубокого обучения, и описывается развитие архитектур CNN вместе с их основными характеристиками — от сети AlexNet до сети высокого разрешения (High-Resolution Network, HRNet). Наконец, представлены проблемы и предложенные решения, призванные помочь исследователям понять существующие пробелы в исследованиях. Далее приводится перечень основных применений DL. Обобщаются вычислительные средства, включая программируемые вентильные матрицы (FPGA), графические процессоры (GPU) и центральные процессоры (CPU), а также описыва...