Обзор глубокого обучения: концепции, архитектуры сверточных нейронных сетей, проблемы, применения и перспективные направления
Review of deep learning: concepts, CNN architectures, challenges, applications, future directions
2021-03-31
SCID: 54.1/5e7d8rhn
Discuss with AI
AlexNetархитектуры CNNсеть высокого разрешениясверточные нейронные сетиглубокое обучение
Figures from the paper
Abstract (AI)
В последние годы вычислительная парадигма глубокого обучения (DL) стала считаться золотым стандартом в сообществе машинного обучения (ML). Более того, она постепенно превратилась в наиболее широко используемый вычислительный подход в области ML, продемонстрировав выдающиеся результаты при решении ряда сложных когнитивных задач, сопоставимые с результатами человека или даже превосходящие их. Одним из преимуществ DL является способность обучаться на массивах данных огромного объема. В последние годы область DL быстро развивалась и широко применялась для успешного решения разнообразных традиционных задач. Что еще более важно, DL превзошло известные методы ML во многих областях, включая кибербезопасность, обработку естественного языка, биоинформатику, робототехнику и управление, обработку медицинской информации и многие другие. Несмотря на наличие ряда работ, посвященных обзору современного состояния DL, в них, как правило, рассматривается лишь один аспект этой области, что приводит к общему недостатку целостного представления о ней. Поэтому в данной работе предлагается более целостный подход, который должен обеспечить более подходную отправную точку для формирования всестороннего понимания DL. В частности, этот обзор направлен на предоставление комплексного анализа наиболее важных аспектов DL, включая недавно разработанные усовершенствования в данной области. В работе рассматривается значение DL, а также представлены типы методов и сетей глубокого обучения. Затем рассматриваются сверточные нейронные сети (CNN), наиболее широко используемый тип сетей глубокого обучения, и описывается развитие архитектур CNN вместе с их основными характеристиками — от сети AlexNet до сети высокого разрешения (High-Resolution Network, HRNet). Наконец, представлены проблемы и предложенные решения, призванные помочь исследователям понять существующие пробелы в исследованиях. Далее приводится перечень основных применений DL. Обобщаются вычислительные средства, включая программируемые вентильные матрицы (FPGA), графические процессоры (GPU) и центральные процессоры (CPU), а также описыва...
Key Findings
1
Свёрточные нейронные сети названы наиболее широко используемым типом сетей глубокого обучения; их архитектуры существенно развились от AlexNet до HR.Net.
2
Глубокое обучение способно работать с огромными массивами данных и превосходит традиционные методы машинного обучения в кибербезопасности, обработке естественного языка, биоинформатике, робототехнике и управлении, а также обработке медицинской информации.
3
Глубокое обучение стало доминирующей парадигмой машинного обучения, достигая человеческого или превосходящего человеческий уровня на многих сложных когнитивных задачах.
4
Работа выделяет нерешённые исследовательские пробелы и систематизирует проблемы и потенциальные решения, а также рассматривает вычислительные инструменты на базе FPGA, GPU и CPU.
5
Обзор предлагает целостное рассмотрение методов и сетей глубокого обучения, развития CNN от AlexNet до High-Resolution Network, приложений, вычислительных средств, проблем и предлагаемых решений.
Research Object
Парадигма глубокого обучения (DL) и её архитектуры, особенно сверточные нейронные сети (CNN)
Research Subject
концепции, развитие, особенности, проблемы, решения и применения глубокого обучения, особенно архитектур сверточных нейронных сетей
Publication Details
Publication Date
2021-03-31
Journal
Publisher
ISSN
Cited by
7894
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai20
Глубокое остаточное обучение для распознавания изображений2016
Классификация ImageNet с использованием глубоких сверточных нейронных сетей2017
Очень глубокие сверточные сети для масштабного распознавания изображений2014
ImageNet: крупномасштабная иерархическая база изображений2009
Сети Squeeze-and-Excitation2018
Переосмысление архитектуры Inception для компьютерного зрения2016
Почему я должен вам доверять?2016
Дистилляция знаний в нейронной сети2015
Обзор методов аугментации изображений для глубокого обучения2019
Агрегированные остаточные преобразования для глубоких нейронных сетей2017
Рекурсивные глубокие модели для семантической композицией по дереву тональности2013
Обзор трансферного обучения2016
Обнаружение объектов с помощью глубокого обучения: обзор2019
Глубокое обучение с подкреплением: краткий обзор2017
Непрерывное обучение на протяжении всей жизни с использованием нейронных сетей: обзор2019
Приложения и проблемы глубокого обучения в аналитике больших данных2015
Обзор глубокого обучения в медицинской визуализации с акцентом на МРТ2018
Обзор алгоритмов и архитектур глубинного обучения2019
Расцвет глубокого обучения в разработке лекарственных средств2018
Аугментация текстовых данных для глубокого обучения2021
Работы, цитирующие эту статью14
Всесторонний обзор глубокого обучения: архитектуры, последние достижения и применения2024
Подходы на основе машинного и глубокого обучения в интеллектуальном здравоохранении: последние достижения, приложения, проблемы и перспективы2024
Технологии искусственного интеллекта, революционизирующие очистку сточных вод: современные тенденции и перспективы2024
Комплексный обзор методов искусственного интеллекта для устранения алгоритмической предвзятости при найме сотрудников2024
Обзор практического применения искусственного интеллекта для дистанционного зондирования в науках о Земле2023
Прогностическое моделирование и принятие решений в хирургии позвоночника на основе искусственного интеллекта с использованием гибридных моделей машинного обучения2022
Обзор приложений искусственного интеллекта на основе человеческой походки2022
Сравнительный анализ глубоких нейронных сетей и больших языковых моделей для аспектно-ориентированного анализа тональности2024
Глубокое обучение для устойчивого аквакультуры: возможности и вызовы2025
Усовершенствованная глубокая модель CNN-LSTM для IDS SCADA с само-похожестью по параметру Херста2024
Синтетические данные в обобщаемой обучаемой нейровизуализации2024
Анализ неокрашенных мазков крови: обзор методов на основе правил, машинного обучения и глубокого обучения2025
Повышение устойчивости городской мобильности: применение компьютерного зрения в исследованиях пешеходных маршрутов2025
Гибридный анализ повышения нефтеотдачи с применением CO2 в естественнотрещиноватых коллекторах на основе вычислительной гидродинамики и машинного обучения2026