ShuffleNet: чрезвычайно эффективная сверточная нейронная сеть для мобильных устройств
ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices
2018-06-01
SCID: 54.1/kkge455h
Discuss with AI
классификация ImageNetShuffleNetперемешивание каналовмобильная CNN (10-150 MFLOPs)точечная групповая свертка
Figures from the paper
Abstract (AI)
Представлена чрезвычайно вычислительно эффективная архитектура сверточной нейронной сети (CNN) под названием ShuffleNet, разработанная специально для мобильных устройств с очень ограниченными вычислительными ресурсами (например, 10–150 MFLOPs). Новая архитектура использует две новые операции — покомпонентную групповую свертку (pointwise group convolution) и перемешивание каналов (channel shuffle) — что позволяет значительно снизить вычислительные затраты при сохранении точности. Эксперименты на задачах классификации ImageNet и детекции объектов MS COCO демонстрируют превосходную производительность ShuffleNet по сравнению с другими архитектурами; например, при бюджете вычислений 40 MFLOPs ShuffleNet обеспечивает более низкую top-1 ошибку (абсолютно на 7.8%) по сравнению с недавней MobileNet в задаче классификации ImageNet. На мобильном устройстве на базе ARM ShuffleNet достигает примерно 13× фактического ускорения по сравнению с AlexNet при сопоставимой точности.
Key Findings
1
На задаче классификации ImageNet при 40 MFLOPs ShuffleNet достигает на 7.8% меньшей top-1 ошибки по сравнению с MobileNet.
2
На ARM-устройстве ShuffleNet обеспечивает примерно 13× реального ускорения по сравнению с AlexNet при сопоставимой точности.
3
ShuffleNet вводит операции групповой свёртки по точкам (pointwise group convolution) и перемешивания каналов (channel shuffle) для значительного сокращения вычислений при сохранении точности.
4
ShuffleNet — чрезвычайно вычислительно эффективная архитектура CNN, разработанная для мобильных устройств с бюджетом 10–150 MFLOPs.
5
ShuffleNet демонстрирует превосходную производительность над другими архитектурами на бенчмарках ImageNet и MS COCO для детекции объектов.
Research Object
Архитектура сверточной нейронной сети ShuffleNet для мобильных устройств
Research Subject
Соотношение вычислительной эффективности и точности, достигаемое с помощью покомпонентной групповой свёртки (pointwise group convolution) и перемешивания каналов (channel shuffle), включая характеристики производительности (точность классификации/детекции, MFLOPs и ускорение в реальном времени) на мобильных устройствах
Publication Details
Publication Date
2018-06-01
Journal
Publisher
ISSN
Cited by
9939
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai9
Глубокое остаточное обучение для распознавания изображений2016
Классификация ImageNet с использованием глубоких сверточных нейронных сетей2017
Очень глубокие сверточные сети для масштабного распознавания изображений2014
ImageNet: крупномасштабная иерархическая база изображений2009
Сети Squeeze-and-Excitation2018
Переосмысление архитектуры Inception для компьютерного зрения2016
Дистилляция знаний в нейронной сети2015
Агрегированные остаточные преобразования для глубоких нейронных сетей2017
Xception: Глубокое обучение с глубинно-разделяемыми свертками2016
Работы, цитирующие эту статью17
Сети Squeeze-and-Excitation2018
ECA-Net: Эффективное канальное внимание для глубоких сверточных нейронных сетей2020
Обзор сверточных нейронных сетей: анализ, применения и перспективы2021
Глубокое обучение для универсального обнаружения объектов: обзор2019
Беги, не иди: в поисках более высокой FLOPS для более быстрых нейронных сетей2023
Конвергенция периферийных вычислений и глубокого обучения: комплексный обзор2020
Пан-канцерная детекция клинически значимых генетических изменений по изображениям2020
Согласование корреляций для дистилляции знаний2019
Эффективное ускорение вывода моделей глубокого обучения на периферийных устройствах с ограниченными ресурсами: обзор2022
Алгоритмы компьютерного зрения и их аппаратные реализации: обзор2019
Раздельное обучение в беспроводных сетях: параллельное проектирование и управление ресурсами2023
Всесторонний обзор методов сжатия моделей в машинном обучении2024
К периферийному общему интеллекту с помощью агентного ИИ и агентфикации: концепции, технологии и перспективные направления2026
Глубокое обучение для устойчивого аквакультуры: возможности и вызовы2025
Стабильная облегчённая свёрточная нейронная сеть с адаптивным усилением признаков для эффективного обнаружения объектов на железнодорожном транспорте2022
DroMOD: система обнаружения объектов различного масштаба на основе беспилотных летательных аппаратов2023
EDRNet: остаточная сеть типа «кодировщик–декодировщик» для обнаружения заметных объектов, представляющих поверхностные дефекты полосовой стали2020