Сети ковариационных метрик на основе согласованности распределений для обучения при малом числе образцов
Distribution Consistency Based Covariance Metric Networks for Few-Shot Learning
2019-07-17
SCID: 54.1/uzbvbyy2
Discuss with AI
Covariance Metric Networks (CovaMNet)ковариационная репрезентацияглубокая ковариационная метрикасогласованность распределенийклассификация изображений при малом числе образцов
Figures from the paper
Abstract (AI)
Обучение при малом числе образцов (few-shot learning) направлено на распознавание новых концепций по очень небольшому числу примеров. Однако большинство существующих методов few-shot обучения в основном сосредоточены на первом порядке статистики представления концепции или на фиксированной метрике для соотношения между образцом и концепцией. В данной работе мы предлагаем новую энд-то-энд глубокую архитектуру, названную Covariance Metric Networks (CovaMNet). CovaMNet разработана для использования как ковариационного представления, так и ковариационной метрики, основанной на согласованности распределений, для задач классификации при малом числе образцов. В частности, мы строим вложенное локальное ковариационное представление для извлечения информации второго порядка статистики каждой концепции и описания её базового распределения. На основе ковариационного представления мы дополнительно определяем новую глубокую ковариационную метрику для измерения согласованности распределений между запросными образцами и новыми концепциями. Кроме того, мы используем эпизодический механизм обучения для обучения всей сети энд-то-энд с нуля. Обширные эксперименты по двум задачам — общей классификации изображений при малом числе образцов и тонкой (fine-grained) классификации изображений при малом числе образцов — демонстрируют превосходство предлагаемой CovaMNet. Исходный код доступен по адресу https://github.com/WenbinLee/CovaMNet.git.
Key Findings
1
Построено встроенное локальное ковариационное представление для захвата вторых порядковых статистик и описания скрытого распределения каждого концепта.
2
Определена глубокая ковариационная метрика, измеряющая согласованность распределений между запросными образцами и новыми концептами для улучшенного сопоставления.
3
Широкие эксперименты по общему и тонкозернистому few-shot классифицированию изображений показывают превосходство CovaMNet над существующими методами.
4
Предложена Covariance Metric Networks (CovaMNet) — сквозная глубокая архитектура, использующая ковариационные представления и ковариационную метрику для задач few-shot классификации.
5
Вся сеть обучается с нуля с использованием эпизодического обучения в энд-ту-энд режиме.
Research Object
Глубокая архитектура Covariance Metric Networks (CovaMNet) для задач few-shot-классификации
Research Subject
Использование встроенных локальных ковариационных представлений и глубокого ковариационного метрика, основанного на согласованности распределений, для захвата вторых моментов (ковариаций) и измерения согласованности распределений между query-образцами и концептами в задачах few-shot-классификации изображений
Publication Details
Publication Date
2019-07-17
Journal
Publisher
ISSN
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest