Сети ковариационных метрик на основе согласованности распределений для обучения при малом числе образцов

Distribution Consistency Based Covariance Metric Networks for Few-Shot Learning
Jiebo Luo, Wenbin Li, Lei Wang, Yang Gao, Wenbin Li, Jinglin Xu, Jing Huo
2019-07-17

Covariance Metric Networks (CovaMNet)ковариационная репрезентацияглубокая ковариационная метрикасогласованность распределенийклассификация изображений при малом числе образцов
Обучение при малом числе образцов (few-shot learning) направлено на распознавание новых концепций по очень небольшому числу примеров. Однако большинство существующих методов few-shot обучения в основном сосредоточены на первом порядке статистики представления концепции или на фиксированной метрике для соотношения между образцом и концепцией. В данной работе мы предлагаем новую энд-то-энд глубокую архитектуру, названную Covariance Metric Networks (CovaMNet). CovaMNet разработана для использования как ковариационного представления, так и ковариационной метрики, основанной на согласованности распределений, для задач классификации при малом числе образцов. В частности, мы строим вложенное локальное ковариационное представление для извлечения информации второго порядка статистики каждой концепции и описания её базового распределения. На основе ковариационного представления мы дополнительно определяем новую глубокую ковариационную метрику для измерения согласованности распределений между запросными образцами и новыми концепциями. Кроме того, мы используем эпизодический механизм обучения для обучения всей сети энд-то-энд с нуля. Обширные эксперименты по двум задачам — общей классификации изображений при малом числе образцов и тонкой (fine-grained) классификации изображений при малом числе образцов — демонстрируют превосходство предлагаемой CovaMNet. Исходный код доступен по адресу https://github.com/WenbinLee/CovaMNet.git.
1
Построено встроенное локальное ковариационное представление для захвата вторых порядковых статистик и описания скрытого распределения каждого концепта.
2
Определена глубокая ковариационная метрика, измеряющая согласованность распределений между запросными образцами и новыми концептами для улучшенного сопоставления.
3
Широкие эксперименты по общему и тонкозернистому few-shot классифицированию изображений показывают превосходство CovaMNet над существующими методами.
4
Предложена Covariance Metric Networks (CovaMNet) — сквозная глубокая архитектура, использующая ковариационные представления и ковариационную метрику для задач few-shot классификации.
5
Вся сеть обучается с нуля с использованием эпизодического обучения в энд-ту-энд режиме.

Глубокая архитектура Covariance Metric Networks (CovaMNet) для задач few-shot-классификации

Использование встроенных локальных ковариационных представлений и глубокого ковариационного метрика, основанного на согласованности распределений, для захвата вторых моментов (ковариаций) и измерения согласованности распределений между query-образцами и концептами в задачах few-shot-классификации изображений

Publication Details
Publication Date
2019-07-17
Journal
Publisher
ISSN
Cited by
274
Access Type
Author Information
Authors
Jiebo Luo
Wenbin Li
Lei Wang
Yang Gao
Wenbin Li
Jinglin Xu
Jing Huo
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%