Непрерывное обучение на протяжении всей жизни с использованием нейронных сетей: обзор

Continual lifelong learning with neural networks: A review
Christopher Kanan, German Ignacio Parisi, Ronald Kemker, Jose L. Part, Stefan Wermter
2019-02-10

катастрофическое забываниенепрерывное обучениеобучение на протяжении всей жизнивоспроизведение памятинейронные сети
Люди и животные способны непрерывно приобретать, совершенствовать и переносить знания и навыки на протяжении всей жизни. Эта способность, называемая обучением на протяжении всей жизни, обеспечивается богатым набором нейрокогнитивных механизмов, которые совместно способствуют развитию и специализации сенсомоторных навыков, а также консолидации и извлечению долговременных воспоминаний. Поэтому способность к обучению на протяжении всей жизни имеет критически важное значение для вычислительных систем обучения и автономных агентов, взаимодействующих с реальным миром и обрабатывающих непрерывные потоки информации. Однако обучение на протяжении всей жизни остается давней проблемой машинного обучения и моделей нейронных сетей, поскольку непрерывное усвоение постепенно поступающей информации из нестационарных распределений данных обычно приводит к катастрофическому забыванию или интерференции. Это ограничение является существенным недостатком современных глубоких нейронных сетей, которые, как правило, обучают представления на стационарных пакетах обучающих данных и, следовательно, не учитывают ситуации, в которых информация становится доступной постепенно, с течением времени. В этом обзоре мы критически обобщаем основные проблемы, связанные с обучением на протяжении всей жизни в искусственных обучающихся системах, и сопоставляем существующие подходы на основе нейронных сетей, в разной степени ослабляющие катастрофическое забывание. Несмотря на значительный прогресс в предметно-ориентированном обучении с использованием нейронных сетей, для разработки надежного обучения на протяжении всей жизни автономных агентов и роботов необходимы масштабные исследовательские усилия. Мы рассматриваем устоявшиеся и новые направления исследований, вдохновленные факторами обучения на протяжении всей жизни в биологических системах, такими как структурная пластичность, воспроизведение воспоминаний, обучение по учебному плану и перенос обучения, внутренняя мотивация и мультисенсорная интеграция.
1
Биологически вдохновлённые механизмы — структурная пластичность, воспроизведение памяти, обучение поэтапному усложнению и переносу, внутренняя мотивация и мультисенсорная интеграция — задают важные направления исследований пожизненного обучения.
2
Непрерывное обучение нейронных сетей часто приводит к катастрофическому забыванию или интерференции, поскольку информация поступает постепенно, а не в виде стационарных обучающих пакетов.
3
Непрерывное обучение необходимо автономным агентам, обрабатывающим непрерывные нестационарные потоки информации и адаптирующимся в ходе работы.
4
Нейронные сети достигли значительного прогресса в предметно-ориентированном непрерывном обучении, однако устойчивое пожизненное обучение автономных агентов и роботов остаётся нерешённой задачей.
5
В обзоре сравниваются подходы на основе нейронных сетей, в разной степени смягчающие катастрофическое забывание, и критически рассматриваются связанные с ними проблемы.

модели нейронных сетей и искусственные обучающиеся системы, осуществляющие непрерывное обучение на нестационарных потоках данных

проблемы, механизмы и подходы к непрерывному приобретению, переносу и сохранению знаний при снижении катастрофического забывания

Publication Details
Publication Date
2019-02-10
Journal
Publisher
ISSN
Cited by
3117
Access Type
Author Information
Authors
Christopher Kanan
German Ignacio Parisi
Ronald Kemker
Jose L. Part
Stefan Wermter
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%