Непрерывное обучение на протяжении всей жизни с использованием нейронных сетей: обзор

Люди и животные способны непрерывно приобретать, совершенствовать и переносить знания и навыки на протяжении всей жизни. Эта способность, называемая обучением на протяжении всей жизни, обеспечивается богатым набором нейрокогнитивных механизмов, которые совместно способствуют развитию и специализации сенсомоторных навыков, а также консолидации и извлечению долговременных воспоминаний. Поэтому способность к обучению на протяжении всей жизни имеет критически важное значение для вычислительных систем обучения и автономных агентов, взаимодействующих с реальным миром и обрабатывающих непрерывные потоки информации. Однако обучение на протяжении всей жизни остается давней проблемой машинного обучения и моделей нейронных сетей, поскольку непрерывное усвоение постепенно поступающей информации из нестационарных распределений данных обычно приводит к катастрофическому забыванию или интерференции. Это ограничение является существенным недостатком современных глубоких нейронных сетей, которые, как правило, обучают представления на стационарных пакетах обучающих данных и, следовательно, не учитывают ситуации, в которых информация становится доступной постепенно, с течением времени. В этом обзоре мы критически обобщаем основные проблемы, связанные с обучением на протяжении всей жизни в искусственных обучающихся системах, и сопоставляем существующие подходы на основе нейронных сетей, в разной степени ослабляющие катастрофическое забывание. Несмотря на значительный прогресс в предметно-ориентированном обучении с использованием нейронных сетей, для разработки надежного обучения на протяжении всей жизни автономных агентов и роботов необходимы масштабные исследовательские усилия. Мы рассматриваем устоявшиеся и новые направления исследований, вдохновленные факторами обучения на протяжении всей жизни в биологических системах, такими как структурная пластичность, воспроизведение воспоминаний, обучение по учебному плану и перенос обучения, внутренняя мотивация и мультисенсорная интеграция.