Адаптивные смеси локальных экспертов

Мы представляем новую процедуру обучения с учителем для систем, состоящих из множества отдельных сетей, каждая из которых обучается обрабатывать подмножество полного набора обучающих примеров. Новую процедуру можно рассматривать либо как модульную версию многослойной сети с обучением с учителем, либо как ассоциативную версию конкурентного обучения. Таким образом, она устанавливает новую связь между этими двумя, на первый взгляд различными, подходами. Мы демонстрируем, что процедура обучения разделяет задачу распознавания гласных на соответствующие подзадачи, каждая из которых может быть решена с помощью очень простой экспертной сети.