Распознавание речи с помощью глубоких рекуррентных нейронных сетей

Рекуррентные нейронные сети (RNN) представляют собой мощную модель для последовательных данных. Методы сквозного обучения, такие как Connectionist Temporal Classification, позволяют обучать RNN для задач пометок последовательностей, где выравнивание входа и выхода неизвестно. Сочетание этих методов с архитектурой RNN на основе долгой краткосрочной памяти (Long Short-term Memory, LSTM) оказалось особенно плодотворным и дало передовые результаты в распознавании курсивного почерка. Тем не менее до сих пор производительность RNN в распознавании речи была разочаровывающей, тогда как глубокие прямые (feedforward) сети показывали лучшие результаты. В этой работе исследуются глубокие рекуррентные нейронные сети, которые объединяют многоуровневые представления, показавшие свою эффективность в глубоких сетях, с гибким использованием дальнего контекста, обеспечиваемым RNN. При сквозном обучении с соответствующей регуляризацией мы обнаружили, что глубокие RNN на основе LSTM достигают ошибки на тестовом наборе 17,7% на бенчмарке распознавания фонем TIMIT, что, насколько нам известно, является лучшим зафиксированным показателем.