Генерация естественного языка на основе LSTM с семантическим управлением для систем устного диалога

Генерация естественного языка (NLG) является критически важным компонентом систем устного диалога и существенно влияет как на удобство использования, так и на воспринимаемое качество. Большинство широко применяемых систем NLG используют правила и эвристики и имеют тенденцию формировать жесткие, стилизованные ответы, лишенные естественного разнообразия человеческой речи. Кроме того, такие системы плохо масштабируются на системы, охватывающие несколько предметных областей и языков. В статье представлен статистический генератор языка на основе структуры долговременной краткосрочной памяти (Long Short-Term Memory, LSTM) с семантическим управлением. Генератор LSTM может обучаться на невыровненных данных, совместно оптимизируя планирование предложения и поверхностную реализацию с использованием простого критерия обучения на основе перекрестной энтропии; вариативность языка при этом легко достигается посредством выборки из множества кандидатов на выходе. Объективная оценка в двух различных тестовых предметных областях показала, что предложенный метод при использовании меньшего числа эвристик превосходит предыдущие методы. По оценкам экспертов, система LSTM получила более высокие баллы по информативности и естественности, и в целом они предпочли ее другим системам.