Угловая функция потерь Softmax для сквозной верификации говорящего
Angular Softmax Loss for End-to-end Speaker Verification
2018-11-01
SCID: 54.1/fzfr2v2b
Discuss with AI
датасет Fisherугловая функция потерь softmaxсквозная верификация говорящеговероятностный линейный дискриминантный анализвложения говорящих
Figures from the paper
Abstract (AI)
Системы сквозной верификации говорящего приобретают всё больший интерес. Традиционный подход на основе i-векторов обучает генеративную модель (по существу, факторизационную модель) для извлечения i-векторов в качестве векторных представлений говорящих. В отличие от него, сквозной подход непосредственно обучает дискриминативную модель (часто нейронную сеть) для получения дискриминативных векторных представлений говорящих; при этом критически важным компонентом является критерий обучения. В данной работе в качестве функции потерь для обучения признаков в сквозной верификации говорящего используется угловой Softmax (A-softmax), первоначально предложенный для верификации лиц. За счёт введения межклассовых отступов в функцию потерь Softmax A-softmax позволяет получать более дискриминативные признаки, чем функции потерь Softmax и triplet, одновременно оставаясь простым и стабильным в использовании. В работе сделаны два вклада: 1) функция потерь A-softmax введена в сквозную верификацию говорящего, что позволило существенно снизить равную ошибку (EER); 2) показано, что сочетание использования A-softmax при обучении фронтенда и вероятностного линейного дискриминантного анализа (PLDA) при оценивании на бэкенде дополнительно повышает эффективность сквозных систем в условиях коротких высказываний, когда короткими являются как высказывания для регистрации, так и тестовые высказывания. Эксперименты, проведённые на части набора данных Fisher, демонстрируют преимущества использования A-softmax.
Key Findings
1
A-softmax вводит угловые зазоры между классами, формируя более дискриминативные векторные представления говорящих по сравнению с softmax и triplet loss, при этом оставаясь простой и стабильной в использовании.
2
Угловая функция потерь softmax (A-softmax) впервые применяется для обучения признаков в сквозной системе верификации говорящих.
3
Сочетание фронтенда, обученного с A-softmax, со скорингом PLDA на бэкенде дополнительно повышает качество при коротких utterance для регистрации и тестирования.
4
Применение A-softmax при сквозном обучении обеспечивает значительное снижение равной частоты ошибок (EER) на части набора данных Fisher.
Research Object
сквозные системы верификации говорящего
Research Subject
обучение дискриминативных эмбеддингов говорящего и эффективность верификации, включая равную вероятность ошибки и оценивание коротких высказываний, с использованием угловой softmax-функции потерь и оценки PLDA на заднем конце
Publication Details
Publication Date
2018-11-01
Journal
Publisher
ISSN
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest