Угловая функция потерь Softmax для сквозной верификации говорящего

Angular Softmax Loss for End-to-end Speaker Verification
Yutian Li, Feng Gao, Zhijian Ou, Jiasong Sun
2018-11-01

датасет Fisherугловая функция потерь softmaxсквозная верификация говорящеговероятностный линейный дискриминантный анализвложения говорящих
Системы сквозной верификации говорящего приобретают всё больший интерес. Традиционный подход на основе i-векторов обучает генеративную модель (по существу, факторизационную модель) для извлечения i-векторов в качестве векторных представлений говорящих. В отличие от него, сквозной подход непосредственно обучает дискриминативную модель (часто нейронную сеть) для получения дискриминативных векторных представлений говорящих; при этом критически важным компонентом является критерий обучения. В данной работе в качестве функции потерь для обучения признаков в сквозной верификации говорящего используется угловой Softmax (A-softmax), первоначально предложенный для верификации лиц. За счёт введения межклассовых отступов в функцию потерь Softmax A-softmax позволяет получать более дискриминативные признаки, чем функции потерь Softmax и triplet, одновременно оставаясь простым и стабильным в использовании. В работе сделаны два вклада: 1) функция потерь A-softmax введена в сквозную верификацию говорящего, что позволило существенно снизить равную ошибку (EER); 2) показано, что сочетание использования A-softmax при обучении фронтенда и вероятностного линейного дискриминантного анализа (PLDA) при оценивании на бэкенде дополнительно повышает эффективность сквозных систем в условиях коротких высказываний, когда короткими являются как высказывания для регистрации, так и тестовые высказывания. Эксперименты, проведённые на части набора данных Fisher, демонстрируют преимущества использования A-softmax.
1
A-softmax вводит угловые зазоры между классами, формируя более дискриминативные векторные представления говорящих по сравнению с softmax и triplet loss, при этом оставаясь простой и стабильной в использовании.
2
Угловая функция потерь softmax (A-softmax) впервые применяется для обучения признаков в сквозной системе верификации говорящих.
3
Сочетание фронтенда, обученного с A-softmax, со скорингом PLDA на бэкенде дополнительно повышает качество при коротких utterance для регистрации и тестирования.
4
Применение A-softmax при сквозном обучении обеспечивает значительное снижение равной частоты ошибок (EER) на части набора данных Fisher.

сквозные системы верификации говорящего

обучение дискриминативных эмбеддингов говорящего и эффективность верификации, включая равную вероятность ошибки и оценивание коротких высказываний, с использованием угловой softmax-функции потерь и оценки PLDA на заднем конце

Publication Details
Publication Date
2018-11-01
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Yutian Li
Feng Gao
Zhijian Ou
Jiasong Sun
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%