Анализ нормализации длины в сквозной системе верификации говорящего

Классические i-векторы и новейшие глубокие эмбеддинги говорящего, получаемые сквозным обучением, представляют собой две основные категории представлений высказываний в системах автоматической верификации говорящего. Традиционно после извлечения i-векторов или глубоких эмбеддингов говорящего выполняется дополнительная нормализация длины, приводящая представления к единичной гиперсфере перед моделированием на заднем конце системы. В данной работе исследуется, каким образом нейронная сеть обучается получать глубокие эмбеддинги говорящего с нормализованной длиной в сквозном режиме. Для этого перед выходным слоем стандартной классификационной сети добавляются слой нормализации длины и следующий за ним масштабный слой. Эксперименты проведены на задаче верификации говорящего с использованием набора данных VoxCeleb1. Результаты показывают, что включение этого простого этапа в сквозной процесс обучения значительно повышает эффективность верификации говорящего. На этапе тестирования в нашей сквозной системе с L2-нормализацией простое скалярное произведение обеспечивает результаты, соответствующие современному передовому уровню.