Обман сквозной системы верификации диктора с помощью состязательных примеров

Системы автоматической верификации диктора все чаще используются как основное средство аутентификации пользователей. Недавно было предложено обучать системы верификации диктора с использованием сквозных глубоких нейронных моделей. В этой статье мы показываем, что такие системы уязвимы для атак с использованием состязательных примеров. Состязательные примеры создаются путем добавления специфического шума к исходным речевым примерам так, чтобы для человека-слушателя они были практически неразличимы. Тем не менее полученные речевые сигналы, звучащие так, как будто они произнесены диктором A, могут использоваться для обмана системы, выдавая их за сигналы, произнесенные диктором B. Мы представляем атаки типа white-box на глубокую сквозную сеть, обученную либо на YOHO, либо на NTIMIT. Кроме того, мы рассматриваем две атаки типа black-box. В первой состязательные примеры генерируются системой, обученной на NTIMIT, а атака проводится на системе, обученной на YOHO. Во второй состязательные примеры генерируются с использованием признаков мел-спектра, а атака проводится на системе, обученной с использованием MFCC. Наши результаты показывают, что точность целевой системы можно существенно снизить даже в том случае, когда состязательные примеры генерируются другой системой, потенциально использующей другие признаки.