Обман сквозной системы верификации диктора с помощью состязательных примеров

Fooling End-To-End Speaker Verification With Adversarial Examples
Moustapha Cissé, Joseph Keshet, Yossi Adi, Felix Kreuk
2018-04-01

атакующие примерыатаки типа «черный ящик»сквозные глубокие нейронные сетиверификация говорящегоатаки типа «белый ящик»
Системы автоматической верификации диктора все чаще используются как основное средство аутентификации пользователей. Недавно было предложено обучать системы верификации диктора с использованием сквозных глубоких нейронных моделей. В этой статье мы показываем, что такие системы уязвимы для атак с использованием состязательных примеров. Состязательные примеры создаются путем добавления специфического шума к исходным речевым примерам так, чтобы для человека-слушателя они были практически неразличимы. Тем не менее полученные речевые сигналы, звучащие так, как будто они произнесены диктором A, могут использоваться для обмана системы, выдавая их за сигналы, произнесенные диктором B. Мы представляем атаки типа white-box на глубокую сквозную сеть, обученную либо на YOHO, либо на NTIMIT. Кроме того, мы рассматриваем две атаки типа black-box. В первой состязательные примеры генерируются системой, обученной на NTIMIT, а атака проводится на системе, обученной на YOHO. Во второй состязательные примеры генерируются с использованием признаков мел-спектра, а атака проводится на системе, обученной с использованием MFCC. Наши результаты показывают, что точность целевой системы можно существенно снизить даже в том случае, когда состязательные примеры генерируются другой системой, потенциально использующей другие признаки.
1
Речевые сигналы, звучащие как речь говорящего A, могут заставить систему верификации принять их за речь говорящего B.
2
Эффективность атак переносится между различными признаковыми представлениями: примеры, созданные с использованием Mel-спектров, существенно снижают точность систем на MFCC-признаках.
3
Атаки в сценарии чёрного ящика переносятся между системами, обученными на разных наборах данных, включая генерацию примеров на NTIMIT и атаку системы, обученной на YOHO.
4
Системы сквозной верификации говорящего уязвимы к состязательным примерам, которые почти неотличимы от исходной речи для человеческого слушателя.
5
Атаки в сценарии белого ящика успешно воздействуют на сквозные сети, обученные на наборах данных YOHO и NTIMIT.

сквозные глубокие нейросетевые системы верификации говорящего

уязвимость систем верификации говорящего к атакам с использованием состязательных примеров, включая переносимость атак между обучающими наборами, моделями и акустическими признаками

Publication Details
Publication Date
2018-04-01
Journal
Publisher
ISSN
Cited by
181
Access Type
Author Information
Authors
Moustapha Cissé
Joseph Keshet
Yossi Adi
Felix Kreuk
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%