DCdetector: контрастивное обучение представлений временных рядов с двойным вниманием для обнаружения аномалий
DCdetector: Dual Attention Contrastive Representation Learning for Time Series Anomaly Detection
2023-08-04
SCID: 54.1/hd8eeg7m
Discuss with AI
контрастивное обучение представленийдвойное вниманиемногошкальное обучениеинвариантное к перестановкам представлениеобнаружение аномалий во временных рядах
Figures from the paper
Abstract (AI)
Обнаружение аномалий во временных рядах имеет критическое значение для широкого спектра приложений. Его цель заключается в выявлении отклоняющихся выборок из распределения нормальных выборок во временном ряду. Наиболее фундаментальная проблема этой задачи состоит в обучении отображения представлений, обеспечивающего эффективное различение аномалий. По-прежнему доминируют методы на основе реконструкции, однако обучение представлений с учетом аномалий может снижать производительность из-за больших потерь, обусловленных аномальными данными. С другой стороны, контрастивное обучение направлено на получение представления, позволяющего четко отличать каждый экземпляр от остальных, что может обеспечить более естественное и перспективное представление для обнаружения аномалий во временных рядах. В этой работе мы предлагаем DCdetector — многошкальную модель контрастивного обучения представлений с двойным вниманием. DCdetector использует новую асимметричную архитектуру с двойным вниманием для создания переставленной среды и чистую контрастивную функцию потерь для управления процессом обучения, благодаря чему формируется инвариантное к перестановкам представление с превосходной способностью к различению. Обширные эксперименты показывают, что DCdetector достигает передовых результатов на нескольких эталонных наборах данных для обнаружения аномалий во временных рядах. Исходный код находится в открытом доступе по адресу: https://github.com/DAMO-DI-ML/KDD2023-DCdetector.
Key Findings
1
Чистая контрастивная функция потерь направляет обучение представлений без опоры на ошибки реконструкции аномалий, которые могут искажать представления.
2
DCdetector представляет многошкальную модель контрастивного обучения представлений с двойным вниманием для обнаружения аномалий во временных рядах.
3
Обширные эксперименты показывают результаты уровня state-of-the-art на нескольких эталонных наборах данных для обнаружения аномалий во временных рядах.
4
Асимметричная конструкция с двойным вниманием создаёт переставленные окружения и позволяет обучать перестановочно-инвариантные представления.
5
Полученные представления обеспечивают более сильное различение аномалий по сравнению с методами, ориентированными на реконструкцию.
Research Object
данные временных рядов и их нормальные/аномальные отсчёты
Research Subject
обучение дискриминативному, инвариантному к перестановкам представлению для выявления аномалий во временных рядах
Publication Details
Publication Date
2023-08-04
Journal
Publisher
ISSN
Cited by
453
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai17
Adam: метод стохастической оптимизации2014
PyTorch: библиотека глубокого обучения с императивным стилем программирования и высокой производительностью2019
Надёжное обнаружение аномалий в многомерных временных рядах с использованием стохастической рекуррентной нейронной сети2019
Обзор выявления выбросов/аномалий во временных рядах2021
Обнаружение аномалий в многомерных временных рядах на основе графовых нейронных сетей2021
Унифицирующий обзор глубоких и поверхностных методов обнаружения аномалий2021
Обнаружение аномалий без учителя с помощью вариационного автокодировщика для сезонных KPI в веб-приложениях2018
Обнаружение аномалий во временных рядах2022
Глубокое обучение для обнаружения аномалий во временных рядах: обзор2024
Обнаружение аномалий в многомерных временных рядах с помощью графовой сети внимания2020
DeepAnT: Подход на основе глубокого обучения для неконтролируемого обнаружения аномалий во временных рядах2018
Сервис обнаружения аномалий во временных рядах в Microsoft2019
Практический подход к обнаружению и локализации аномалий в асинхронных многомерных временных рядах2021
Обнаружение и интерпретация аномалий в многомерных временных рядах с использованием иерархического межметрического и временного вложения2021
Обучение структур графов с помощью Transformer для обнаружения аномалий в многомерных временных рядах в Интернете вещей2021
VAE-GAN на основе LSTM для обнаружения аномалий во временных рядах2020
Anomaly Transformer: обнаружение аномалий во временных рядах с использованием расхождения ассоциаций2024