Обзор методов объяснимого обнаружения аномалий
A Survey on Explainable Anomaly Detection
2023-07-15
SCID: 54.1/7hgugxef
Discuss with AI
обнаружение аномалийобъяснимостьобъяснимое обнаружение аномалийкритически важные областитаксономия
Figures from the paper
Abstract (AI)
В последние два десятилетия большинство исследований в области обнаружения аномалий было сосредоточено на повышении точности обнаружения, при этом объяснимости соответствующих методов в значительной степени не уделялось внимания, вследствие чего объяснение результатов оставалось задачей практиков. По мере того как алгоритмы обнаружения аномалий всё шире применяются в критически важных с точки зрения безопасности областях, предоставление объяснений для решений с высокими ставками, принимаемых в этих областях, стало этическим и нормативным требованием. Поэтому в данной работе представлен всесторонний и структурированный обзор современных методов объяснимого обнаружения аномалий. Мы предлагаем таксономию, основанную на основных аспектах, характеризующих каждый метод объяснимого обнаружения аномалий, чтобы помочь практикам и исследователям найти метод, наилучшим образом соответствующий их потребностям.
Key Findings
1
Исследования обнаружения аномалий преимущественно были сосредоточены на точности обнаружения, в значительной степени пренебрегая объяснимостью результатов алгоритмов.
2
Объяснимость становится всё более необходимой, поскольку обнаружение аномалий используется для принятия решений с высокими рисками в критически важных областях, регулируемых этическими и нормативными требованиями.
3
Предложена таксономия, организованная по основным характеристикам методов объяснимого обнаружения аномалий, чтобы помочь исследователям и практикам выбирать подходящие методы.
4
В статье представлен всеобъемлющий структурированный обзор современных методов объяснимого обнаружения аномалий.
Research Object
Методы объяснимого обнаружения аномалий
Research Subject
объяснимость результатов и методов обнаружения аномалий, включая их характеристику и пригодность для принятия решений с высокими последствиями
Publication Details
Publication Date
2023-07-15
Journal
Publisher
ISSN
Cited by
294
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai14
XGBoost2016
Единый подход к интерпретации предсказаний моделей2017
Почему я должен вам доверять?2016
Регуляризация и отбор переменных с помощью Elastic Net2005
Обнаружение аномалий2009
На пути к строгой науке об интерпретируемом машинном обучении2017
Isolation Forest2008
Глубокое обучение для обнаружения аномалий2021
Интерпретируемость машинного обучения: обзор методов и метрик2019
Унифицирующий обзор глубоких и поверхностных методов обнаружения аномалий2021
Обзор интерпретируемости обучения с учителем2021
Обнаружение и интерпретация аномалий в многомерных временных рядах с использованием иерархического межметрического и временного вложения2021
Обзор методов объяснения решений моделей типа «чёрный ящик»2018
Оценка качества объяснений в машинном обучении: обзор методов и метрик2021