Применение объяснимого искусственного интеллекта в кибербезопасности: современное состояние исследований

В этом обзоре представлено всестороннее рассмотрение современной литературы по методам объяснимого искусственного интеллекта (XAI) для применений в кибербезопасности. В связи с быстрым развитием подключённых к Интернету систем и искусственного интеллекта в последние годы ИИ, включая машинное обучение (ML) и глубокое обучение (DL), широко применяется в областях кибербезопасности, таких как обнаружение вторжений, обнаружение вредоносного ПО и фильтрация спама. Однако, хотя подходы на основе ИИ для обнаружения и защиты от кибератак и угроз более совершенные и эффективные по сравнению с традиционными сигнатурными и правиловыми стратегиями, большинство методов на основе ML и DL развёрнуты в «чёрном ящике», то есть специалисты по безопасности и пользователи не могут объяснить, как такие системы приходят к конкретным выводам. Отсутствие прозрачности и интерпретируемости существующих методов ИИ снижает доверие пользователей к моделям, используемым для киберзащиты, особенно в условиях роста разнообразия и сложности кибератак. Поэтому применение XAI важно для разработки моделей кибербезопасности, которые были бы более объяснимыми при сохранении высокой точности и позволяли пользователям понимать, доверять и управлять средствами защиты следующего поколения. Несмотря на наличие обзоров приложений ИИ в кибербезопасности и обширной литературы по XAI в таких областях, как здравоохранение, финансовые услуги и уголовное правосудие, поразительно, что в настоящее время отсутствуют обзорные статьи, сосредоточенные конкретно на применениях XAI в кибербезопасности. Мотивация этого обзора — устранить этот пробел в исследованиях, представив подробный и актуальный обзор подходов XAI, применимых к задачам кибербезопасности. Наша работа впервые предлагает чёткую дорожную карту для ориентирования в литературе по XAI в контексте приложений в кибербезопасности.