Объяснимый искусственный интеллект в кибербезопасности: обзор

В настоящее время искусственный интеллект (ИИ) широко применяется во всех сферах повседневной жизни человека. Несмотря на преимущества ИИ, его применение сопряжено с непрозрачностью сложных внутренних механизмов и по своей конструкции не удовлетворяет принципам объяснимого искусственного интеллекта (XAI). Недостаток прозрачности усугубляет проблему в области кибербезопасности, поскольку передача принятия критически важных решений системе, которая не способна объяснить свои действия, несет очевидные риски. В научной литературе описан ряд методов, позволяющих обеспечить объяснимость результатов работы ИИ. Однако применение XAI в кибербезопасности может быть палкой о двух концах. Оно существенно совершенствует методы обеспечения кибербезопасности, но одновременно делает системы уязвимыми для атак противника. Поэтому необходимо проанализировать современное состояние методов XAI в кибербезопасности, чтобы сформировать четкое представление о направлениях дальнейших исследований. В настоящем исследовании представлен углубленный анализ применения XAI в кибербезопасности. Рассмотрено более 300 публикаций для всестороннего анализа основных областей применения в кибербезопасности, включая системы обнаружения вторжений, обнаружение вредоносных программ, обнаружение фишинга и спама, обнаружение ботнетов, выявление мошенничества, уязвимости нулевого дня, цифровую криминалистику и криптоджекинг. Особое внимание уделено методам объяснимости, принятым или предложенным в этих областях, а также перспективным исследованиям и новым вызовам.