Единая концепция взаимодействия человека и искусственного интеллекта в центрах мониторинга и реагирования на инциденты информационной безопасности с использованием доверенной автономности

В статье представлена структурированная концепция взаимодействия человека и искусственного интеллекта (ИИ) в центрах мониторинга и реагирования на инциденты информационной безопасности (Security Operations Centers, SOC), объединяющая автономность ИИ, калибровку доверия и принятие решений с участием человека (Human-in-the-Loop, HITL). Существующие концепции для SOC часто сосредоточены преимущественно на автоматизации и не содержат систематизированных механизмов управления человеческим контролем, калибровкой доверия и масштабируемой автономностью ИИ. Во многих из них предполагаются статичные или бинарные режимы автономности, что не позволяет учитывать различия в сложности, критичности и риске задач SOC при взаимодействии человека и ИИ. Для устранения этих ограничений предложена новая многоуровневая концепция автономности, основанная на пяти уровнях автономности ИИ — от ручного управления до полностью автономной работы, — сопоставленных с ролями человека в контуре управления (HITL) и порогами доверия, специфичными для отдельных задач. Концепция обеспечивает адаптивную и объяснимую интеграцию ИИ в основные функции SOC, включая мониторинг, защиту, обнаружение угроз, сортировку оповещений и реагирование на инциденты. Ее отличие от предыдущих исследований заключается в установлении формальных связей между автономностью, доверием и HITL на различных уровнях SOC, что позволяет адаптивно распределять задачи с учетом операционной сложности и связанных с ней рисков. Концепция проиллюстрирована с помощью имитационного киберполина, включающего AI Avatar для кибербезопасности — ассистента SOC на основе большой языковой модели (LLM), дополненной генерацией с извлечением (Retrieval-Augmented Generation, RAG). Тематическое исследование AI Avatar демонстрирует взаимодействие человека и ИИ при выполнении задач SOC, снижение усталости от оповещений, повышение согласованности реагирования и стратегическую калибровку доверия. В исследовании систематически представлены теоретические и практические аспекты, а также реализуемость проектирования когнитивных SOC следующего поколения, использующих ИИ не для замены принятия решений человеком, а для его совершенствования.