Обзор агентного искусственного интеллекта и кибербезопасности: проблемы, возможности и прототипы практических применений
A Survey of Agentic AI and Cybersecurity: Challenges, Opportunities and Use-case Prototypes
2026-01-08
SCID: 54.1/wpzgsjkg
Discuss with AI
агентный искусственный интеллектавтономное реагирование на инцидентыкибербезопасностьотравление памятипоиск угроз
Figures from the paper
Abstract (AI)
Агентный искусственный интеллект знаменует собой важный переход от генеративных моделей, выполняющих отдельные шаги, к системам, способным рассуждать, планировать, действовать и адаптироваться при выполнении длительных задач. Благодаря интеграции памяти, использования инструментов и итеративных циклов принятия решений эти системы обеспечивают непрерывные автономные рабочие процессы в реальных средах. В настоящем обзоре рассматриваются последствия применения агентного искусственного интеллекта для кибербезопасности. В защитной сфере агентные возможности обеспечивают непрерывный мониторинг, автономное реагирование на инциденты, адаптивный поиск угроз и масштабное выявление мошенничества. Вместе с тем те же свойства усиливают возможности злоумышленников, ускоряя разведку, эксплуатацию уязвимостей, координацию и атаки с использованием социальной инженерии. Такая двойственная природа применения выявляет фундаментальные пробелы в существующих механизмах управления, обеспечения надежности и подотчетности, которые в основном разрабатывались для неавтономных и краткоживущих систем искусственного интеллекта. Для решения этих проблем мы рассматриваем формирующиеся модели угроз, рамочные структуры безопасности и процессы оценки, адаптированные к агентным системам, а также анализируем системные риски, включая сговор агентов, каскадные отказы, уклонение от надзора и отравление памяти. Наконец, мы представляем три репрезентативные реализации практических применений, демонстрирующие поведение агентного искусственного интеллекта в прикладных рабочих процессах кибербезопасности и показывающие, как проектные решения влияют на надежность, безопасность и операционную эффективность.
Key Findings
1
Агентный ИИ расширяет генеративные модели за счёт памяти, использования инструментов, рассуждения, планирования, действий и адаптации в длительных задачах.
2
Агентные возможности также усиливают атакующих, ускоряя разведку, эксплуатацию уязвимостей, координацию операций и атаки с использованием социальной инженерии.
3
Агентные системы кибербезопасности подвержены системным рискам, включая сговор агентов, каскадные сбои, уклонение от надзора и отравление памяти; три прототипа демонстрируют влияние проектных решений на надёжность, безопасность и операционную эффективность.
4
Существующие механизмы управления, обеспечения надёжности и подотчётности имеют фундаментальные пробелы, поскольку создавались для неавтономных и краткосрочных ИИ-систем.
5
В киберзащите агентные системы поддерживают непрерывный мониторинг, автономное реагирование на инциденты, адаптивный поиск угроз и масштабное обнаружение мошенничества.
Research Object
агентные системы ИИ в рабочих процессах кибербезопасности
Research Subject
их защитные и атакующие возможности, системные риски, а также управление, обеспечение надежности, безопасность и операционная эффективность
Publication Details
Publication Date
2026-01-08
Journal
Publisher
ISSN
Cited by
56
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai5
AI-агенты под угрозой: обзор ключевых проблем безопасности и перспективных направлений2025
Безопасность агентного искусственного интеллекта: угрозы, методы защиты, оценка и открытые проблемы2026
Обзор заслуживающих доверия агентов на основе больших языковых моделей: угрозы и контрмеры2025
TRiSM для агентного искусственного интеллекта: обзор управления доверием, рисками и безопасностью в агентных мультиагентных системах на основе больших языковых моделей2026
SAGA: архитектура безопасности для управления агентными системами искусственного интеллекта2026