Обзор агентного искусственного интеллекта и кибербезопасности: проблемы, возможности и прототипы практических применений

A Survey of Agentic AI and Cybersecurity: Challenges, Opportunities and Use-case Prototypes
Elisa Bertino, Maanak Gupta, Kshitiz Aryal, Sahaya Jestus Lazer
2026-01-08

агентный искусственный интеллектавтономное реагирование на инцидентыкибербезопасностьотравление памятипоиск угроз
Агентный искусственный интеллект знаменует собой важный переход от генеративных моделей, выполняющих отдельные шаги, к системам, способным рассуждать, планировать, действовать и адаптироваться при выполнении длительных задач. Благодаря интеграции памяти, использования инструментов и итеративных циклов принятия решений эти системы обеспечивают непрерывные автономные рабочие процессы в реальных средах. В настоящем обзоре рассматриваются последствия применения агентного искусственного интеллекта для кибербезопасности. В защитной сфере агентные возможности обеспечивают непрерывный мониторинг, автономное реагирование на инциденты, адаптивный поиск угроз и масштабное выявление мошенничества. Вместе с тем те же свойства усиливают возможности злоумышленников, ускоряя разведку, эксплуатацию уязвимостей, координацию и атаки с использованием социальной инженерии. Такая двойственная природа применения выявляет фундаментальные пробелы в существующих механизмах управления, обеспечения надежности и подотчетности, которые в основном разрабатывались для неавтономных и краткоживущих систем искусственного интеллекта. Для решения этих проблем мы рассматриваем формирующиеся модели угроз, рамочные структуры безопасности и процессы оценки, адаптированные к агентным системам, а также анализируем системные риски, включая сговор агентов, каскадные отказы, уклонение от надзора и отравление памяти. Наконец, мы представляем три репрезентативные реализации практических применений, демонстрирующие поведение агентного искусственного интеллекта в прикладных рабочих процессах кибербезопасности и показывающие, как проектные решения влияют на надежность, безопасность и операционную эффективность.
1
Агентный ИИ расширяет генеративные модели за счёт памяти, использования инструментов, рассуждения, планирования, действий и адаптации в длительных задачах.
2
Агентные возможности также усиливают атакующих, ускоряя разведку, эксплуатацию уязвимостей, координацию операций и атаки с использованием социальной инженерии.
3
Агентные системы кибербезопасности подвержены системным рискам, включая сговор агентов, каскадные сбои, уклонение от надзора и отравление памяти; три прототипа демонстрируют влияние проектных решений на надёжность, безопасность и операционную эффективность.
4
Существующие механизмы управления, обеспечения надёжности и подотчётности имеют фундаментальные пробелы, поскольку создавались для неавтономных и краткосрочных ИИ-систем.
5
В киберзащите агентные системы поддерживают непрерывный мониторинг, автономное реагирование на инциденты, адаптивный поиск угроз и масштабное обнаружение мошенничества.

агентные системы ИИ в рабочих процессах кибербезопасности

их защитные и атакующие возможности, системные риски, а также управление, обеспечение надежности, безопасность и операционная эффективность

Publication Details
Publication Date
2026-01-08
Journal
Publisher
ISSN
Cited by
56
Access Type
Author Information
Authors
Elisa Bertino
Maanak Gupta
Kshitiz Aryal
Sahaya Jestus Lazer
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%