Чтобы защититься от кибератак, мы должны научить ИИ-агентов взламывать системы

To Defend Against Cyber Attacks, We Must Teach AI Agents to Hack
Terry Yue Zhuo, Yangruibo Ding, Wenbo Guo, Ruijie Meng
2026-02-01

кибератаки с использованием ИИавтоматизированное обнаружение уязвимостейуправление киберполигонаминаступательные возможности ИИнаступательная разведка в сфере кибербезопасности
На протяжении более десяти лет кибербезопасность опиралась на дефицит человеческих ресурсов, ограничивая атакующих ручной атакой на высокоценные цели или применением универсальных автоматизированных атак в больших масштабах. Создание сложных эксплойтов требует глубоких знаний и значительных ручных усилий, поэтому специалисты по защите исходили из того, что противники не могут позволить себе масштабные целевые атаки. ИИ-агенты нарушают этот баланс, автоматизируя поиск уязвимостей и их эксплуатацию для тысяч целей; для сохранения прибыльности им достаточно небольшой доли успешных атак. Современные разработчики сосредоточены на предотвращении злоупотреблений с помощью фильтрации данных, согласования поведения с требованиями безопасности и ограничителей выходных данных. Такие меры неэффективны против противников, контролирующих модели с открытыми весами, обходящих средства безопасности или самостоятельно разрабатывающих наступательные возможности. Мы утверждаем, что кибератаки с использованием ИИ-агентов неизбежны, а значит, необходим фундаментальный пересмотр оборонительной стратегии. В этой концептуальной статье мы объясняем, почему существующие средства защиты не способны остановить адаптивных противников, и показываем, что защитники должны развивать наступательную разведку в сфере безопасности. Мы предлагаем три направления ответственного создания передовых наступательных возможностей ИИ. Во-первых, необходимо разработать комплексные бенчмарки, охватывающие весь жизненный цикл атаки. Во-вторых, следует перейти от агентов, основанных на рабочих процессах, к обученным агентам, способным масштабно выявлять уязвимости в реальных условиях. В-третьих, необходимо внедрить управление, ограничивающее наступательных агентов проверенными киберполигонами, предусматривающее поэтапный выпуск по уровням возможностей и преобразование полученных результатов в безопасных агентов, предназначенных только для защиты. Мы настоятельно рекомендуем рассматривать наступательные возможности ИИ как важнейшую часть оборонительной инфраструктуры, поскольку сдерживание киберрисков требует освоить их в контролируемых условиях раньше, чем это сделают противники.
1
Ожидается, что ИИ-агенты автоматизируют поиск уязвимостей и эксплуатацию тысяч целей, подрывая предположение о высокой стоимости масштабируемых целевых атак.
2
Атаки с использованием ИИ-агентов характеризуются как неизбежные, что требует перехода от одних лишь превентивных мер к наступательной разведке в сфере кибербезопасности.
3
Фильтрация данных, согласование безопасности и ограничения вывода не могут надежно предотвратить злоупотребления со стороны противников, контролирующих модели с открытыми весами или самостоятельно разрабатывающих наступательные возможности.
4
Ответственная разработка должна ограничивать наступательных агентов проверенными киберполигонами, поэтапно выпускать их по уровням возможностей и преобразовывать результаты в агентов только для обороны.
5
Авторы рекомендуют создавать комплексные бенчмарки всего жизненного цикла атаки и обучать агентов обнаруживать уязвимости в реальных системах в больших масштабах.

кибератаки, осуществляемые ИИ-агентами, и наступательные возможности ИИ для автоматизированного обнаружения и эксплуатации уязвимостей

масштабируемость, неизбежность, оборонительные последствия и ответственное управление обнаружением и эксплуатацией уязвимостей ИИ-агентами на большом числе целей

Publication Details
Publication Date
2026-02-01
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Terry Yue Zhuo
Yangruibo Ding
Wenbo Guo
Ruijie Meng
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%