Чтобы защититься от кибератак, мы должны научить ИИ-агентов взламывать системы
To Defend Against Cyber Attacks, We Must Teach AI Agents to Hack
2026-02-01
SCID: 54.1/tbxq8gnr
Discuss with AI
кибератаки с использованием ИИавтоматизированное обнаружение уязвимостейуправление киберполигонаминаступательные возможности ИИнаступательная разведка в сфере кибербезопасности
Figures from the paper
Abstract (AI)
На протяжении более десяти лет кибербезопасность опиралась на дефицит человеческих ресурсов, ограничивая атакующих ручной атакой на высокоценные цели или применением универсальных автоматизированных атак в больших масштабах. Создание сложных эксплойтов требует глубоких знаний и значительных ручных усилий, поэтому специалисты по защите исходили из того, что противники не могут позволить себе масштабные целевые атаки. ИИ-агенты нарушают этот баланс, автоматизируя поиск уязвимостей и их эксплуатацию для тысяч целей; для сохранения прибыльности им достаточно небольшой доли успешных атак. Современные разработчики сосредоточены на предотвращении злоупотреблений с помощью фильтрации данных, согласования поведения с требованиями безопасности и ограничителей выходных данных. Такие меры неэффективны против противников, контролирующих модели с открытыми весами, обходящих средства безопасности или самостоятельно разрабатывающих наступательные возможности. Мы утверждаем, что кибератаки с использованием ИИ-агентов неизбежны, а значит, необходим фундаментальный пересмотр оборонительной стратегии. В этой концептуальной статье мы объясняем, почему существующие средства защиты не способны остановить адаптивных противников, и показываем, что защитники должны развивать наступательную разведку в сфере безопасности. Мы предлагаем три направления ответственного создания передовых наступательных возможностей ИИ. Во-первых, необходимо разработать комплексные бенчмарки, охватывающие весь жизненный цикл атаки. Во-вторых, следует перейти от агентов, основанных на рабочих процессах, к обученным агентам, способным масштабно выявлять уязвимости в реальных условиях. В-третьих, необходимо внедрить управление, ограничивающее наступательных агентов проверенными киберполигонами, предусматривающее поэтапный выпуск по уровням возможностей и преобразование полученных результатов в безопасных агентов, предназначенных только для защиты. Мы настоятельно рекомендуем рассматривать наступательные возможности ИИ как важнейшую часть оборонительной инфраструктуры, поскольку сдерживание киберрисков требует освоить их в контролируемых условиях раньше, чем это сделают противники.
Key Findings
1
Ожидается, что ИИ-агенты автоматизируют поиск уязвимостей и эксплуатацию тысяч целей, подрывая предположение о высокой стоимости масштабируемых целевых атак.
2
Атаки с использованием ИИ-агентов характеризуются как неизбежные, что требует перехода от одних лишь превентивных мер к наступательной разведке в сфере кибербезопасности.
3
Фильтрация данных, согласование безопасности и ограничения вывода не могут надежно предотвратить злоупотребления со стороны противников, контролирующих модели с открытыми весами или самостоятельно разрабатывающих наступательные возможности.
4
Ответственная разработка должна ограничивать наступательных агентов проверенными киберполигонами, поэтапно выпускать их по уровням возможностей и преобразовывать результаты в агентов только для обороны.
5
Авторы рекомендуют создавать комплексные бенчмарки всего жизненного цикла атаки и обучать агентов обнаруживать уязвимости в реальных системах в больших масштабах.
Research Object
кибератаки, осуществляемые ИИ-агентами, и наступательные возможности ИИ для автоматизированного обнаружения и эксплуатации уязвимостей
Research Subject
масштабируемость, неизбежность, оборонительные последствия и ответственное управление обнаружением и эксплуатацией уязвимостей ИИ-агентами на большом числе целей
Publication Details
Publication Date
2026-02-01
Journal
Publisher
ISSN
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest