SAGA: архитектура безопасности для управления агентными системами искусственного интеллекта
SAGA: A Security Architecture for Governing AI Agentic Systems
2026-01-01
SCID: 54.1/hzgafgr3
Discuss with AI
агентные системы ИИархитектура безопасности SAGAобнаружение агентов и коммуникацияидентификация и аутентификация агентовуправление агентами пользователем
Figures from the paper
Abstract (AI)
Расширение автономности и функциональности агентов искусственного интеллекта увеличивает поверхность атаки агентных систем, создавая многочисленные риски безопасности. По мере интеграции агентов искусственного интеллекта в критически важные приложения обеспечение безопасности таких систем становится сопряжено с рядом проблем, отмеченных в недавнем техническом документе OpenAI [9]. К числу ключевых требований относятся определение уникальных идентификаторов агентов искусственного интеллекта, их аутентификация, а также предоставление защищённых механизмов обнаружения и коммуникации между агентами. Эти требования должны сохранять эффективность даже в условиях противодействия, поскольку злоумышленники могут пытаться выдавать себя за агентов, перехватывать коммуникации или манипулировать поведением агентов для извлечения конфиденциальной информации либо нарушения предусмотренной функциональности. В техническом документе OpenAI особо подчёркивается необходимость сохранять контроль и надзор со стороны пользователя на всех этапах работы и на протяжении всего жизненного цикла агентов больших языковых моделей (LLM), чтобы предотвратить потенциальный вред со стороны вредоносных агентов. Хотя были предложены различные архитектуры агентных систем искусственного интеллекта, включающие идентичности агентов [10], атрибуцию [11], механизмы авторизации и возможности делегирования [12], в основном эти решения остаются теоретическими и не сопровождаются реализацией или оценкой. Наиболее существенно то, что они не обеспечивают должного решения ключевой задачи управления агентами под контролем пользователя. Недавно протокол A2A компании Google представил децентрализованную инфраструктуру идентификации, в которой агенты публикуют общедоступные метаданные и устанавливают прямую зашифрованную связь с использованием веб-аутентификации. Хотя A2A способствует интероперабельности и поддерживает проверяемые идентификаторы, ему недостаёт механизмов принудительного применения политик и посредничества во взаимодействиях агентов во время выполнения; кроме того, протокол не предусматривает мер защиты от агентов-противников. В этой статье мы предлагаем SAGA — платформу управления развёртыванием агентов больших языковых моделей, предназначенную для повышения безопасности при обеспечении пользователю надзора за жизненным циклом агентов (см. обзор на рис. 1). В SAGA пользователи регистрируют себя и...
Key Findings
1
Предыдущие предложения по идентификации, атрибуции, авторизации и делегированию полномочий агентов характеризуются как преимущественно теоретические из-за отсутствия реализации и оценки.
2
SAGA представляет архитектуру безопасности для управления развертыванием LLM-агентов с сохранением пользовательского контроля на протяжении всего жизненного цикла агентов.
3
SAGA устраняет пробел предыдущих архитектур агентов, добавляя управляемое пользователем администрирование агентов, которого в существующих решениях в значительной степени не хватает.
4
В аннотации отмечается, что протокол Google A2A поддерживает децентрализованные идентификаторы и шифрованную коммуникацию, но не обеспечивает применение политик, посредничество взаимодействий во время выполнения и защиту от вредоносных агентов.
5
Фреймворк охватывает ключевые требования безопасности, включая уникальные идентификаторы агентов, аутентификацию, безопасное обнаружение и защищённую коммуникацию в условиях атак.
Research Object
агентные системы на основе LLM
Research Subject
управление безопасностью, контролируемое пользователем управление жизненным циклом и защита идентичности, коммуникаций и взаимодействий агентов в условиях противодействия злоумышленников
Publication Details
Publication Date
2026-01-01
Journal
Publisher
ISSN
Cited by
91
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai3
Работы, цитирующие эту статью4
Обзор агентного искусственного интеллекта и кибербезопасности: проблемы, возможности и прототипы практических применений2026
CapChain: архитектура управления доступом на основе токенов возможностей с проверяемым происхождением для мультиагентных систем на базе больших языковых моделей2026
SoK: Безопасность автономных LLM-агентов в агентной торговле2026
Управление ИИ и агентными системами: проблемы и методологии2025