Управление ИИ и агентными системами: проблемы и методологии

Governance of AI and Agentic Systems: Challenges and Methodologies
Milena Kumurdjieva, Lyubka Doukovska, Nehla Ghouaiel, Ahmad Dhanani
2025-11-06

управление ИИжизненный цикл ИИагентные системы ИИнормативное управлениепроактивное управление рисками
Ускоренное развитие искусственного интеллекта (ИИ) в сочетании с распространением агентных систем меняет ландшафт возможностей и рисков как для организаций, так и для общества в целом. Хотя системы управления ИИ развивались с целью решения этических, правовых и операционных проблем, существующие модели зачастую не обеспечивают эффективного управления автономностью, адаптивностью и эмерджентным поведением агентного ИИ. В статье рассматриваются ограничения современных подходов к управлению и предлагаются комплексные модели, адаптированные как для традиционных агентных систем, так и для агентных систем ИИ. Предлагаемые модели объединяют принципы прозрачности, подотчётности, безопасности и устойчивости на всех этапах жизненного цикла ИИ, акцентируя внимание на проактивном управлении рисками, вовлечении заинтересованных сторон и нормативном управлении. Согласуя технические меры защиты с этическими императивами, эти модели призваны укреплять доверие, снижать системные риски и обеспечивать ответственное внедрение инноваций.
1
Существующие модели управления ИИ недостаточны для агентных систем, поскольку они плохо учитывают автономность, адаптивность и эмерджентное поведение.
2
Рамки согласуют технические меры защиты с этическим и нормативным управлением для укрепления доверия, снижения системных рисков и поддержки ответственных инноваций.
3
В статье представлены рамки управления, адаптированные как для традиционных, так и для агентных систем ИИ на протяжении всего жизненного цикла.
4
Предлагаемые рамки объединяют прозрачность, подотчётность, безопасность и устойчивость с проактивным управлением рисками и вовлечением заинтересованных сторон.

традиционные и агентные системы искусственного интеллекта

модели управления, учитывающие автономность, адаптивность и эмерджентное поведение систем ИИ, а также этические, правовые, операционные, безопасностные и связанные с устойчивостью риски на протяжении их жизненного цикла

Publication Details
Publication Date
2025-11-06
Journal
Publisher
ISSN
Access Type
Author Information
Authors
Milena Kumurdjieva
Lyubka Doukovska
Nehla Ghouaiel
Ahmad Dhanani
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%