Управление ИИ и агентными системами: проблемы и методологии
Governance of AI and Agentic Systems: Challenges and Methodologies
2025-11-06
SCID: 54.1/k5bv36aw
Discuss with AI
управление ИИжизненный цикл ИИагентные системы ИИнормативное управлениепроактивное управление рисками
Figures from the paper
Abstract (AI)
Ускоренное развитие искусственного интеллекта (ИИ) в сочетании с распространением агентных систем меняет ландшафт возможностей и рисков как для организаций, так и для общества в целом. Хотя системы управления ИИ развивались с целью решения этических, правовых и операционных проблем, существующие модели зачастую не обеспечивают эффективного управления автономностью, адаптивностью и эмерджентным поведением агентного ИИ. В статье рассматриваются ограничения современных подходов к управлению и предлагаются комплексные модели, адаптированные как для традиционных агентных систем, так и для агентных систем ИИ. Предлагаемые модели объединяют принципы прозрачности, подотчётности, безопасности и устойчивости на всех этапах жизненного цикла ИИ, акцентируя внимание на проактивном управлении рисками, вовлечении заинтересованных сторон и нормативном управлении. Согласуя технические меры защиты с этическими императивами, эти модели призваны укреплять доверие, снижать системные риски и обеспечивать ответственное внедрение инноваций.
Key Findings
1
Существующие модели управления ИИ недостаточны для агентных систем, поскольку они плохо учитывают автономность, адаптивность и эмерджентное поведение.
2
Рамки согласуют технические меры защиты с этическим и нормативным управлением для укрепления доверия, снижения системных рисков и поддержки ответственных инноваций.
3
В статье представлены рамки управления, адаптированные как для традиционных, так и для агентных систем ИИ на протяжении всего жизненного цикла.
4
Предлагаемые рамки объединяют прозрачность, подотчётность, безопасность и устойчивость с проактивным управлением рисками и вовлечением заинтересованных сторон.
Research Object
традиционные и агентные системы искусственного интеллекта
Research Subject
модели управления, учитывающие автономность, адаптивность и эмерджентное поведение систем ИИ, а также этические, правовые, операционные, безопасностные и связанные с устойчивостью риски на протяжении их жизненного цикла
Publication Details
Publication Date
2025-11-06
Journal
Publisher
ISSN
Access Type
Author Information
Download PDF
Subscribe to digest