Оценка и регулирование агентного ИИ: исследование бенчмарков, метрик и регулирования

Evaluating and regulating agentic AI: A study of benchmarks, metrics, and regulation
Athanasios V. Vasilakos, Shaina Raza, Christos Emmanouilidis, Azib Farooq, Nazmul Karim, Hasan Iqbal
2026-05-09

оценка ИИуправление ИИагентный искусственный интеллектбенчмарки и метрикимультиагентные системы
Агентный искусственный интеллект (ИИ) представляет собой новое поколение систем искусственного интеллекта, способных воспринимать информацию, рассуждать, планировать и действовать для достижения целей с определённой степенью автономности. В отличие от традиционных моделей ИИ, которые лишь генерируют выходные данные, эти системы обладают памятью, взаимодействуют с окружающей средой и адаптируются с течением времени. Однако оценка такого интерактивного и развивающегося поведения остаётся серьёзной проблемой. Хотя в ряде недавних обзоров рассматривались архитектуры, компоненты и области применения агентного ИИ, лишь немногие из них систематически анализировали его оценивание, особенно с точки зрения производительности, надёжности и управления в условиях развивающейся экосистемы агентного ИИ. В настоящей статье этот пробел восполняется посредством обзора последних достижений в разработке и оценке агентного ИИ с акцентом на три ключевых аспекта: бенчмарки, метрики и управление. Мы анализируем, каким образом современные оценочные фреймворки учитывают рассуждение, планирование, сотрудничество и этическое соответствие в одноагентных и многоагентных системах. В конечном счёте данное исследование направлено на создание единой основы для разработки заслуживающих доверия, поддающихся аудиту и согласованных с человеком ИИ-агентов. Веб-страница проекта доступна по ссылке на проект.
1
Агентные системы ИИ отличаются от традиционных моделей способностью автономно воспринимать информацию, рассуждать, планировать, действовать, хранить память, взаимодействовать со средой и адаптироваться со временем.
2
Оценка агентного ИИ остается сложной, поскольку его поведение является интерактивным, развивающимся и целенаправленным, а не ограничивается генерацией статических ответов.
3
Анализируется способность существующих систем оценки измерять рассуждение, планирование, сотрудничество и этическое соответствие в одноагентных и многоагентных системах.
4
В статье систематически рассматривается оценка агентного ИИ по трем направлениям: бенчмарки, метрики и управление, что восполняет пробел в предыдущих обзорах.
5
Исследование направлено на создание единой основы для разработки надежных, проверяемых и согласованных с человеческими ценностями агентных систем ИИ.
6
Оценка агентного ИИ остается сложной, поскольку его поведение является интерактивным, развивающимся и целенаправленным, а не ограничивается генерацией статических ответов.

агентные системы искусственного интеллекта

их оценка и управление, включая бенчмарки, метрики, производительность, надёжность, рассуждение, планирование, взаимодействие и этическое соответствие

Publication Details
Publication Date
2026-05-09
Journal
Publisher
ISSN
Cited by
7
Access Type
Author Information
Authors
Athanasios V. Vasilakos
Shaina Raza
Christos Emmanouilidis
Azib Farooq
Nazmul Karim
Hasan Iqbal
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%