Технические ограничения ИИ-агентов на основе больших языковых моделей и их связь с проблемами предвзятости и управления: нарративный обзор

Technical Limitations of LLM-Based AI Agents and Their Links to Bias and Governance Challenges: A Narrative Review
Jungyub Woo, Sewoong Lee, Sangsu Choi
2026-09-28

управление ИИИИ-агенты на основе больших языковых моделейраспространение предвзятостимультиагентное взаимодействиевызов инструментов
ИИ-агенты на основе больших языковых моделей (LLM) объединяют рассуждение и планирование, память, использование внешних знаний, вызов инструментов и взаимодействие множества агентов для выполнения сложных задач. Однако они сталкиваются со сбоями планирования, ограничениями поддержания контекста, нестабильностью взаимодействия, уязвимостями, возникающими при внешних взаимодействиях, предвзятостью, неясностью в распределении ответственности, а также трудностями надзора и отслеживания инцидентов. В настоящем нарративном обзоре литературы рассмотрены технологическая эволюция и технические ограничения ИИ-агентов, а также разработана концептуальная схема, связывающая эти ограничения с отдельными проблемами предвзятости и управления. Были включены отдельные ранние теоретические исследования; основное внимание уделено научной литературе, опубликованной после 2022 года, а также официальным материалам учреждений и компаний по июль 2026 года; в ходе доработки в сентябре 2026 года были обновлены сведения о статусе публикаций и доказательной базе. Источники были классифицированы по концепциям и тенденциям, архитектурам с одним и несколькими агентами, техническим ограничениям и социально-этическим вопросам; ограничения сопоставлялись с использованием схемы «рассматриваемая проблема — подход к снижению риска — сохраняющееся ограничение». Анализ показывает, что автономные действия, выполняемые от имени пользователей, неоднозначность объёма полномочий, взаимодействия между несколькими агентами, использование внешних знаний, наблюдение за внешней средой и вызов инструментов могут быть связаны с неясностью в распределении ответственности, распространением и усилением предвзятости, а также с трудностями надзора и отслеживания инцидентов. К потенциальным опосредующим факторам относятся наличие нескольких субъектов, нарушения координации и конформность, унаследованная предвзятость внешних источников и новые поверхности атаки. Эта концептуальная схема создаёт основу для дальнейших исследований в области надёжного проектирования, эксплуатации и управления ИИ-агентами.
1
ИИ-агенты на основе больших языковых моделей сталкиваются со сбоями планирования, ограничениями поддержания контекста, нестабильностью сотрудничества, уязвимостями внешних взаимодействий и трудностями надзора.
2
Потенциальными посредниками выступают наличие множества участников, несогласованность, конформизм, унаследованная предвзятость внешних источников и новые поверхности для атак.
3
Предложенная концептуальная карта создает основу для дальнейших исследований надежного проектирования, эксплуатации и управления ИИ-агентами.
4
Обзор связывает автономные действия, неоднозначные полномочия, взаимодействие множества агентов, использование внешних знаний, наблюдение за внешней средой и вызов инструментов с проблемами управления и предвзятости.
5
Эти технические особенности могут способствовать неясному распределению ответственности, распространению и усилению предвзятости, а также затруднять надзор и отслеживание инцидентов.

ИИ-агенты на основе больших языковых моделей (LLM)

Их технические ограничения и их взаимосвязь с распространением предвзятости, распределением ответственности, надзором и отслеживанием инцидентов

Publication Details
Publication Date
2026-09-28
Journal
Publisher
ISSN
Cited by
0
Access Type
Author Information
Authors
Jungyub Woo
Sewoong Lee
Sangsu Choi
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%