Исследовательский ландшафт агентного искусственного интеллекта и больших языковых моделей: применения, проблемы и перспективные направления

Агентный искусственный интеллект (ИИ) и большие языковые модели (БЯМ) трансформируют процессы понимания и генерации языка, одновременно меняя подходы к принятию решений, автоматизации и проведению исследований. БЯМ обеспечивают базовые способности к рассуждению, а агентные системы ИИ используют их для выполнения задач посредством взаимодействия с внешними инструментами, сервисами и интерфейсами прикладного программирования (API). На основе структурированного обзорного исследования и тематического анализа в работе установлено, что ключевые проблемы БЯМ, связанные с безопасностью, конфиденциальностью и доверием, дезинформацией, неправомерным использованием и предвзятостью, энергопотреблением, прозрачностью и объяснимостью, а также согласованием ценностей, могут распространяться на агентный ИИ. Помимо этих унаследованных проблем, агентный ИИ порождает новые вызовы, включая управление контекстом, безопасность, конфиденциальность и доверие, рассогласование целей, непрозрачность принятия решений, ограниченный человеческий контроль, координацию между несколькими агентами, этическую и юридическую подотчётность и долгосрочную безопасность. Мы анализируем применения агентного ИИ на основе БЯМ в шести областях — образовании, здравоохранении, кибербезопасности, автономных транспортных средствах, электронной коммерции и обслуживании клиентов — чтобы выявить их влияние в реальных условиях. Кроме того, мы демонстрируем некоторые ограничения БЯМ с использованием DeepSeek-R1 и GPT-4o. Насколько нам известно, это первое комплексное исследование, объединяющее проблемы и применения БЯМ и агентного ИИ в рамках единого перспективного исследовательского ландшафта, способствующего междисциплинарным исследованиям и ответственному развитию этой формирующейся области.