Обзор заслуживающих доверия агентов на основе больших языковых моделей: угрозы и контрмеры

Стремительное развитие больших языковых моделей (LLM) привело к значительному расширению возможностей экосистем LLM благодаря агентам на основе LLM и мультиагентным системам (MAS). Это развитие обусловлено наделением LLM дополнительными модулями, такими как память, инструменты, окружения и даже другие агенты. Однако этот прогресс также породил более сложные проблемы, связанные с обеспечением надежности, которые не могли быть охвачены предыдущими исследованиями, сосредоточенными исключительно на LLM. В этом обзоре мы предлагаем фреймворк TrustAgent — комплексное исследование надежности агентов, характеризующееся модульной таксономией, многомерным содержанием и * Miao Yu и Fanci Meng внесли равный вклад в данную работу.