Малые большие языковые модели плохо обучаются работе с инструментами: агент на основе нескольких БЯМ

Агенты на основе больших языковых моделей (БЯМ) значительно расширяют возможности автономных БЯМ, позволяя им взаимодействовать с внешними инструментами (например, API и функциями) и автономно решать различные задачи. Работа с инструментами требует от БЯМ не только понимания пользовательских запросов и точной генерации ответов, но и эффективного планирования задач, вызова инструментов и обобщения результатов. В то время как традиционные подходы сосредоточены на обучении одной БЯМ всем этим способностям, ограничения производительности становятся очевидными, особенно для моделей меньшего размера. Для преодоления этих трудностей мы предлагаем новый подход, в котором вышеупомянутые способности декомпозируются на планировщик, модуль вызова и модуль суммаризации. Каждый компонент реализуется отдельной БЯМ, специализирующейся на определённой способности и взаимодействующей с другими компонентами для решения задачи. Такая модульная архитектура упрощает раздельное обновление компонентов и допускает использование небольших БЯМ для реализации каждой способности. Для эффективного обучения этой архитектуры мы предлагаем двухэтапную парадигму обучения. Сначала базовую БЯМ дообучают на всём наборе данных без разделения на подзадачи, обеспечивая модели целостное понимание задачи. Затем дообученную БЯМ используют для создания планировщика, модуля вызова и модуля суммаризации соответственно, после чего каждый из них дополнительно дообучают на соответствующей подзадаче. Оценка на различных тестах использования инструментов показывает, что предложенная архитектура на основе нескольких БЯМ превосходит традиционный подход с одной БЯМ, что подтверждает её эффективность и преимущества в обучении работе с инструментами.