Гетерогенные рои: совместная оптимизация ролей и весов моделей для систем на основе нескольких больших языковых моделей
Heterogeneous Swarms: Jointly Optimizing Model Roles and Weights for Multi-LLM Systems
2025-01-01
SCID: 54.1/hr544ada
Discuss with AI
JFK-оценкаориентированные ациклические графыоптимизация ролей моделеймульти-LLM системыоптимизация роем частиц
Figures from the paper
Abstract (AI)
Мы предлагаем Heterogeneous Swarms — алгоритм проектирования систем на основе нескольких больших языковых моделей (LLM) путем совместной оптимизации ролей и весов моделей. Мы представляем такие системы в виде ориентированных ациклических графов (DAG), состоящих из LLM, с топологической передачей сообщений для совместной генерации. Имея пул экспертных LLM и целевую функцию, Heterogeneous Swarms выполняет два итеративных шага: шаг оптимизации ролей и шаг оптимизации весов. На шаге оптимизации ролей роли моделей интерпретируются как задача обучения DAG, задающего поток входных и выходных данных между LLM. Начиная с роя случайных непрерывных матриц смежности, мы декодируем их в дискретные DAG, вызываем LLM в топологическом порядке, оцениваем системы с помощью целевой функции (например, по точности выполнения задачи) и оптимизируем матрицы смежности методом оптимизации роя частиц на основе значения целевой функции. На шаге оптимизации весов мы оцениваем вклад отдельных LLM в системы на основе нескольких LLM и оптимизируем веса моделей с использованием роевого интеллекта. Мы предлагаем показатель JFK для количественной оценки индивидуального вклада каждой LLM в наилучший найденный DAG на шаге оптимизации ролей, после чего оптимизируем веса моделей методом оптимизации роя частиц на основе показателя JFK. Эксперименты показывают, что Heterogeneous Swarms превосходит 15 базовых методов, основанных на ролях и/или весах, в среднем на 18,5% по результатам 12 задач. Дополнительный анализ показывает, что Heterogeneous Swarms обнаруживает системы на основе нескольких LLM с неоднородными ролями моделей и значительным эффектом совместной работы, а также использует преимущества разнообразия языковых моделей.
Key Findings
1
На 12 задачах Heterogeneous Swarms в среднем превосходит 15 базовых методов, оптимизирующих роли и/или веса, на 18,5%.
2
Heterogeneous Swarms совместно оптимизирует роли LLM, представленные структурами взаимодействия в виде DAG, и веса моделей в многомодельных системах.
3
Найденные системы характеризуются неоднородными ролями моделей, значительным коллективным выигрышем и преимуществами разнообразия языковых моделей.
4
Метод вводит JFK-score для оценки индивидуального вклада каждой LLM перед оптимизацией весов с помощью роевого интеллекта.
5
На этапе оптимизации ролей непрерывные матрицы смежности декодируются в дискретные DAG, после чего применяется топологическая передача сообщений и оптимизация роем частиц.
Research Object
мульти-LLM-системы, представленные в виде ориентированных ациклических графов из неоднородных больших языковых моделей
Research Subject
совместная оптимизация ролей LLM и весов моделей для совместной генерации и повышения эффективности по целевой функции
Publication Details
Publication Date
2025-01-01
Journal
Publisher
ISSN
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest