Генеративные агенты искусственного интеллекта с большими языковыми моделями для спутниковых сетей посредством передачи на основе смеси экспертов

Generative AI Agents With Large Language Model for Satellite Networks via a Mixture of Experts Transmission
Hongyang Du, Jiawen Kang, Dusit Niyato, Dong In Kim, Abbas Jamalipour, Zehui Xiong, Ruichen Zhang, Yinqiu Liu
2024-09-12

генеративные ИИ-агентыбольшие языковые моделисмесь экспертовгенерация с дополненным поискомспутниковые сети связи
В ответ на потребности глобальных коммуникаций 6G спутниковые сети связи стали одним из ключевых решений. Однако широкомасштабное развитие спутниковых сетей связи ограничивается сложными системными моделями, формулирование которых представляет трудность при обслуживании огромного числа пользователей. Кроме того, помехи при передаче между спутниками и пользователями серьезно ухудшают характеристики связи. Для решения этих проблем в данной статье разрабатываются агенты генеративного искусственного интеллекта (ИИ) для формулирования моделей, после чего для разработки стратегий передачи применяется подход на основе смеси экспертов (mixture of experts, MoE). В частности, большие языковые модели (LLM) используются для построения интерактивной парадигмы моделирования, а генерация с дополнением поиска (retrieval-augmented generation, RAG) — для извлечения специализированных знаний о спутниковых системах, поддерживающих математическое моделирование. Далее, объединяя экспертные знания множества специализированных компонентов, мы предлагаем подход проксимальной оптимизации политики на основе смеси экспертов (MoE-PPO) для решения сформулированной задачи. Каждый эксперт посредством специализированного обучения в собственной сети оптимизирует переменные, для которых он наиболее подходит, после чего результаты агрегируются с помощью гейтирующей сети для выполнения совместной оптимизации. Результаты моделирования подтверждают точность и эффективность использования генеративного агента для формулирования задачи. Кроме того, подтверждено превосходство предложенного подхода MoE-PPO над другими базовыми методами при решении сформулированной задачи. Также продемонстрирована адаптируемость MoE-PPO к различным задачам пользовательского моделирования.
1
Метод MoE-PPO превосходит сравнительные базовые методы при решении сформулированной задачи передачи и адаптируется к пользовательским задачам моделирования.
2
Генерация с дополнением поиска использует экспертные знания о спутниковых системах для поддержки точного математического моделирования в интерактивной парадигме на основе LLM.
3
Моделирование подтверждает точность и эффективность формулирования задач спутниковой связи с помощью генеративного агента.
4
В работе разработаны агенты генеративного ИИ на основе больших языковых моделей для формулирования сложных оптимизационных моделей спутниковых сетей при большом числе пользователей.
5
Предложенный метод проксимальной оптимизации политики со смесью экспертов распределяет специализированные оптимизационные переменные между экспертными сетями и объединяет их результаты посредством управляющей сети.

Сеть спутниковой связи со спутниками и многочисленными наземными пользователями (в контексте глобальной связи 6G)

моделирование с помощью генеративных агентов на основе LLM и оптимизация стратегий передачи методом MoE-PPO в условиях помех между спутниками и пользователями

Publication Details
Publication Date
2024-09-12
Journal
Publisher
ISSN
Cited by
219
Access Type
Author Information
Authors
Hongyang Du
Jiawen Kang
Dusit Niyato
Dong In Kim
Abbas Jamalipour
Zehui Xiong
Ruichen Zhang
Yinqiu Liu
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%