Агрегация и ускорение широковещательной рассылки в ядре операционной системы для распределённого взаимодействия

Широковещательная рассылка и агрегация определяют основную часть коммуникационных накладных расходов в распределённых системах — от обучения моделей машинного обучения до аналитики данных. Современные подходы к ускорению требуют специализированного оборудования (RDMA) или выделенных ресурсов (DPDK), что ограничивает их развертывание в общедоступных облачных средах. Однако мы предлагаем контринтуитивную альтернативу: вместо обхода ядра мы переносим операции внутрь него с помощью eBPF. Хотя это накладывает жёсткие ограничения, включая отсутствие арифметики с плавающей точкой, ограниченный объём памяти и выполнение без сохранения состояния, мы показываем, что эти ограничения парадоксальным образом стимулируют разработку инновационных протоколов, обеспечивающих неожиданные преимущества. Мы представляем AggBox, реализующий операции широковещательной рассылки и агрегации полностью в ограниченной среде eBPF. Ключевые инновации включают не сохраняющие состояние групповые подтверждения для обеспечения надёжности, квантование на границе для агрегации значений с плавающей точкой с использованием только целочисленной арифметики и цепочки хвостовых вызовов, создающие виртуальную память сверх ограничения стека eBPF в 512 байт. Эти решения не противостоят ограничениям, а исходят из них и используют их. На стандартном оборудовании AggBox демонстрирует высокую производительность: снижение задержки широковещательной рассылки на 84,5%, ускорение рабочих нагрузок MapReduce в 43 раза и ускорение агрегации градиентов машинного обучения на 56,1% — без специализированных сетевых интерфейсных карт и выделенных ядер. Помимо повышения производительности, наша работа показывает, что ограниченные среды могут стимулировать фундаментальные инновации в проектировании протоколов, предоставляя идеи для будущих систем с ограниченными ресурсами и систем, допускающих формальную верификацию.