EaSFE: Масштабируемая и эффективная инженерия признаков для повышения производительности машинного обучения

Инженерия признаков играет ключевую роль в машинном обучении (ML), но существующие методы часто испытывают трудности из‑за высокой вычислительной стоимости и ограниченной масштабируемости при применении к крупномасштабным и разреженным наборам данных. В этой статье мы предлагаем EaSFE — эффективную и масштабируемую платформу инженерии признаков, объединяющую генерацию, фильтрацию и оценку признаков в сквозном (end-to-end) процессе. EaSFE разработана для эффективного построения и отбора информативных признаков с явным учетом вычислительных и памятьных ограничений. Для обеспечения масштабируемости EaSFE включает механизмы параллельного и распределенного выполнения, а также стратегию пакетной (chunk-based) обработки данных, позволяющую проводить инженеринг признаков с экономией памяти на больших наборах данных. Кроме того, EaSFE использует специализированные стратегии хранения и выполнения для эффективной обработки высокоразмерных разреженных данных. Широкий набор экспериментов на нескольких реальных наборах данных показывает, что EaSFE последовательно улучшает предсказательную точность (например, повышение точности на 5% в задаче poker), одновременно существенно повышая эффективность (более чем 10× ускорение) по сравнению с существующими методами инженерии признаков. Также продемонстрировано, что EaSFE масштабируется до крупных и разреженных наборов данных, успешно обрабатывая наборы с более чем 119 миллионами обучающих экземпляров и 54 миллионами признаков.