Auto-sklearn: эффективное и устойчивое автоматизированное машинное обучение

Успех машинного обучения в широком спектре приложений привел к постоянно растущему спросу на системы машинного обучения, которыми неспециалисты могли бы пользоваться без дополнительной настройки. Для эффективного практического применения такие системы должны автоматически выбирать подходящий алгоритм и этапы предварительной обработки признаков для нового набора данных, а также устанавливать соответствующие гиперпараметры. В недавних исследованиях для решения этой задачи автоматизированного машинного обучения (AutoML) начали применять эффективные методы байесовской оптимизации. Развивая этот подход, мы представляем новую устойчивую систему AutoML, основанную на пакете машинного обучения Python scikit-learn (с использованием 15 классификаторов, 14 методов предварительной обработки признаков и 4 методов предварительной обработки данных, что приводит к структурированному пространству гипотез со 110 гиперпараметрами). Эта система, которую мы называем Auto-sklearn, превосходит существующие методы AutoML, автоматически учитывая результаты прошлых применений на схожих наборах данных и формируя ансамбли из моделей, оцененных в ходе оптимизации. Наша система победила в шести из десяти этапов первого состязания ChaLearn AutoML, а проведенный нами всесторонний анализ более чем 100 разнообразных наборов данных показывает, что она значительно превосходит предшествующий передовой уровень методов AutoML. Мы также демонстрируем прирост производительности, обусловленный каждым из предложенных нами компонентов, и выявляем закономерности, характеризующие эффективность отдельных компонентов Auto-sklearn.