CatBoost для больших данных: междисциплинарный обзор

Градиентный бустинг над решающими деревьями (GBDT) является мощным инструментом для задач классификации и регрессии в области больших данных. Исследователям следует хорошо знать сильные и слабые стороны современных реализаций GBDT, чтобы эффективно применять их и вносить успешные научные вклады. CatBoost относится к семейству ансамблевых методов машинного обучения на основе GBDT. С момента появления в конце 2018 года CatBoost успешно используется в исследованиях по машинному обучению, связанных с большими данными. В данном обзоре рассматриваются недавние исследования, связывающие CatBoost с задачами больших данных, и выделяются лучшие практики как из работ, подчеркивающих преимущества CatBoost, так и из работ, где CatBoost не превосходит другие методы, поскольку уроки можно извлечь в обоих случаях. Как алгоритм на основе решающих деревьев, CatBoost особенно пригоден для задач машинного обучения с категориальными и гетерогенными данными. Недавние исследования в разных дисциплинах иллюстрируют как эффективность, так и ограничения CatBoost в задачах классификации и регрессии. Еще одним важным вопросом, выявленным в литературе, является чувствительность алгоритма к гиперпараметрам и важность их настройки. Одно из наших вклада — междисциплинарный подход, охватывающий исследования, связанные с CatBoost, в единой работе, что дает исследователям глубокое понимание и помогает прояснить правильное применение CatBoost для решения задач. Насколько нам известно, это первый обзор, который изучает все работы, связанные с CatBoost, в одной публикации.