Выбор модели и оценивание в регрессии с группированными переменными

Рассматривается задача выбора сгруппированных переменных (факторов) для точного предсказания в регрессии. Такая проблема естественно возникает во многих прикладных ситуациях, наиболее важным и известным примером является многомерный дисперсионный анализ (анализ-анова) с несколькими факторами. Вместо выбора факторов с помощью пошагового последовательного исключения (stepwise backward elimination) мы сосредотачиваемся на точности оценивания и рассматриваем расширения методов lasso, алгоритма LARS и non-negative garrotte для выбора факторов. Lasso, алгоритм LARS и non-negative garrotte — недавно предложенные методы регрессии, которые могут использоваться для выбора отдельных переменных. Мы изучаем и предлагаем эффективные алгоритмы для расширений этих методов для выбора факторов и показываем, что эти расширения демонстрируют более высокую эффективность по сравнению с традиционным методом пошагового исключения в задачах выбора факторов. Мы исследуем сходства и различия между этими методами. Для иллюстрации методов используются моделирования и реальные примеры.