Коллинеарность: обзор методов борьбы с ней и симуляционное исследование их эффективности

Коллинеарность означает зависимость предикторов друг от друга, обычно в анализе типа регрессии. Это типичное свойство любого описательного экологического набора данных и может создавать проблемы при оценивании параметров, поскольку увеличивает дисперсию коэффициентов регрессии и, следовательно, потенциально приводит к неправильной идентификации релевантных предикторов в статистической модели. Коллинеарность становится серьёзной проблемой, когда модель обучена на данных из одного региона или времени и применяется для прогноза в другом с иной или неизвестной структурой коллинеарности. Чтобы продемонстрировать масштаб проблемы коллинеарности в экологии, мы показываем, как взаимосвязи между предикторами различаются между биомами, меняются в зависимости от пространственных масштабов и со временем. В разных дисциплинах разработаны различные подходы к решению проблем коллинеарности, включая кластеризацию предикторов, пороговую предварительную отборку, методы слабо наблюдаемых (латентных) переменных, а также методы усадки и регуляризации. Используя смоделированные данные с пятью отношениями «предиктор–ответ» возрастающей сложности и восемью уровнями коллинеарности, мы сравнили способы борьбы с коллинеарностью с помощью стандартной множественной регрессии и методов машинного обучения. Эффективность каждого подхода оценивалась по его влиянию на прогнозирование на новых данных. В предельном случае мы проверяли, способны ли методы выявить истинное основное отношение в обучающем наборе с сильной коллинеарностью, оценивая их по результатам на тестовом наборе без коллинеарности. Мы обнаружили, что методы, специально разработанные для коллинеарности, такие как методы латентных переменных и древовидные модели, не превосходили традиционную обобщённую линейную модель (GLM) и пороговую предварительную отборку. Наши результаты подчёркивают ценность GLM в сочетании с штрафными методами (в частности, гребневой регрессией) и пороговой предварительной отборкой при условии учета пропущенных переменных в окончательной интерпретации. Однако все протестированные подходы демонстрировали ухудшение прогнозов при изменении структуры коллинеарности, и распространённый порог корреляции между предикторами |r| > 0.7 оказался подходящим индикатором начала серьёзного искажения оценки модели и последующего прогнозирования. Применение экологического понимания системы при предварительном отборе переменных и выбор наименее чувствительных статистических методов снижает проблемы коллинеарности, но не может в конечном итоге их полностью решить.