Прогнозирование на основе отбора предикторов из большого числа сильно коррелированных переменных

Abstract

Исследуется возможность использования метода отбора признаков на основе корреляций для выбора оптимального подмножества из набора сильно коррелированных предикторов. Такие задачи возникают, например, при предсказании временных рядов экономических показателей на основе регрессионных моделей с большим числом возможных опережающих индикаторов с разными лагами. Жадные алгоритмы (прямого отбора и обратного исключения) в таких случаях дают сбои. Для поиска глобального оптимума проблема отбора признаков сформулирована как задача смешанного целочисленного программирования. Для ее решения используется метод бинарных отсечений и ветвлений. Результаты вычислительных экспериментов показали преимущество использования метода бинарных отсечений и ветвлений по сравнению с алгоритмами эвристического поиска. На реальном примере подбора опережающих индикаторов роста индекса потребительских цен показана приемлемость использования метода отбора на основе корреляций. The potential of Correlation-based Feature Selection has been explored in selecting an optimal subset from a set of highly correlated predictors. This problem occurs, for example, in time series forecasting of economic indicators using regression models on multiple lags of a large number of candidate leading indicators. Greedy algorithms (forward selection and backward elimination) in such cases fail. To obtain the globally optimal solution, the feature selection problem is formulated as a mixed integer programming problem. To solve it, we use the binary cut-and-branch method. The results of simulation studies demonstrate the advantage of using the binary cut-and-branch method in comparison with heuristic search algorithms. The real example of the selection of leading indicators of consumer price index growth shows the acceptability of using the Correlation-based Feature Selection method.