Жадные алгоритмы отбора признаков для решения задачи многоклассовой классификации

Abstract

Для улучшения результатов классификации изображений, полученных при ДЗЗ, на несколько классов, мы предлагаем применение двух жадных алгоритмов отбора признаков. Первый является алгоритмом жадного добавления признаков и основан на максимизации критерия дискриминантного анализа, второй – алгоритм жадного удаления признаков, который строится на основании линейной регрессионной модели. Главным преимуществом данных алгоритмов является то, что они вычисляют непросто эффективность каждого признака по отдельности, а рассчитывают информативность всего набора отобранных признаков. В связи с ограниченностью доступных для анализа изображений ДЗЗ, в данной работе применяется метод моделирования изображений, основанный на применении марковских случайных полей. В качестве оригинальных изображений используются изображения из базы данных UC Merced Land-Use, относящиеся к семи классам. Формирование признаков производилось с использованием программного обеспечения MaZda, позволяющего вычислять более 200 гистограммных и текстурных характеристик изображения. С помощью алгоритма жадного удаления признаков, основанного на построении линейной регрессионной модели, удалось понизить размерность признакового пространства с 218 до 15 признаков, причем доля верно классифицированных объектов составила 95%. To improve the performance of remote sensing images multiclass classification we propose two greedy algorithms of feature selection. The discriminant analysis criterion and regression coefficients are used as the measure of feature subset effectiveness in the first and second methods, respectively. The main benefit of the built algorithms is that they estimate not the individual criterion for each feature, but the general effectiveness of the feature subset. As there is a big limitation on the number of real remote sensing images, available for the analysis, we apply the Markov random model to enlarge the image dataset. As the pattern for image modelling, a random image belonging to one of the 7 classes from the UC Merced Land-Use dataset has been used. Feature shave been extracted with help of MaZda software. As the result, the largest fraction of correctly classified images accounts for 95%. Dimension of the initial feature space consisting of 218 features has been reduced to 15 features, using the greedy strategy of removing a feature, based on the linear regression model.