Метод средних решающих правил для построения нелинейных границ при решении больших двухклассовых задач SVM

Abstract

В рамках предыдущей работы нами был предложен метод средних решающих правил для быстрого приближенного решения двухклассовой задачи SVM в пространстве признаков. Было показано, что предложенный метод позволяет в условиях большого числа объектов достаточно быстро найти решение, не сильно отличающееся от точного. В рамках данной работы мы обобщаем предложенный подход на случай обучения в пространстве, порожденном потенциальной функцией, что позволяет в условиях больших обучающих совокупностей строить нелинейные границы, разделяющие объекты пары классов. Эксперименты показывают, что предложенный вариант метода, как и исходный метод средних решающих правил, является экономичным по памяти и обладает высокой степенью параллелизма по данным, что дает возможность его эффективной реализации с применением технологий параллельных и распределенных вычислений. In the previous work, we proposed the Mean Decision Rule method for fast approximate solution of the two-class SVM problem in a feature space. This paper generalized the proposed approach to the case of training in a space generated by a kernel function (Kernel- based Mean Decision Rule method), which allows to construct nonlinear boundaries separating objects of two classes. Experiments show that even for large training sets Kernel-based MDR, like the initial MDR method, allows to quickly find a solution that does not differ much from the exact one. Besides it is economical in memory and has a high degree of data parallelism and so it can be effectively implemented using parallel and distributed computing technologies.