Объяснение классификатора опорных векторов: визуальное руководство с мини-набором 2D-данных

Машины опорных векторов (SVM) - это модели обучения с учителем, которые в основном используются для задач классификации. Они стремятся найти линию, которая лучше всего разделяет набор данных на классы, максимизируя промежуток между этими классами. Первичная форма SVM ищет гиперплоскость, которая правильно классифицирует все точки данных и максимизирует расстояние между этой гиперплоскостью и ближайшими точками данных из каждого класса. В случае мягкого SVM первичная форма позволяет некоторым неправильным классификациям и использует переменные рассеивания, чтобы оценить степень неправильной классификации или нарушения поля. Двойная форма предоставляет альтернативный способ решения задачи оптимизации SVM, что приводит к вычислительным преимуществам. Она использует множители Лагранжа, которые демонстрируют взаимосвязь между точками данных и границей принятия решений. Алгоритм последовательной минимальной оптимизации (SMO) используется для поиска оптимальных множителей Лагранжа. После решения задачи оптимизации SVM функция принятия решений может быть использована для классификации новых точек данных.