Implementace a testování SVM

Ondřej Zjevík

Bakalářská práce

Implementation and testing of SVM

Anotace:

Tato práce se zabývá problémy spojeni s SVM, definicí primární optimalizační úlohy a jak ji pomocí Lagrangeových multiplikátorů převést na konvexní duální úlohu kvadratického programování. Dále vysvětluje princip SVM a aplikuje algoritmy pro řešení duální úlohy vycházející z metody sdružených gradientů v Matlabu. Zabývá se implementací rozšíření jako volný okraj a použití různých kernel funkcí při řešení duální minimalizační úlohy. Díky těmto rozšířením se dá SVM použít pro nelineární klasifikaci nebo pro klasifikaci dat, která jsou zatížena chybou a nelze je úspěšně separovat libovolnou funkcí.

Abstract:

This bachelor thesis helps to understand problems related with the SVM, definition of primary optimalization task, and explain how it convert to convex dual optimalization task of quadratic programming. The thesis shows algorithms based on conjugate gradients method to solve convex dual problem and describes how to implement extensions like Soft margin and different kernel function. Due to this methods the SVM can classify non-linear datasets or classify error loaded datasets which can't be successfully separated by any function.

Klíčová slova

support vector machines, volný okraj, primární a duální optimalizační úloha, kernel funkce, metoda sdružených gradientů, Polyakův algoritmus

Keywords

support vector machines, soft margin, primal and dual optimalization task, kernel function, conjugate gradient method, Polyak's algorithm

Jazyk práce: čeština

Datum vytvoření / odevzdání či podání práce: 6. 5. 2011

Obhajoba závěrečné práce

• Obhajoba proběhla 1. 6. 2011
• Vedoucí: Zdeněk Dostál
• Oponent: Jan Martinovič

VŠB - Technická univerzita Ostrava

Fakulta elektrotechniky a informatiky

Bakalářský studijní program / obor:
Informační a komunikační technologie / Výpočetní matematika