Résolution des Problèmes de Classification Par Les Machines à Vecteurs Supports

Abstract

69 Résumé Les machines à vecteurs supports (Support Vector Machines) sont des techniques d'apprentissage statistique proposées par V. Vapnik en 1995. Elles permettent d'aborder des problèmes très divers comme la classification, la régression. L'idée de cette technique consiste à projeter les données de l'espace d'entrée (appartenant à deux classes différentes) non-linéairement séparables dans un espace de plus grande dimension appelé espace de caractéristiques de façon à ce que les données deviennent linéairement séparables. L’objectif de notre travail est la résolution des problèmes de classification par les machines à vecteurs supports. l’entrainement d’un SVM consiste à résoudre le problème d’optimisation quadratique convexe. Des techniques standards de programmation quadratiques telle que la méthode du gradient conjugué ou la méthode des points intérieurs, … peuvent résoudre le problème du SVM mais pour les problèmes de grandes taille (nombre des échantillons élevé ou une grande dimension) ces méthodes deviennent inenvisageables. Il ya cependant d’autres techniques dédiées aux SVM qui servent à décomposer le problème d’optimisation en dessous problèmes de petites tailles , on peut citer l’algorithme de Joachims (Implémentation SVMLight) et l’algorithme d’optimisation séquentielle minimale (SMO) de John Platt , nous avons choisi d’implémenter l’algorithme SMO et de comparer nos résultats avec une méthode standard de programmation quadratique sur deux différents types de données :données artificielles et données réelles.