Programmé en UVF3B301
Présentation :
L'apprentissage statistique se situe à la frontière entre la statistique et les sciences de l'information. Le but de la théorie de l'apprentissage statistique est d'étudier, dans un cadre statistique, les propriétés des algorithmes d'apprentissage automatique. Cette théorie est basée sur une modélisation probabiliste du processus de génération des données. Selon ce modèle, le lien entre les observations du passé et celles du futur, réside dans le fait que chaque observation est obtenue en échantillonnant de façon aléatoire et indépendante la même distribution. Dans ce cours, nous nous limiterons au cadre de la classification supervisée dont le but est de résoudre le problème de la prédiction à partir d'un jeu de données identifiées, et qui donc possède un grand nombre d'applications pratiques : reconnaissance des formes (vision, parole), crédit scoring, reconnaissance d'écriture, diagnostic médical, bio-informatique, etc.
Objectifs (obsolète):
Nous présenterons, et illustrerons, l’approche apprentissage statistique pour les techniques classiques suivantes de classification supervisée : les k plus proches voisins, la discrimination linéaire, la discrimination quadratique, et l’algorithme SVM (support vector machine). Nous nous intéresserons ensuite aux méthodes pour évaluer l’erreur de prédiction ainsi qu’aux stratégies de choix de modèles de prédiction (basées sur leurs performances prédictives). Dans ce contexte, nous illustrerons le «No Free Lunch Theorem» et le compromis biais – variance.
Pré-requis :
Notions élémentaires en probabilité et en statistiques.
Volume horaire :
21h
Contenu détaillé :
Cours 1 : lois statistiques et généralités sur les tests statistiques
TP 1 : Exemple de tests classiques ; illustration avec le logiciel R
Cours 2 : apprentissage statistique (1)
Cours 3 : apprentissage statistique (2)
Cours 4 : apprentissage statistique (3)
Cours 5 / TP 2 : apprentissage statistique (4) et illustration avec R
Cours 6 / TP 3 : apprentissage statistique (5) et illustration avec R
Année 2006/2007
Dernière mise à jour le 05-DEC-06
Validation par le responsable de programme le
|
