Apprentissage Statistique : Réseaux de Neurones, Machines à Vecteurs Supports

Lieu de la formation : ESPCI, 10 rue Vauquelin, 75005 Paris, France
PREMIER NIVEAU : 3 jours : L'APPRENTISSAGE STATISTIQUE : POUR QUI, POURQUOI, COMMENT ?

• L'apprentissage statistique a connu un développement théorique et pratique fulgurant au cours des dernières années, car il permet de résoudre des problèmes face auxquels les techniques habituelles de modélisation sont impuissantes.
• Ce cours s'adresse à des ingénieurs ou chercheurs concernés par des applications en modélisation de procédés, reconnaissance de formes (vision, parole), classification automatique, traitement du signal, bioinformatique, commande non linéaire, diagnostic, traitement du langage, etc..., et qui pensent avoir épuisé les solutions traditionnelles de modélisation et de traitement des données.
• A l'issue de ce cours, le stagiaire connaît les bases de l'apprentissage artificiel, avec une attention particulière sur deux types de techniques : réseaux de neurones et machines à vecteurs supports (SVM). Il connaît également les principaux algorithmes d'apprentissage, les applications et performances typiques, ainsi que les stratégies envisageables pour développer une application industrielle.
  

PRÉSENTATION GÉNÉRALE DE L'APPRENTISSAGE ARTIFICIEL

• Qu'est-ce que l'apprentissage artificiel ?
• Les problèmes à résoudre pour réaliser une application efficace
• Introduction aux réseaux de neurones et aux machines à vecteurs supports ; panorama de leurs applications
  

RÉSEAUX DE NEURONES POUR LA MODÉLISATION STATIQUE

• Réseaux de neurones et régression non linéaire
• Apprentissage des réseaux de neurones statiques
• Sélection des variables : méthodologie et illustrations pratiques
• Estimation des performances d'un modèle et sélection de modèle : validation croisée, leave-one-out, leave-one-out virtuel, estimation d'intervalles de confiance
• Sélection d'un modèle ; exemples d'applications à des problèmes industriels
• Modélisation semi-physique : comment utiliser les connaissances disponibles (physiques, chimiques, etc.) pour structurer un réseau de neurones ; exemples d'applications industrielles
  

MACHINES À VECTEURS SUPPORTS ET RÉSEAUX DE NEURONES POUR LA CLASSIFICATION

• Introduction à la classification : formule de Bayes, classifieurs bayesiens
• L'algorithme du Perceptron et les machines à vecteurs supports linéaires
• Machines à vecteurs supports non linéaires. L'astuce des noyaux
• Estimation de la probabilité d'appartenance d'un objet à une classe par un réseau de neurones
• Exemples industriels
  

RÉSEAUX DE NEURONES POUR LA MODÉLISATION DYNAMIQUE ET LA COMMANDE

• Définitions et présentation des domaines d'application (filtrage, commande)
• Règles d'apprentissage pour les réseaux de neurones de neurones dynamiques
• Modèles postulés (déterministes ou probabilistes) et modèle prédictif associé
• Estimation des paramètres d'un prédicteur neuronal
• Apprentissage non adaptatif et adaptatif des réseaux de neurones bouclés
• Exemple d'estimation des paramètres d'un modèle dynamique non linéaire
  

COMMENT DÉMARRER ?

• Les stratégies possibles pour une entreprise désirant mettre en oeuvre des méthodes d'apprentissage artificiel
• Études de cas, avec possibilité, pour les participants, d'exposer brièvement leurs préoccupations
  

TRAVAUX PRATIQUES

• Les travaux pratiques permettront aux participants de mettre en oeuvre les machines à vecteurs supports et les réseaux de neurones pour la modélisation et la classification.
• Deux logiciels seront utilisés (sur PC sous Windows) : un logiciel d'usage général (boîte à outils Neural Networks de Matlab) et un logiciel spécialisé pour le développement d'applications industrielles (Neuro One de Netral).
  

INTERVENANTS

• Gérard DREYFUS, Ingénieur, Dr. ès Sciences, Professeur à l'ESPCI
• Pierre ROUSSEL-RAGOT, Ingénieur, Dr. ès Sciences, Maître de Conférence à l'ESPCI
• Yacine OUSSAR, Ingénieur, Dr. de l'Université Pierre et Marie Curie, Maître de Conférence à l'ESPCI
• Jean-Luc PLOIX, Ingénieur, Président de Netral
  

DEUXIÈME NIVEAU : 2 jours : APPLICATIONS ET RÉALISATIONS

• Ce cours est destiné à des ingénieurs ou chercheurs ayant suivi le cours d'initiation, ou possédant déjà des connaissances théoriques et pratiques équivalentes.
• A l'issue de ce cours, le stagiaire est capable, en s'appuyant sur les études de cas présentées, d'entreprendre un projet pratique mettant en oeuvre les techniques d'apprentissage statistique, en choisissant à bon escient la (ou les) technique la mieux adaptée au problème considéré.
  

RÉSEAUX DE NEURONES POUR LA RECONNAISSANCE AUTOMATIQUE DE L'ÉCRITURE MANUSCRITE

• Le problème de la reconnaissance des formes, le rôle de la classification, classifieurs neuronaux
• Modèles de Markov Cachés (Hidden Markov Models ou HMM) pour la modélisation de séquences ; points communs entre réseaux de neurones et modèles de Markov ; algorithmes d'apprentissage
• Hybride de réseaux de neurones et de HMM
• Étude de cas et démonstrations : reconnaissance de chiffres manuscrits (codes postaux), reconnaissance de l'écriture cursive (lecture automatique des montants littéraux des chèques)
  

PLANIFICATION D'EXPERIENCES

• La planification d'expériences : pour quoi faire ?
• Plans d'expériences pour modèles de connaissance et pour modèles neuronaux
  

COMMANDE DE PROCESSUS PAR RÉSEAUX DE NEURONES ; APPLICATIONS EN AGRO-ALIMENTAIRE

• Techniques neuronales d'estimation et de mesure indirecte
• Techniques de commande neuronale : commande en boucle ouverte, commande par modèle inverse, commande avec modèle interne et commande prédictive
• Application à des procédés de réfrigération, de séchage, de micro-filtration
• Commande prédictive de la production de levures de Champagne
• Prédiction de temps de fin de fermentation pour la production de bière et de yaourt
  

CARTES TOPOLOGIQUES ET APPLICATIONS

• Cartes topologiques de Kohonen
• Quantification vectorielle
• Étude de cas : applications des réseaux de neurones à la télédétection
  

RÉALISATIONS MATÉRIELLES

• Pourquoi des réalisations électroniques ?
• Exemples didactiques : physique nucléaire, météorologie
• Types d'architectures matérielles
• Produits disponibles sur le marché
• Nouvelles approches : FPGA, DSP
  

INTERVENANTS

• Szolt WIMMER, Ingénieur chez Vision Objects
• Jean-Luc PLOIX, Président de Netral
• Eric LATRILLE, Ingénieur de recherche à l'INRA
• Sylvie THIRIA, Professeur à l'Université de Versailles Saint-Quentin en Yvelines
• Bruce DENBY, Professeur à l'Université Pierre et Marie Curie