Fondamentaux Mathématiques pour les Data Sciences - M2 ...

18
Fondamentaux Math ´ ematiques pour les Data Sciences Fondamentaux Math ´ ematiques pour les Data Sciences M2 Data Science Alexandre Aussem LIRIS UMR 5205 CNRS Data Mining & Machine Learning Group (DM2L) University of Lyon 1 Web: perso.univ-lyon1.fr/alexandre.aussem October 24, 2017

Transcript of Fondamentaux Mathématiques pour les Data Sciences - M2 ...

Fondamentaux Mathematiques pour les Data Sciences

Fondamentaux Mathematiquespour les Data Sciences

M2 Data Science

Alexandre Aussem

LIRIS UMR 5205 CNRSData Mining & Machine Learning Group (DM2L)

University of Lyon 1Web: perso.univ-lyon1.fr/alexandre.aussem

October 24, 2017

Fondamentaux Mathematiques pour les Data Sciences

Outline

1 Optimisation sans contrainte 2 Optimisation avec contraintes

Fondamentaux Mathematiques pour les Data Sciences

Optimisation sans contrainte

La descente de gradient : intuition

Fondamentaux Mathematiques pour les Data Sciences

Optimisation sans contrainte

La descente de gradient : algorithme

Fondamentaux Mathematiques pour les Data Sciences

Optimisation sans contrainte

Choix du pas : Recherche lineaire

Fondamentaux Mathematiques pour les Data Sciences

Optimisation sans contrainte

Methode de Newton

Fondamentaux Mathematiques pour les Data Sciences

Optimisation sans contrainte

Methode de Newton

Fondamentaux Mathematiques pour les Data Sciences

Optimisation sans contrainte

Methode de Newton : cas multidimensionnel

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Exemples de problemes avec contraintes

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Condition d’existence d’un minimum

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Condition du premier ordre

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Projection sur les convexes fermes

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Illustration

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Contraintes et Lagrangien

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Conditions de Karush-Khunn-Tucker

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Exemple de resolution

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

Verification visuelle

Fondamentaux Mathematiques pour les Data Sciences

Optimisation avec contraintes

References I

Christopher M. Bishop.Pattern Recognition and Machine Learning.Springer, 2006.

Anne Sabourin et Joseph Salmon.Fondamentaux pour le Big Data, Telecom ParisTech.