Bienvenue sur la page du cours ROP 831 offert à l'hiver 2018.
Ceci n'est pas une page très élaborée mais servira à vous
communiquer du matériel varié, les énoncés d'exercices et devoirs,
les références bibliographiques, du code, etc.
Plan de cours
Le texte de référence sont mes notes de cours
d'optimisation .
Une excellente référence disponible en ligne à la bibliothèque est
le livre Numerical
Optimization de Nocedal & Wright .
Nous utiliserons les notations asymptotiques "petit o" et "grand O".
Pour approfondir cette notation, les articles Big_O_notation
(en anglais) et Comparaison_asymptotique
(en français) sur Wikipedia font pas mal le tour du sujet, tant
historique que dans leur utilisation.
- 16 et 18 janvier: rappels de la démarche, définitions de inf,
min, min local, strict, isolé. Conditions d'optimalité. Si une
condition nécessaire d'optimalité n'est pas satisfaite, on en
déduit un algorithme. Par exemple, Trouve_Intervalle, un
algorithme naïf. L'algorithme de région de confiance, moins
naïf, est aussi déduit. On rappelle les notations "grand O" et
"petit o", la vitesse de convergence (ordre et taux). On
rappelle que la méthode de Newton possède un ordre quadratique
proche d'une solution où la dérivée seconde de la fonction à
minimiser n'est pas nulle (conditions suffisantes
d'optimalité). Reading of
chapter 2 in Nocedal&Wright should more or less cover the
same topics.
-
- Le 23 janvier, une séance de TD (travail dirigé) pour
s'initier à Julia. Les documents sont ici .
-
- 25 janvier:
- 30 janvier: problèmes numériques de descente. Interpolations
quadratiques et cubiques. Convergence de l'algorithme de région
de confiance avec le modèle quadratique de Taylor.
- Le devoir 1 est à remettre le
mardi 13 février.
- 1 et 6 février: sections 3.1, 3.2 et 3.3 des notes. Correspond
approximativement aux sections 3.1 et 3.2 de Nocedal &
Wright.
- theorème 3.3.1 des notes <===> lemma
3.1 dans Nocedal & Wright
- theorème 3.3.2 des notes <~~~>
theorem 3.2 dans Nocedal & Wright
- Un excellent article: Quasi
Newton methods Vous allez démontrer le théorème 6.3 dans
le devoir 2.
- 13 février: sections 3.4 et 3.6.
- section 3.6 <===> chapitre 6 dans Nocedal & Wright
(first edition) <===> section 3.4 et 7.1 (second
edition)
- le devoir 2 est à remettre le
jeudi premier mars.
- 15 février: section 3.3.3 et algorithme ARCq
- 20 février: gradient conjugué linéaire et Newton inexact.
- 22 février: gradient conjugué, Quasi Newton.
- 27 février:
- 1 mars: introduction aux contraintes linéaires.
- 13 mars: travaux dirigés. Le code de support est disponible ici et les instructions dans TD2.pdf
- 15 mars: développements à partir de l'optimisation linéaire,
enrichissement des notions de Base, hornase aux composantes de
super-base.
- 20 mars, algorithme du gradient réduit; algorithme de
contraintes actives; algorithme de projection; algorithme de
Frank & Wolfe.
- 22 mars, algorithme du gradient réduit: extension de
l'algorithme du simplexe, souci pour la convergence globale
comme l'exemple de Wolfe le démontre. Algorithme de contraintes
actives, règles de relaxation assurant la convergence globale.
Cas particulier de fonction objectif quadratique.
- 27 mars, conditions d'optimalité.
- conditions complètes (incluant l'ordre 2) pour le cas de
contraintes linéaires
- conditions pour les contraintes d'égalité non-linéaires:
notions de directions réalisables, qualification de
contrainte, conditions d'optimalité.
- 29 mars, exemples et exercices sur les conditions d'optimalité
- 3 avril, conditions d'optimalité enchaînant sur les méthodes
de pénalité.
- 5 avril, méthodes de pénalité utilisant confPena
- 10 avril, pénalités robustes et efficaces. Devoir 4
- 12 avril, propriétés avancées des méthodes de pénalité et
barrières
- 17 avril: présentations
- Mathieu: une méthode de LP-Newton qui permet la résolution
de problèmes avec dégénérescence (solution non unique, F pas
différentiable partout)
- Dominic: une propriété intrigante d'une version continue de
la méthode de Newton
- 18 avril
- Samuel: au delà de Newton, Chebyshev, Halley, Shamanskii
- Lois: étude d'un cas: le brachystochrone. Il est facile de
se tromper avec les outils informatiques puissants.
Le devoir 4 est à remettre le lundi 30 avril pour midi. Je le
corrigerai en priorité pour vous le remettre le mardi. L'examen à
domicile se tiendra de mercredi 2 mai, midi à vendredi 4 mai,
midi. Vous aurez donc 48 heures. Contrairement aux devoirs, où je
vous encourageais à discuter et collaborer dans la recherche de
solutions, aucune collaboration n'est tolérée pour cet examen.