Chapitre 2 : OPTIMISATION 2-D SE RAMENANT À DE L ...manu/teaching/L1eco/notes.pdf · Retour sur notre problème typique {problème}: comment trouver le rectangle qui a la plus grande

Chapitre 2 :

OPTIMISATION 2-D SE RAMENANTÀ DE L’OPTIMISATION 1-D

L2 éco — mathématiques S3 (2012) Å .C

1. Résumé concernant l’optimisation 1-D


Optimisation 1-D

Pour une fonction f de classe C 2 :

I Résoudre f ′(x) = 0 (chercher les points critiques)I Calculer f ′′(x0) pour tous les points critiquesI Si f ′′(x0) > 0 : minimum strict localI Si f ′′(x0) < 0 : maximum strict localI Si f ′′(x0) = 0 : on ne peut conclureI Faire le tableau de variation de f

I Donner les min et max globaux


2. Exemple d’Optimisation 2-D se ramenant à du 1-D


Retour sur notre problème typique

{problème} : comment trouver le rectangle qui a la plus grande aire, sachantqu’on souhaite l’entourrer d’une corde de 100 mètres de long ?

On écrit d’abord la fonction que l’on cherche ici à maximiser : f (x , y) = xy ,où x et y représentent les longueurs des cotés du rectangle.

On traduit les contraintes que l’on a sur les variables x et y :

I ce sont des longueurs, donc x , y > 0I le périmètre total maximal est : 2x + 2y 6 100, donc x + y 6 50.



On s’est donc ramené au problème mathématique suivant :

Trouver le maximum de f (x , y) = xy sous l’ensemble de contraintes

C :={(x , y) ∈ R2 : x > 0, y > 0, x + y 6 50

}On écrira sous forme condensée ce problème ainsi : max

Cf (x , y)



Nous allons en fait utiliser une méthode détournée pour résoudre ce problème :puisque l’idée est de maximiser l’aire du champ, autant prendre la longueurmaximale de corde et supposer que l’on a x + y = 50, au lieu de seulementx + y 6 50.

On verra plus loin que dans un tel cas, les contraintes sont dites saturées.

Attention : si sur cet exemple simple, on peut justifier cette hypothèse sansproblèmes (et on va le faire), remplacer une contrainte inégalité par unecontrainte égalité n’est pas valable en général.


Résolution 1-D

Le problème se ramène donc à étudier une fonction d’une seule variable puisquel’on peut exprimer y en fonction de x : y = 50− x , et il suffit donc d’étudier lafonction

g(x) := f (x , 50− x) = x(50− x) .

On s’est ainsi ramené à un problème de maximisation à une variable, où la seulecontrainte est maintenant que la variable x parcourt l’intervalle [0, 50] :

Trouver max[0,50]

g(x) .

La résolution de ce problème simple donne alors x = 25, d’où y = 25, onobtient ainsi un carré de 625 mètres carré d’aire, on a ainsi obtenu

maxC

f (x , y) = 625 .


Vérification de l’hypothèse de saturation

Pour justifier l’hypothèse de saturation des contraintes, on peut reprendre larésolution en supposant x + y = `, avec 0 6 ` 6 50.

On vérifie alors que la valeur optimale de f (x , y) sous cette contraintedépendant de ` est `2/4 et n obtient donc bien un maximum pour ` = 50, ce quiredonne le résultat vu plus haut.


3. Principe général pour se ramener à de l’optimisation 1-D


Principe pour se ramener à de la dimension 1

En dimension 2, lorsqu’on est capable d’expliciter la contrainte sous la formey = ϕ(x) pour une certaine fonction ϕ, alors la résolution du problème peut sefaire en se ramenant à une seule dimension (une seule variable).

En général, ce n’est pas si simple malheureusement :

I la fonction ϕ peut être compliquée à étudier voire même implicite,c’est-à-dire qu’on ne peut l’écrire de façon élémentaire avec les fonctionsusuelles.

I en dimension plus grande que 2, on aura plus de contraintes et devariables, et on pourra au mieux réduire un peu le nombre des variablesmais pas toujours se ramener à de la dimension 1.

I enfin, dans de nombreux problèmes, les contraintes ne seront pas toutessaturées et on ne pourra se ramener à y = ϕ(x).


Exercices

{exercice} : On se donne un champ rectangulaire dont l’aire doit être de 100mètres carrés, et l’un des coté doit être compris entre 1 et 20 mètres. Trouverles dimensions du champ pour que l’on utilise le minimum de corde possiblepour l’entourrer.

{exercice} : Trouver les extrema de la fonction f (x , y) = xy sur le cercle decentre (0, 0) et de rayon 1.


Chapitre 3 :

DÉVELOPPEMENTS LIMITÉSET DÉRIVÉES PARTIELLES


1. Rappels sur les développements limités


Développements limités

On dit que f admet un développement limité à l’ordre 1 au point x = x0 si ilexiste deux réels a, b tels que

f (x0 + h) = a + b · h + h ε(h) ,

où ε(h) est une quantité qui tend vers zéro quand h tend vers 0.

L’existence d’un tel développement montre que nécessairement, a = f (x0), que fest dérivable au point x0 et que b = f ′(x0). (le faire en exercice !).

On notera h ε(h) sous la forme o(h), de même que h2 ε(h) = o(h2) etc. Ainsi,o(hp) représente une fonction qui tend vers zero plus rapidement que hp .


Développements limités

De façon plus générale, on dit que f admet un développement limité à l’ordre nen x0 s’il existe un polynôme Pn de degré n tel que

f (x0 + h) = Pn(h) + o(hn) .

Théorème de Taylor-McLaurin : Si f est dérivable (n + 1)-fois sur un intervalleI , alors elle admet un développement limité d’ordre n en tout point de I et on ala formule de Taylor

f (x0 + h) = f (x0) + hf ′(x0) + · · ·+ hk f (k)(x0)

k!+ · · ·+ hn+1 f (n+1)(c)

(n + 1)!,

où c est un réel dans I .

Ce dernier terme est un o(hn), c’est donc en pratique comme cela qu’on obtientdes développements limités de référence.


Exemples de développements limités typiques

ex = 1 + x +x2

2!+ o(x2)

ln(1− x) = x − x2

2+

x3

3!+ o(x3)

(1 + x)α = 1 + αx + o(x)

cos(x) = 1− x2

2!+

x4

4!+ o(x5)


2. Dérivées partielles


Dérivées partielles

Soit f (x1, x2, . . . , xN) une fonction de plusieurs variables. On peut regarder lesvariations de f par rapport à la première variable x1, en considérant que lesautres variables sont fixées.

Dans ce cas, quand elle existe on introduit la quantité

∂f∂x1

(x) := limh→0

f (x1 + h, x2, . . . , xN)− f (x1, x2, · · · , xN)

h

que l’on appelle dérivée partielle de f au point x par rapport à la variable x1.

On peut définir de façon plus générale

∂f∂xi

(x) := limh→0

f (x + hei )− f (x)h

,

où ei est le i-ème vecteur de base.


Calcul des dérivées partielles

Dans le cas le plus courant, une dérivée partielle par rapport à une variable xi

se calcule tout simplement en faisant une dérivée "usuelle", en considérant queles autres variables (les xj pour j 6= i ) sont constantes.

Exemple : si f (x1, x2) = 3(x1)2 + 2 cos(x2), alors

∂f∂x1

(x1, x2) = 6x1 ,∂f∂x1

(x1, x2) = −2 sin(x2) .

Evidemment, il y a des cas plus complexes, comme par exemple :

f (x , y) = xexy2− 2y cos(4xy) .


3. Développements limités à plusieurs variables


Formule de Taylor en dimension 2

L’idée est d’écrire une formule donnant f (x + h, y + k) en fonction de f (x , y) etdes dérivées partielles de f .

ordre 1 : f (x + h, y + k) = f (x , y) + h∂f∂x

(x , y) + k∂f∂y

(x , y) + o(h, k) .

ordre 2 : f (x + h, y + k) = f (x , y) + h∂f∂x

(x , y) + k∂f∂y

(x , y)

+12(h, k) · D2f (x , y) ·

(hk

)+ o(h, k)2 .


Formule de Taylor en dimension 2

On appelle D2f (x , y) la matrice Hessienne de f au point (x , y) :

D2f (x , y) =

∂2f∂x2

∂2f∂x∂y

∂2f∂y∂x

∂2f∂y2


Calcul des dérivées secondes

Théorème (Schwarz) — Si f est de classe C 2, alors

∂2f∂x∂y

=∂2f∂y∂x

.

Cela entraîne que la matrice Hessienne est symétrique.

Exemple : calculer la matrice Hessienne pour f (x , y) = x2 + 3xy − cos y etvérifier le Théorème ci-dessus.


Calcul des dérivées secondes

Le terme d’ordre 2 se calcule ainsi :

12(h, k) · D2f (x , y) ·

(hk

)=

12

(h2 ∂

2f∂x2 + 2hk

∂2

∂x∂y+ k2 ∂

2f∂y2

).

C’est un polynôme de degré 2 en h et k .


4. Développements limités à plusieurs variables


DL à l’ordre 2

On note x = (x1, x2, . . . , xN) et de même h = (h1, h2, . . . , hN). Alors

f (x + h) = f (x) +N∑

i=1

hi∂f∂xi

(x) +12

N∑i,j=1

hihj∂2f∂xi∂xj

(x , y) + o(h)2 .

Remarque : on a de même une notation purement matricielle :

f (x + h) = f (x) + h · ∇f (x) +12ht · D2f (x) · h + o(h)2 ,

où h est le vecteur colonne correspondant.


DL à l’ordre 2

Exemple : calculer ∇f et D2f pour la fonction

f (x1, x2, x3) = x1 − 6x2(x3)2 + x2ex1x3


Chapitre 4 :MATRICES POSITIVES

L2 eco — mathematiques S3 (2012) Å .C

1. Rappels sur les matrices


2. Matrices positives et definies-positives


3. Cas particulier de la dimension 2


4. Exemples


Chapitre 5 :

EXTREMA LIBRES DANS RN


1. Position du probleme


Position du probleme

On se donne une fonction f : RN → R dont on veut trouver les eventuels minimaet maxima locaux et globaux.

On note x = (x1, x2, . . . , xN) le point courant et on suppose que la fonction fest “suffisament reguliere”, plus precisement, au moins dans un premier tempson la suppose continue.

Def : on dit que f admet un minimum local en x si il existe r > 0 tel que pourtout x ∈ B(x , r), on a f (x) 6 f (x). On definit de meme un maximum local, ainsique la notion de “strict”, pour lequel l’inegalite est stricte.

Def : L’extremum est dit global si on peut prendre r =∞, c’est-a-dire quel’inegalite est valable dans tout RN .


2. Conditions du premier ordre


Conditions du premier ordre

Theoreme

Soit f une fonction de classe C 1 dans RN . Si f admet un extremum local en x ,alors toutes les derivees partielles s’annulent en x .

I En pratique, on cherchera donc en premier les points critiques, c’est-a-direceux qui sont tels que toutes les derivees partielles s’annulent.

I Attention, c’est une condition necessaire mais pas suffisante pour dire qu’ona un extremum en x .


3. Conditions du second ordre


Conditions necessaires du second ordre

Theoreme

Soit f une fonction de classe C 2 dans RN . Si f admet un minimum local en x ,alors la matrice Hessienne est positive en x .

I La matrice D2f (x) est seulement positive au sens large, c’est-a-direX t · D2f (x) · X > 0 pour tout vecteur X de RN .

I Rappel : cela signifie que ses valeurs propres sont toutes positives ounulles.

I Evidemment, elle est negative dans le cas d’un maximum local.


Conditions suffisantes du second ordre

Theoreme

Soit f une fonction de classe C 2 dans RN et x un point critique de f . Si laHessienne de f en x est definie-positive, alors f admet un minimum local(strict) en x .

I Evidemment, si elle est definie-negative, on a un maximum local strict.


Conditions suffisantes du second ordre

Theoreme

Soit f une fonction de classe C 2 dans RN et x un point critique de f . Si laHessienne de f en x a des valeurs propres strictement positives et d’autresstrictement negatives, alors f n’a pas d’extremum local en x .

I Au final, le seul cas ambigu est celui ou on a des valeurs propres nulles :on ne peut pas conclure a l’aidre de la Hessienne.


4. Exemples


Exemples

Exemples typiques :

I f (x , y) = x2 + y 2

I f (x , y) = −x2 − y 2

I f (x , y) = x2 − y 2

I f (x , y) = (x − y)2

Reprendre ces exemples avec des puissances 4.


Chapitre 6 :

EXTREMA LIES - CONTRAINTES EGALITE


1. Position du probleme


Position du probleme

On se donne une fonction f : RN → R a optimiser et une fonction-contrainteg : RN → R. Le but est de trouver les extrema de f sous la contrainte g(x) = 0.

On note par exemple le minimum ming(x)=0

f (x).

{Exemple typique} : comment trouver le rectangle qui a la plus grande aire,sachant qu’on souhaite l’entourrer d’une corde de 100 metres de long ?


Cas particulier important

Lorsque l’on est capable d’expliciter la contrainte g(x) = 0 sous la formesuivante :

g(x) = 0⇐⇒xN = ϕ(x1, x2, . . . , xN−1)

alors on se ramene a un extrema libre de la fonction a (N − 1) variables :

h(x1, x2, . . . , xN−1) := f(x1, x2, . . . , xN−1, ϕ(x1, x2, . . . , xN−1)

).

C’est ce que l’on a fait a deux variables lorsque y = ϕ(x).


2. Theoreme des fonctions implicites


Theoreme des fonctions implicites

L’idee est d’interpreter la condition g(x) = 0 comme un lien reliant les diversescoordonees x1, x2, . . . , xN entre elles.

I En theorie, on doit donc etre capable d’exprimer n’importe laquelle descoordonnees en fonction des autres a l’aide de g .

I Malheureusement ce n’est pas toujours possible, on le voit sur l’exemplex2 + y 2 = 1, il faut donc que certaines conditions soient remplies pour lefaire.

I De plus, on n’aura pas toujours la forme “explicite” de la fonctionrecherchee, mais on saura qu’elle existe de facon “implicite”.



Theoreme

Soit g une fonction de classe C 1 definie sur RN (ou un ouvert de RN ) etx = (x1, x2, . . . , xN) un point de RN tel que g(x) = 0. Si ∂f

∂xN(x) 6= 0, alors il

existe une fonction ϕ de classe C 1 sur un voisinage de x telle que pour x dansce voisinage,

g(x1, x2, . . . , xN) = 0⇐⇒xN = ϕ(x1, x2, . . . , xN−1) .

De plus, on a ∂ϕ

∂xi(x1, x2, . . . , xN−1) = −

∂g

∂xi(x)

∂g

∂xN(x)

.



On peut facilement justifier le resultat sur le calcul des derivees partielles enprenant par exemple, g(x , y , ϕ(x , y)) en dimension N = 3.

L’interet du Theoreme des fonctions implicites est qu’il permet d’exprimer lesderivees partielles de la fonction recherchee, meme si on ne la connait pas defacon explicite.

{exemple} : g(x , y) = (x1)2 + (x2)2 + (x3)2 − 1. Determiner les deriveespartielles de la fonction ϕ selon le point choisi.


3. Utilisation du Lagrangien


Le Lagrangien

On utilise le Lagrangien lorsqu’il n’est pas possible d’exprimer explicitement unedes variables en fonction des (N − 1) autres. L’idee reste quand meme de seramener a un extremum libre, mais cette fois-ci en rajoutant une variable λ.

Definition — On appelle Lagrangien la fonction de (N + 1) variables

L(x1, x2, . . . , xN , λ) := f (x1, x2, . . . , xN) + λg(x1, x2, . . . , xN) .

On a alors le theoreme suivant :

Theoreme

Si f a un extremum sous la contrainte g(x) = 0 au point x , alors il existe unparametre λ tel que le Lagrangien L admette un extremum libre au point (x , λ).


Le Lagrangien

C’est un condition necessaire mais pas suffisante, comme pour les extremalibres, il faudrait des conditions d’ordre deux (voir plus loin)

En pratique, on va donc chercher tous les points critiques du Lagrangien (avecune variable de plus, λ), et ensuite on essayera de montrer qu’on a bien unminimum ou maximum.

Pour la preuve, dans le cas de deux variables (x , y), on introduit la fonctionF (x) := f (x , ϕ(x)), meme si on ne connait pas ϕ explicitement.

On calcule F ′(x) en utilisant le calcul de ϕ′, et on en deduit qu’il existe un reelλ tel que (x , λ) soit un point critique du Lagrangien.


4. Exemple pratique


Exemple pratique

On cherche parmi tous les parallelipipedes rectangles inscrits dans la sphereunite de R3 celui qui a le plus grand volume.

Cela revient a rechercher le maximum de f (x , y , z) = xyz sous la contrainteg(x , y , z) := x2 + y 2 + z2 − 1 = 0.

Remarque : si x = 0 ou x = 1, le volume est nul (idem pour les autres variables)donc si on trouve un unique point stationnaire, ce sera le maximum recherche.


Exemple pratique

On utilise L(x , y , z , λ) := xyz + λ(x2 + y 2 + z2 − 1) et la recherche des pointscritiques donne 3xyz + 2λ = 0.

La valeur numerique de λ ne nous interesse pas ici, ce n’est qu’un outil decalcul. On le remplace donc dans les equations et on aboutit donc a cinq pointstationnaires parmi lesquels le seul qui donne un volume non nul est :

A(1/√

3, 1/√

3, 1/√

3) .

Comme il n’y a pas d’autres candidats possibles, c’est le maximum recherche, quidonne un volume de 1/3

√3.


4. Allons plus loin


Plusieurs contraintes

Dans le cas de plusieurs contraintes gi (x1, x2, . . . , xN) = 0 avec i = 1..p < N ,on peut utiliser exactement la meme approche avec le Lagrangien suivant :

L(x1, x2, . . . , xN , λ1, λ2, . . . , λp) := f (x1, x2, . . . , xN) +

p∑i=1

λigi (x1, x2, . . . , xN) .

On doit donc verifier les conditions de points critiques sur L avec (N + p)variables. Les calculs sont evidemment plus longs mais la strategie reste lameme.


Conditions du second ordre

Ces conditions sont plus difficiles a verifier que dans le cas sans contrainte. Onva border la matrice Hessienne pour rajouter dedans les derivees partielles dela contrainte.

Dans le cas de deux variables par exemple, on considere la matrice

∂2f

∂x2

∂2f

∂x∂y

∂g

∂x

∂2f

∂y∂x

∂2f

∂y 2

∂g

∂y

∂g

∂x

∂g

∂y0

On a alors un resultat assez simple : si cette matrice bordee a un determinantnegatif (strictement), alors le point critique est un minimum sous contrainte.


Conditions du second ordre

Dans le cas d’un nombre plus grand de variables et de contraintes, cesconditions sont plus nombreuses a verifier, il faut considerer les determinantsd’ordre 1,2 etc... et verifier qu’ils sont tous negatifs pour avoir un minimum.


Documents

Chapitre 2 : OPTIMISATION 2-D SE RAMENANT À DE L ...manu/teaching/L1eco/notes.pdf · Retour sur notre problème typique {problème}: comment trouver le rectangle qui a la plus grande