Calcul différentiel et optimisation

Pendant deux ans, vous avez dérivé des fonctions d'une seule variable réelle. Le chapitre sur les fonctions vectorielles a élargi le décor, mais d'un seul côté : l'arrivée était devenue un espace vectoriel, alors que le départ restait un intervalle de $\mathbb{R}$. Le taux d'accroissement $\frac{f(a+h)-f(a)}{h}$ gardait donc un sens littéral, puisqu'on divisait un vecteur par un scalaire. Ici, tout bascule de l'autre côté : c'est le départ qui devient vectoriel. Une fonction $f$ prend en entrée un point $a$ d'un espace $E$ de dimension finie, et l'accroissement $h$ est maintenant un vecteur. On ne peut plus diviser par $h$, et la définition de première année ne se recopie pas. Il faut inventer autre chose.

Le premier réflexe, celui de tout le monde, consiste à figer toutes les variables sauf une et à dériver comme avant : ce sont les dérivées partielles. C'est utile, c'est calculatoire, et c'est ce que vous ferez cent fois. Mais c'est aussi terriblement insuffisant, et il faut le comprendre dès la première page du chapitre. Connaître les dérivées partielles de $f$ en $a$, c'est connaître le comportement de $f$ le long de $n$ droites seulement, celles qui sont dirigées par les vecteurs de base. Or on peut s'approcher de $a$ par une infinité d'autres chemins, en particulier par des chemins courbes. Nous verrons une fonction qui admet en l'origine une dérivée dans toutes les directions et qui n'y est pourtant même pas continue : elle tend vers $0$ le long de chaque droite passant par l'origine, et vaut $\frac{1}{2}$ le long d'une parabole. Les dérivées partielles, seules, ne contrôlent rien.

La bonne notion tient en une phrase, et c'est le fil directeur de tout le chapitre : différentier, c'est approcher par une application linéaire. Dire que $f$ est différentiable en $a$, c'est dire qu'il existe une application linéaire $\mathrm{d}f(a)$ telle que $f(a+h)=f(a)+\mathrm{d}f(a)(h)+o(\Vert h\Vert )$, c'est-à-dire que l'accroissement de $f$ est linéaire en $h$, à un terme négligeable près. C'est exactement le développement limité d'ordre $1$ de première année, écrit avec des vecteurs. L'objet nouveau, et il faut s'y habituer, c'est que la « dérivée » de $f$ en $a$ n'est plus un nombre ni un vecteur : c'est une application linéaire de $E$ dans $F$. Une seule condition, mais globale, qui contrôle d'un coup toutes les directions et tous les chemins.

De cette définition découle toute la mécanique du calcul. Les dérivées partielles réapparaissent comme les valeurs de $\mathrm{d}f(a)$ sur les vecteurs de base, ce qui donne la matrice jacobienne ; la composition devient un produit de matrices, c'est la règle de la chaîne ; et un théorème central, admis par le programme, retourne enfin la situation en notre faveur : si les dérivées partielles existent et sont continues sur un ouvert, alors la fonction est différentiable en tout point. C'est ce théorème qui rend le chapitre praticable, car il permet de conclure à la différentiabilité par un simple argument d'opérations, sans jamais revenir à la définition.

Vient ensuite la géométrie. Lorsque $f$ est numérique et que l'espace de départ est euclidien, la différentielle, qui est une forme linéaire, se représente par un vecteur : le gradient, défini par $\mathrm{d}f(a)(h)=⟨\nabla f(a),h⟩$. Ce vecteur porte deux informations que rien d'autre ne donne aussi simplement : sa direction est celle de la plus forte pente, et il est orthogonal aux lignes ou surfaces de niveau. C'est ainsi qu'on écrit une équation de plan tangent sans aucun outil sophistiqué, en dérivant le long d'un arc tracé sur la surface.

Le dernier tiers du chapitre est le but de tout le reste : l'optimisation. Chercher le minimum d'une fonction de plusieurs variables, c'est le problème que posent la physique, l'économie, la statistique et une bonne moitié des problèmes de concours. La stratégie est en deux temps, exactement comme en première année. Au premier ordre, un extremum atteint en un point intérieur annule la différentielle : on obtient les points critiques, qui sont des candidats et rien de plus. Au second ordre, la matrice hessienne et le signe de ses valeurs propres décident, quand ils ne sont pas dégénérés. Et l'existence même d'un extremum, elle, ne vient jamais du calcul : elle vient de la compacité, ou de la coercivité, deux arguments de topologie qu'il faut produire avant de dériver quoi que ce soit.

Une remarque de méthode, enfin, qui vous évitera de perdre du temps. Trois théorèmes célèbres du calcul différentiel sont hors programme en MP : le théorème des fonctions implicites, le théorème d'inversion locale, et les multiplicateurs de Lagrange. Aucun exercice de concours de la filière ne peut donc exiger leur emploi, et aucun résultat de ce chapitre n'en a besoin. Une contrainte se traite par paramétrage ou par substitution, une tangente s'obtient en dérivant un arc explicite, un extremum sur un fermé borné s'obtient par compacité. Il en va de même de la différentielle seconde comme application bilinéaire : elle n'existe pas dans ce programme, et l'ordre $2$ s'écrit uniquement avec les dérivées partielles secondes et la matrice hessienne. Sachez-le, et n'allez pas chercher ailleurs ce que ces outils élémentaires suffisent à faire.

Fixons les notations, valables partout dans le chapitre. Les lettres $E$, $F$, $G$ désignent des $\mathbb{R}$-espaces vectoriels normés de dimension finie, la norme étant notée $\Vert \cdot \Vert$ sans indice quand aucune confusion n'est possible ; $U$ désigne toujours un ouvert de $E$, et $a$ un point de $U$. Lorsqu'une base $\mathcal{B}=(e_1,\dots ,e_n)$ de $E$ est fixée, les coordonnées d'un vecteur $h$ y sont notées $h_1,\dots ,h_n$. On note $D_{v}f(a)$ la dérivée de $f$ en $a$ selon le vecteur $v$, ${\partial }_{i}f(a)$ ou $\frac{\partial f}{\partial x_i}(a)$ les dérivées partielles, $\mathrm{d}f(a)$ la différentielle, $J_f(a)$ la matrice jacobienne, $\nabla f(a)$ le gradient et $H_f(a)$ la matrice hessienne. Les classes de régularité s'écrivent ${\mathcal{C}}^1$, ${\mathcal{C}}^k$, ${\mathcal{C}}^{\infty }$. Le produit scalaire d'un espace euclidien est noté $⟨\cdot ,\cdot ⟩$, et le gradient n'est défini que dans ce cadre : une fonction numérique sur un espace euclidien. Enfin, toutes les normes de $E$ étant équivalentes puisque $E$ est de dimension finie, aucune des notions de ce chapitre ne dépend du choix des normes, et l'on ne les précisera donc jamais.

Dérivée selon un vecteur, dérivées partielles

Dérivée selon un vecteur

Démonstration. Si $\lambda =0$, le taux d'accroissement $\frac{f(a+t\cdot 0_E)-f(a)}{t}$ est nul pour tout $t\ne 0$, donc la limite existe et vaut $0_F$, ce qui est bien $0\cdot D_{v}f(a)$.

Si $\lambda \ne 0$, posons $s=\lambda t$. Pour $t\ne 0$ assez petit,

$$\frac{f(a+t\lambda v)-f(a)}{t}=\lambda \cdot \frac{f(a+sv)-f(a)}{s}.$$

Quand $t\to 0$, on a $s\to 0$ avec $s\ne 0$, donc le membre de droite tend vers $\lambda D_{v}f(a)$ par composition de limites. $\square$

Dérivées partielles dans une base

Voici quatre calculs de dérivées partielles. Dans chaque cas, on dérive par rapport à une variable en traitant les autres comme des constantes.

Pour b., on écrit $x^y={\mathrm{e}}^{y\ln x}$ avant de dériver en $y$. Pour c., la dérivation en $x$ donne $\frac{1}{1+y^2/x^2}\times \left(-\frac{y}{x^2}\right)=\frac{x^2}{x^2+y^2}\times \left(-\frac{y}{x^2}\right)=\frac{-y}{x^2+y^2}$.

Ce que les dérivées selon un vecteur ne disent pas

C'est le passage le plus important de cette section, et celui que les candidats oublient le plus vite. L'existence des dérivées partielles, et même l'existence de la dérivée selon tout vecteur, n'entraîne ni la continuité, ni la différentiabilité.

Applications différentiables

La définition

Unicité de la différentielle

Démonstration. Supposons que deux applications linéaires $L_1$ et $L_2$ conviennent, avec des fonctions ${\epsilon }_1$ et ${\epsilon }_2$ de limite nulle. En soustrayant les deux développements, on obtient, pour tout $h$ assez petit,

$$(L_1-L_2)(h)=\Vert h\Vert ({\epsilon }_2(h)-{\epsilon }_1(h)).$$

Posons $\delta =L_1-L_2$, qui est linéaire, et $\eta (h)={\epsilon }_2(h)-{\epsilon }_1(h)$, de limite $0_F$ en $0_E$.

Fixons un vecteur $v\in E$ non nul et appliquons cette égalité à $h=tv$ avec $t>0$ assez petit :

$$\delta (tv)=\Vert tv\Vert \eta (tv),\text{c’est-aˋ-dire}t\delta (v)=t\Vert v\Vert \eta (tv)$$

par linéarité de $\delta$ et parce que $\Vert tv\Vert =t\Vert v\Vert$ pour $t>0$. En divisant par $t>0$, il vient

$$\delta (v)=\Vert v\Vert \eta (tv).$$

Le membre de gauche ne dépend pas de $t$, et le membre de droite tend vers $0_F$ quand $t\to 0^{+}$, puisque $tv\to 0_E$. Donc $\delta (v)=0_F$.

Ceci valant pour tout $v\ne 0_E$, et $\delta (0_E)=0_F$ par linéarité, on conclut $\delta =0$, c'est-à-dire $L_1=L_2$. $\square$

Différentiabilité et continuité

Démonstration. Écrivons le développement limité : $f(a+h)=f(a)+\mathrm{d}f(a)(h)+\Vert h\Vert \epsilon (h)$ avec $\epsilon (h)\to 0_F$. L'application linéaire $\mathrm{d}f(a)$ est continue puisque $E$ est de dimension finie, donc il existe $k⩾0$ tel que $\Vert \mathrm{d}f(a)(h)\Vert ⩽k\Vert h\Vert$ pour tout $h\in E$. Par inégalité triangulaire,

$$\Vert f(a+h)-f(a)\Vert ⩽\Vert \mathrm{d}f(a)(h)\Vert +\Vert h\Vert \Vert \epsilon (h)\Vert ⩽k\Vert h\Vert +\Vert h\Vert \Vert \epsilon (h)\Vert .$$

Le majorant tend vers $0$ quand $h\to 0_E$, donc $f(a+h)\to f(a)$ : la fonction $f$ est continue en $a$. $\square$

Différentiabilité et dérivées selon un vecteur

Démonstration. Soit $v\in E$. Si $v=0_E$, les deux membres sont nuls. Supposons $v\ne 0_E$ et prenons $t\ne 0$ assez petit pour que $a+tv\in U$. Le développement limité appliqué à $h=tv$ donne

$$f(a+tv)=f(a)+\mathrm{d}f(a)(tv)+\Vert tv\Vert \epsilon (tv)=f(a)+t\mathrm{d}f(a)(v)+|t|\Vert v\Vert \epsilon (tv),$$

en utilisant la linéarité de $\mathrm{d}f(a)$ et l'homogénéité de la norme. En divisant par $t$,

$$\frac{f(a+tv)-f(a)}{t}=\mathrm{d}f(a)(v)+\frac{|t|}{t}\Vert v\Vert \epsilon (tv).$$

Le quotient $\frac{|t|}{t}$ vaut $\pm 1$, donc le second terme est majoré en norme par $\Vert v\Vert \Vert \epsilon (tv)\Vert$, qui tend vers $0$ quand $t\to 0$. Ainsi le taux d'accroissement tend vers $\mathrm{d}f(a)(v)$, ce qui signifie exactement que $D_{v}f(a)$ existe et vaut $\mathrm{d}f(a)(v)$. $\square$

Les exemples de référence

Ces exemples sont à connaître par cœur : ils servent de briques dans presque tous les calculs de différentielle des concours.

Démonstration. On a $f(a+h)-f(a)=0_F$ pour tout $h$ admissible. Le développement limité est donc vérifié en prenant pour $L$ l'application linéaire nulle et pour $\epsilon$ la fonction nulle. Par unicité, $\mathrm{d}f(a)=0$. $\square$

Démonstration. Par linéarité, $L(a+h)=L(a)+L(h)$ exactement, sans aucun reste. Le développement limité est donc vérifié avec la fonction $\epsilon$ identiquement nulle, et l'unicité donne $\mathrm{d}L(a)=L$. $\square$

Démonstration. On a $f(a+h)=L(a)+L(h)+b=f(a)+L(h)$, sans reste. $\square$

Démonstration. Munissons $E_1\times E_2$ de la norme $\Vert (h,k)\Vert =\max (\Vert h\Vert ,\Vert k\Vert )$, ce qui est licite puisque toutes les normes de cet espace de dimension finie sont équivalentes. Développons par bilinéarité :

$$B(a+h,b+k)=B(a,b)+B(a,k)+B(h,b)+B(h,k).$$

Posons $L(h,k)=B(a,k)+B(h,b)$. C'est bien une application linéaire en $(h,k)$ : la linéarité en chacune des deux variables de $B$ donne l'additivité et l'homogénéité de $L$.

Il reste à voir que le terme $B(h,k)$ est un $o(\Vert (h,k)\Vert )$. Comme $E_1\times E_2$ est de dimension finie et $B$ bilinéaire, $B$ est continue et il existe $C⩾0$ tel que

$$\forall (h,k),\Vert B(h,k)\Vert ⩽C\Vert h\Vert \Vert k\Vert .$$

Donc $\Vert B(h,k)\Vert ⩽C\Vert (h,k){\Vert }^2$, c'est-à-dire $\Vert B(h,k)\Vert ⩽\Vert (h,k)\Vert \times (C\Vert (h,k)\Vert )$, où le second facteur tend vers $0$ quand $(h,k)\to (0,0)$. Le développement limité d'ordre $1$ est établi, et l'unicité de la différentielle donne la formule annoncée. $\square$

Démonstration. Développons par bilinéarité du produit scalaire et linéarité de $A$ :

$$q(x+h)=⟨Ax+Ah,x+h⟩=⟨Ax,x⟩+⟨Ax,h⟩+⟨Ah,x⟩+⟨Ah,h⟩.$$

Or $⟨Ah,x⟩=⟨h,{}^{t}Ax⟩=⟨{}^{t}Ax,h⟩$ par définition de l'adjoint et symétrie du produit scalaire. Donc

$$q(x+h)=q(x)+⟨(A+{}^{t}A)x,h⟩+⟨Ah,h⟩.$$

Le premier terme après $q(x)$ est linéaire en $h$. Quant au dernier, l'inégalité de Cauchy-Schwarz donne

$$|⟨Ah,h⟩|⩽\Vert Ah\Vert \Vert h\Vert ⩽k\Vert h{\Vert }^2,$$

où $k$ majore la norme de l'application linéaire continue $A$. C'est donc bien un $o(\Vert h\Vert )$, et l'unicité conclut. $\square$

Coordonnées et matrice jacobienne

La différentielle se lit sur les dérivées partielles

Démonstration. L'application $\mathrm{d}f(a)$ est linéaire, donc

$$\mathrm{d}f(a)(h)=\mathrm{d}f(a)\left(\sum _{i=1}^n{h}_i{e}_i\right)=\sum _{i=1}^n{h}_i\mathrm{d}f(a)(e_i)=\sum _{i=1}^n{h}_i{\partial }_{i}f(a),$$

la dernière égalité étant le théorème précédent appliqué à $v=e_i$. $\square$

Matrice jacobienne

Fonctions de classe ${\mathcal{C}}^1$

Définition et théorème fondamental

Opérations

Quatre fonctions de classe ${\mathcal{C}}^1$ par opérations, à traiter chacune avec la phrase type ci-dessus.

Dans chacun des quatre cas, la justification est la même. Le seul travail spécifique consiste à décrire l'ouvert et à vérifier que les dénominateurs ne s'y annulent pas.

Différentiable ne signifie pas de classe ${\mathcal{C}}^1$

Règle de la chaîne

Différentielle d'une composée

Démonstration. Écrivons les deux développements limités. Il existe ${\epsilon }_1\to 0_F$ et ${\epsilon }_2\to 0_G$ telles que, pour $h$ et $k$ assez petits,

$$f(a+h)=f(a)+\mathrm{d}f(a)(h)+\Vert h\Vert {\epsilon }_1(h),g(b+k)=g(b)+\mathrm{d}g(b)(k)+\Vert k\Vert {\epsilon }_2(k).$$

Posons $k(h)=f(a+h)-f(a)=\mathrm{d}f(a)(h)+\Vert h\Vert {\epsilon }_1(h)$, de sorte que $g(f(a+h))=g(b+k(h))$.

Majoration de $k(h)$. L'application $\mathrm{d}f(a)$ est linéaire continue, donc il existe $c⩾0$ tel que $\Vert \mathrm{d}f(a)(h)\Vert ⩽c\Vert h\Vert$. Pour $\Vert h\Vert$ assez petit, $\Vert {\epsilon }_1(h)\Vert ⩽1$, d'où

$$\Vert k(h)\Vert ⩽(c+1)\Vert h\Vert .$$

En particulier $k(h)\to 0_F$ quand $h\to 0_E$.

Composition des développements. En reportant,

$$g(f(a+h))=g(b)+\mathrm{d}g(b)(k(h))+\Vert k(h)\Vert {\epsilon }_2(k(h)).$$

Or $\mathrm{d}g(b)$ est linéaire, donc

$$\mathrm{d}g(b)(k(h))=\mathrm{d}g(b)(\mathrm{d}f(a)(h))+\Vert h\Vert \mathrm{d}g(b)({\epsilon }_1(h)).$$

Ainsi

$$g(f(a+h))=g(b)+(\mathrm{d}g(b)\circ \mathrm{d}f(a))(h)+\underset{R(h)}{\underbrace{\Vert h\Vert \mathrm{d}g(b)({\epsilon }_1(h))+\Vert k(h)\Vert {\epsilon }_2(k(h))}}.$$

Le reste est négligeable. D'une part, $\mathrm{d}g(b)$ est linéaire continue et ${\epsilon }_1(h)\to 0_F$, donc $\mathrm{d}g(b)({\epsilon }_1(h))\to 0_G$ : le premier morceau est bien de la forme $\Vert h\Vert \times o(1)$. D'autre part,

$$\Vert \Vert k(h)\Vert {\epsilon }_2(k(h))\Vert ⩽(c+1)\Vert h\Vert \Vert {\epsilon }_2(k(h))\Vert ,$$

et ${\epsilon }_2(k(h))\to 0_G$ puisque $k(h)\to 0_F$ et ${\epsilon }_2$ est de limite nulle en $0_F$. Donc $R(h)=o(\Vert h\Vert )$.

Comme $\mathrm{d}g(b)\circ \mathrm{d}f(a)$ est linéaire (composée de deux applications linéaires), l'unicité de la différentielle donne la formule. La traduction matricielle est celle de la composition des applications linéaires. $\square$

Dérivation le long d'un arc

C'est le cas particulier le plus utilisé du chapitre : celui où l'espace de départ est $\mathbb{R}$, c'est-à-dire où l'on suit $f$ le long d'un chemin.

Démonstration. Notons $a=\gamma (t_0)$ et écrivons les deux développements limités, celui de $\gamma$ en $t_0$ (fonction vectorielle d'une variable réelle, chapitre précédent) et celui de $f$ en $a$ :

$$\gamma (t_0+s)=a+s{\gamma }^{\prime }(t_0)+s\alpha (s),f(a+h)=f(a)+\mathrm{d}f(a)(h)+\Vert h\Vert \epsilon (h),$$

avec $\alpha (s)\to 0_E$ quand $s\to 0$ et $\epsilon (h)\to 0_F$ quand $h\to 0_E$.

Posons $h(s)=\gamma (t_0+s)-a=s({\gamma }^{\prime }(t_0)+\alpha (s))$. Pour $|s|$ assez petit, $\Vert \alpha (s)\Vert ⩽1$, donc

$$\Vert h(s)\Vert ⩽|s|(\Vert {\gamma }^{\prime }(t_0)\Vert +1),$$

et en particulier $h(s)\to 0_E$ quand $s\to 0$. En reportant et en utilisant la linéarité de $\mathrm{d}f(a)$ :

$$f(\gamma (t_0+s))=f(a)+s\mathrm{d}f(a)({\gamma }^{\prime }(t_0))+s\mathrm{d}f(a)(\alpha (s))+\Vert h(s)\Vert \epsilon (h(s)).$$

Divisons par $s\ne 0$ :

$$\frac{f(\gamma (t_0+s))-f(a)}{s}=\mathrm{d}f(a)({\gamma }^{\prime }(t_0))+\mathrm{d}f(a)(\alpha (s))+\frac{\Vert h(s)\Vert }{s}\epsilon (h(s)).$$

Le deuxième terme tend vers $0_F$ car $\mathrm{d}f(a)$ est linéaire continue et $\alpha (s)\to 0_E$. Le troisième est majoré en norme par $(\Vert {\gamma }^{\prime }(t_0)\Vert +1)\Vert \epsilon (h(s))\Vert$, qui tend vers $0$. Le taux d'accroissement converge donc vers $\mathrm{d}f(a)({\gamma }^{\prime }(t_0))$, ce qui est le résultat.

La seconde formule est la définition du gradient, $\mathrm{d}f(a)(v)=⟨\nabla f(a),v⟩$, appliquée à $v={\gamma }^{\prime }(t_0)$. $\square$

Dérivées partielles d'une composée

Démonstration. C'est la règle de la chaîne appliquée au vecteur $h=e_j$ de la base canonique de ${\mathbb{R}}^p$ : d'une part $\frac{\partial F}{\partial u_j}(u)=\mathrm{d}F(u)(e_j)$, d'autre part

$$\mathrm{d}F(u)(e_j)=\mathrm{d}f(\phi (u))(\mathrm{d}\phi (u)(e_j))=\mathrm{d}f(\phi (u))\left(\sum _{i=1}^n\frac{\partial {\phi }_i}{\partial u_j}(u)e_i^{\prime }\right),$$

où $(e_i^{\prime })$ est la base canonique de ${\mathbb{R}}^n$, car les coordonnées de $\mathrm{d}\phi (u)(e_j)$ forment la $j$-ième colonne de $J_{\phi }(u)$. Par linéarité de $\mathrm{d}f(\phi (u))$ et puisque $\mathrm{d}f(x)(e_i^{\prime })={\partial }_{i}f(x)$, on obtient la formule annoncée. $\square$

Changement de variables : les coordonnées polaires

Traitons complètement le cas le plus utile, celui des coordonnées polaires.

Démonstration. L'application $\Phi (r,\theta )=(r\cos \theta ,r\sin \theta )$ est de classe ${\mathcal{C}}^1$ (ses coordonnées le sont), donc $g=f\circ \Phi$ l'est par composition. La formule des dérivées partielles d'une composée donne, avec $x=r\cos \theta$ et $y=r\sin \theta$ :

$$\frac{\partial g}{\partial r}=\frac{\partial x}{\partial r}\frac{\partial f}{\partial x}+\frac{\partial y}{\partial r}\frac{\partial f}{\partial y}=\cos \theta \frac{\partial f}{\partial x}+\sin \theta \frac{\partial f}{\partial y},$$ $$\frac{\partial g}{\partial \theta }=\frac{\partial x}{\partial \theta }\frac{\partial f}{\partial x}+\frac{\partial y}{\partial \theta }\frac{\partial f}{\partial y}=-r\sin \theta \frac{\partial f}{\partial x}+r\cos \theta \frac{\partial f}{\partial y}.$$

Pour inverser, on résout ce système linéaire de deux équations aux inconnues $\frac{\partial f}{\partial x}$ et $\frac{\partial f}{\partial y}$. Sa matrice est $J_{\Phi }(r,\theta )$ transposée, de déterminant $r$, donc le système est inversible dès que $r\ne 0$. Concrètement, on calcule

$$\cos \theta \frac{\partial g}{\partial r}-\frac{\sin \theta }{r}\frac{\partial g}{\partial \theta }=\left({\cos }^2\theta +{\sin }^2\theta \right)\frac{\partial f}{\partial x}+\left(\cos \theta \sin \theta -\sin \theta \cos \theta \right)\frac{\partial f}{\partial y}=\frac{\partial f}{\partial x},$$

et de même

$$\sin \theta \frac{\partial g}{\partial r}+\frac{\cos \theta }{r}\frac{\partial g}{\partial \theta }=\left(\sin \theta \cos \theta -\cos \theta \sin \theta \right)\frac{\partial f}{\partial x}+\left({\sin }^2\theta +{\cos }^2\theta \right)\frac{\partial f}{\partial y}=\frac{\partial f}{\partial y}.\square$$

Une équation aux dérivées partielles du premier ordre

Démonstration. Soient $a,b\in U$. Comme $U$ est convexe, le segment $[a,b]$ est inclus dans $U$, donc on peut poser $\phi (t)=f(a+t(b-a))$ pour $t\in [0,1]$. L'arc $\gamma (t)=a+t(b-a)$ est dérivable, de dérivée constante $b-a$, donc par dérivation le long d'un arc, $\phi$ est dérivable sur $[0,1]$ et

$${\phi }^{\prime }(t)=\mathrm{d}f(\gamma (t))(b-a)=0.$$

Une fonction vectorielle dérivable de dérivée nulle sur un intervalle est constante, donc $\phi (0)=\phi (1)$, c'est-à-dire $f(a)=f(b)$. $\square$

Gradient

Définition et existence

Dans toute cette section, $E$ est un espace euclidien de produit scalaire $⟨\cdot ,\cdot ⟩$, $U$ un ouvert de $E$ et $f:U\to \mathbb{R}$ une fonction numérique.

Démonstration. Existence. Soit $(e_1,\dots ,e_n)$ une base orthonormée de $E$, qui existe par le procédé de Gram-Schmidt. Posons $u={\sum }_{i=1}^n\phi (e_i)e_i$. Pour $x={\sum }_i{x}_i{e}_i$, la bilinéarité du produit scalaire et l'orthonormalité donnent

$$⟨u,x⟩=\sum _{i=1}^n\phi (e_i)x_i=\phi \left(\sum _{i=1}^n{x}_i{e}_i\right)=\phi (x),$$

la deuxième égalité étant la linéarité de $\phi$.

Unicité. Si $u$ et $u^{\prime }$ conviennent tous les deux, alors $⟨u-u^{\prime },x⟩=0$ pour tout $x\in E$. En prenant $x=u-u^{\prime }$, il vient $\Vert u-u^{\prime }{\Vert }^2=0$, donc $u=u^{\prime }$. $\square$

Expression en base orthonormée

Démonstration. Notons $u={\sum }_i{\partial }_{i}f(a)e_i$. Pour $h={\sum }_i{h}_i{e}_i$, l'orthonormalité de la base donne $⟨u,h⟩={\sum }_i{h}_i{\partial }_{i}f(a)$, qui vaut $\mathrm{d}f(a)(h)$ d'après l'expression de la différentielle sur les coordonnées. Par unicité du vecteur représentant $\mathrm{d}f(a)$, on a $u=\nabla f(a)$. $\square$

Quatre gradients de référence, sur un espace euclidien $E$, à connaître par cœur.

Direction de plus forte pente

Démonstration. Pour $v$ unitaire, $D_{v}f(a)=\mathrm{d}f(a)(v)=⟨\nabla f(a),v⟩$. L'inégalité de Cauchy-Schwarz donne

$$|⟨\nabla f(a),v⟩|⩽\Vert \nabla f(a)\Vert \times \Vert v\Vert =\Vert \nabla f(a)\Vert ,$$

donc $D_{v}f(a)⩽\Vert \nabla f(a)\Vert$ pour tout $v$ unitaire : le majorant est établi.

Il est atteint en $v_0=\frac{\nabla f(a)}{\Vert \nabla f(a)\Vert }$, qui est bien unitaire, car

$$⟨\nabla f(a),v_0⟩=\frac{⟨\nabla f(a),\nabla f(a)⟩}{\Vert \nabla f(a)\Vert }=\frac{\Vert \nabla f(a){\Vert }^2}{\Vert \nabla f(a)\Vert }=\Vert \nabla f(a)\Vert .$$

Enfin, le cas d'égalité dans Cauchy-Schwarz impose que $v$ soit colinéaire à $\nabla f(a)$ ; parmi les deux vecteurs unitaires colinéaires, seul $v_0$ donne une valeur positive, l'autre donnant $-\Vert \nabla f(a)\Vert$. Le maximum est donc atteint uniquement en $v_0$, et le minimum uniquement en $-v_0$. $\square$

Vecteurs tangents, lignes et surfaces de niveau

Vecteurs tangents à une partie

Le gradient est orthogonal aux lignes de niveau

Démonstration. Soit $v$ un vecteur tangent à $X_c$ en $a$ : il existe un arc $\gamma$, tracé sur $X_c$, avec $\gamma (0)=a$ et ${\gamma }^{\prime }(0)=v$, dérivable en $0$.

Comme $\gamma$ est à valeurs dans $X_c$, on a $f(\gamma (t))=c$ pour tout $t$ : la fonction $\phi =f\circ \gamma$ est constante. Elle est par ailleurs dérivable en $0$ par dérivation le long d'un arc, et

$$0={\phi }^{\prime }(0)=\mathrm{d}f(\gamma (0))({\gamma }^{\prime }(0))=\mathrm{d}f(a)(v)=⟨\nabla f(a),v⟩.\square$$

Plan tangent au graphe d'une fonction de deux variables

Démonstration. Tout élément de $P$ est tangent. Soit $(\alpha ,\beta )\in {\mathbb{R}}^2$. Comme $U$ est ouvert, il existe $\eta >0$ tel que $(a+t\alpha ,b+t\beta )\in U$ pour $|t|<\eta$. Posons

$$\gamma (t)=(a+t\alpha ,b+t\beta ,f(a+t\alpha ,b+t\beta )),$$

qui est un arc tracé sur $S$ avec $\gamma (0)=A$. Ses deux premières coordonnées sont affines, donc dérivables ; la troisième est dérivable en $0$ par dérivation le long d'un arc, de dérivée $\alpha {\partial }_{x}f(a,b)+\beta {\partial }_{y}f(a,b)$. Donc $\gamma$ est dérivable en $0$ et

$${\gamma }^{\prime }(0)=(\alpha ,\beta ,\alpha {\partial }_{x}f(a,b)+\beta {\partial }_{y}f(a,b)),$$

qui est le vecteur générique de $P$.

Tout vecteur tangent appartient à $P$. Soit $\gamma =({\gamma }_1,{\gamma }_2,{\gamma }_3)$ un arc tracé sur $S$, dérivable en $0$, avec $\gamma (0)=A$. Être tracé sur $S$ signifie ${\gamma }_3(t)=f({\gamma }_1(t),{\gamma }_2(t))$ pour tout $t$. Les fonctions ${\gamma }_1$ et ${\gamma }_2$ sont dérivables en $0$ (coordonnées d'une fonction vectorielle dérivable), donc l'arc plan $t\mapsto ({\gamma }_1(t),{\gamma }_2(t))$ l'est aussi, et la dérivation le long d'un arc donne

$${\gamma }_3^{\prime }(0)={\gamma }_1^{\prime }(0){\partial }_{x}f(a,b)+{\gamma }_2^{\prime }(0){\partial }_{y}f(a,b).$$

Ainsi ${\gamma }^{\prime }(0)=({\gamma }_1^{\prime }(0),{\gamma }_2^{\prime }(0),{\gamma }_3^{\prime }(0))\in P$ avec $\alpha ={\gamma }_1^{\prime }(0)$ et $\beta ={\gamma }_2^{\prime }(0)$.

Équation du plan affine. Un point $M(x,y,z)$ appartient à $A+P$ si et seulement si $M-A\in P$, c'est-à-dire si et seulement si $z-f(a,b)=(x-a){\partial }_{x}f(a,b)+(y-b){\partial }_{y}f(a,b)$. $\square$

Plan tangent à une surface de niveau

Dérivées partielles d'ordre supérieur

Définition et classe ${\mathcal{C}}^k$

Le théorème de Schwarz

Matrice hessienne

Démonstration. Le coefficient d'indice $(i,j)$ est ${\partial }_{i,j}^{2}f(a)$ et celui d'indice $(j,i)$ est ${\partial }_{j,i}^{2}f(a)$ : ils sont égaux par le théorème de Schwarz. $\square$

Formule de Taylor-Young à l'ordre 2

Optimisation

Vocabulaire

Condition nécessaire du premier ordre

Démonstration. Supposons par exemple que $f$ admette un maximum local en $a$ : il existe $r>0$ tel que $B(a,r)\subseteq U$ (car $U$ est ouvert, quitte à diminuer $r$) et $f(x)⩽f(a)$ pour tout $x\in B(a,r)$.

Soit $v\in E$ non nul. Posons $\eta =\frac{r}{\Vert v\Vert }$ et, pour $t\in \left]-\eta ,\eta \right[$,

$$\phi (t)=f(a+tv).$$

La fonction $\phi$ est bien définie car $\Vert tv\Vert <r$, et elle est dérivable en $0$ avec ${\phi }^{\prime }(0)=D_{v}f(a)=\mathrm{d}f(a)(v)$, d'après la propriété liant différentielle et dérivée selon un vecteur.

Par ailleurs, $\phi (t)=f(a+tv)⩽f(a)=\phi (0)$ pour tout $t\in \left]-\eta ,\eta \right[$ : la fonction $\phi$, d'une variable réelle, admet un maximum en $0$, qui est un point intérieur à son intervalle de définition. Le théorème de première année s'applique : ${\phi }^{\prime }(0)=0$.

Ainsi $\mathrm{d}f(a)(v)=0$ pour tout $v\ne 0_E$, et aussi pour $v=0_E$ par linéarité. Donc $\mathrm{d}f(a)=0$. Le cas d'un minimum local se traite de même, ou en appliquant ce qui précède à $-f$. $\square$

Existence d'un extremum global par compacité

Conditions du second ordre

Démonstration du cas 1. Supposons $H=H_f(a)$ définie positive et notons ${\lambda }_{\min }>0$ sa plus petite valeur propre. La matrice $H$ étant symétrique réelle, le théorème spectral fournit une base orthonormée $(u_1,\dots ,u_n)$ de vecteurs propres, associée aux valeurs propres ${\lambda }_1,\dots ,{\lambda }_n$. Pour $h={\sum }_i{c}_i{u}_i$, on a alors

$${}^{t}hHh=⟨Hh,h⟩=\sum _{i=1}^n{\lambda }_i{c}_i^2⩾{\lambda }_{\min }\sum _{i=1}^n{c}_i^2={\lambda }_{\min }\Vert h{\Vert }^2,$$

la dernière égalité venant de l'orthonormalité de la base.

Écrivons maintenant la formule de Taylor-Young à l'ordre $2$ en $a$, en tenant compte de $\nabla f(a)=0$ :

$$f(a+h)-f(a)=\frac{1}{2}{}^{t}hHh+\Vert h{\Vert }^2\epsilon (h),\text{avec }\epsilon (h)\underset{h\to 0}{\to }0.$$

D'après la minoration précédente,

$$f(a+h)-f(a)⩾\left(\frac{{\lambda }_{\min }}{2}+\epsilon (h)\right)\Vert h{\Vert }^2.$$

Comme $\epsilon (h)\to 0$, il existe $r>0$ tel que $B(a,r)\subseteq U$ et $|\epsilon (h)|⩽\frac{{\lambda }_{\min }}{4}$ pour $\Vert h\Vert <r$. Pour un tel $h$ non nul,

$$f(a+h)-f(a)⩾\left(\frac{{\lambda }_{\min }}{2}-\frac{{\lambda }_{\min }}{4}\right)\Vert h{\Vert }^2=\frac{{\lambda }_{\min }}{4}\Vert h{\Vert }^2>0.$$

Donc $f(a+h)>f(a)$ pour tout $h$ non nul de norme inférieure à $r$ : la fonction $f$ admet en $a$ un minimum local strict. $\square$

Démonstration du cas 2. Appliquer le cas 1 à $-f$, dont la hessienne en $a$ est $-H_f(a)$, de valeurs propres $-{\lambda }_i>0$. $\square$

Démonstration du cas 3. Soient $u$ un vecteur propre unitaire associé à une valeur propre $\lambda >0$ et $w$ un vecteur propre unitaire associé à une valeur propre $\mu <0$. Taylor-Young appliqué à $h=tu$ donne, pour $t\to 0$,

$$f(a+tu)-f(a)=\frac{t^2}{2}{}^{t}uHu+t^2\epsilon (tu)=t^2\left(\frac{\lambda }{2}+\epsilon (tu)\right),$$

car ${}^{t}uHu=⟨\lambda u,u⟩=\lambda$ et $\Vert tu{\Vert }^2=t^2$. Pour $|t|$ assez petit et non nul, la parenthèse est strictement positive, donc $f(a+tu)>f(a)$.

De même, $f(a+tw)-f(a)=t^2\left(\frac{\mu }{2}+\epsilon (tw)\right)<0$ pour $|t|$ assez petit non nul. Dans tout voisinage de $a$, la fonction prend donc des valeurs strictement supérieures et strictement inférieures à $f(a)$ : il n'y a pas d'extremum local en $a$. $\square$

Le cas de deux variables : notations $r$, $s$, $t$

Démonstration. Le produit des deux valeurs propres de $H_f(a)$ vaut $\det H_f(a)=rt-s^2$, leur somme vaut $r+t$.

Si $rt-s^2>0$, les deux valeurs propres sont non nulles et de même signe. De plus $rt>s^2⩾0$, donc $r$ et $t$ sont non nuls et de même signe, et le signe commun des valeurs propres est celui de leur somme $r+t$, donc celui de $r$. Si $r>0$ les deux valeurs propres sont strictement positives (cas 1 du théorème), si $r<0$ elles sont strictement négatives (cas 2).

Si $rt-s^2<0$, le produit des valeurs propres est strictement négatif : elles sont de signes opposés, c'est le cas 3.

Si $rt-s^2=0$, l'une des valeurs propres est nulle : c'est le cas dégénéré. $\square$

Coercivité

Sur un ouvert non borné comme ${\mathbb{R}}^n$, la compacité est indisponible. L'argument de remplacement est le suivant, et il est très fréquent aux concours.

Démonstration. Posons $M=f(0)$. Par coercivité appliquée à ce réel $M$, il existe $R>0$ tel que

$$\Vert x\Vert >R⟹f(x)>M.$$

Considérons la boule fermée $K=B_f(0,R)$. C'est une partie fermée, bornée et non vide de ${\mathbb{R}}^n$ (elle contient $0$), donc une partie compacte puisque la dimension est finie. La fonction $f$ y est continue, donc elle atteint son minimum sur $K$ : il existe $x_0\in K$ tel que

$$\forall x\in K,f(x_0)⩽f(x).$$

En particulier, comme $0\in K$, on a $f(x_0)⩽f(0)=M$.

Montrons que $x_0$ réalise le minimum sur ${\mathbb{R}}^n$ tout entier. Soit $x\in {\mathbb{R}}^n$. Si $\Vert x\Vert ⩽R$, alors $x\in K$ et $f(x)⩾f(x_0)$ par définition de $x_0$. Si $\Vert x\Vert >R$, alors $f(x)>M⩾f(x_0)$. Dans les deux cas $f(x)⩾f(x_0)$, donc $f$ admet un minimum global en $x_0$. $\square$

Contraintes : le paramétrage, pas Lagrange

Méthodes à retenir

Erreurs classiques

Confondre dérivées partielles et différentiabilité. C'est l'erreur numéro un, et elle est éliminatoire dans une question de cours. Écrire « les dérivées partielles existent donc $f$ est différentiable » est faux : la fonction $\frac{xy}{x^2+y^2}$ prolongée par $0$ admet deux dérivées partielles nulles en l'origine et n'y est même pas continue. Ce qui est vrai, c'est le théorème avec l'hypothèse de continuité des dérivées partielles sur un ouvert. Le mot « continue » n'est pas une formalité de rédaction : c'est l'hypothèse.

Croire que l'existence de toutes les dérivées directionnelles suffit. Version savante de l'erreur précédente, et tout aussi fausse. La fonction $\frac{x^{2}y}{x^4+y^2}$ admet en l'origine une dérivée dans toutes les directions et n'y est pas continue. Les droites ne voient pas les paraboles.

Chercher un extremum sur un fermé en oubliant la frontière. On résout $\nabla f=0$, on trouve deux points critiques, on compare leurs valeurs et l'on annonce le maximum. Mais si le domaine est un disque fermé ou un carré, le maximum peut très bien être atteint au bord, là où le gradient ne s'annule pas. La recherche sur un compact comporte toujours deux volets, l'intérieur et la frontière, et un devoir qui n'en traite qu'un est incomplet.

Appliquer la condition du premier ordre en un point qui n'est pas intérieur. Le théorème exige que $a$ soit un point intérieur au domaine. Sur $[0,1]$, la fonction $x\mapsto x$ atteint son maximum en $1$ sans que la dérivée s'y annule. Écrire « le maximum est atteint sur le bord donc le gradient y est nul » est un contresens complet.

Conclure quand la hessienne est dégénérée. Si $rt-s^2=0$, ou si $0$ est valeur propre de la hessienne, le critère du second ordre ne conclut pas. Il ne dit pas « ce n'est pas un extremum », il ne dit rien du tout. Les trois exemples $x^2+y^4$, $x^2-y^4$ et $x^2+y^3$ ont la même hessienne dégénérée et trois comportements différents. Dans ce cas, il faut revenir au signe de $f(a+h)-f(a)$.

Oublier que le gradient exige un produit scalaire. Le gradient n'existe que pour une fonction numérique définie sur un espace euclidien, et il dépend du produit scalaire. Parler du gradient d'une application de ${\mathbb{R}}^2$ dans ${\mathbb{R}}^3$ n'a aucun sens : c'est une matrice jacobienne. Et écrire que les coordonnées du gradient sont les dérivées partielles n'est licite que dans une base orthonormée.

Se tromper de point d'évaluation dans une composée. Dans la formule $\frac{\partial }{\partial u}[f(\phi (u))]={\sum }_i\frac{\partial {\phi }_i}{\partial u}\times \frac{\partial f}{\partial x_i}(\phi (u))$, les dérivées de $f$ sont prises au point image $\phi (u)$. Écrire $\frac{\partial f}{\partial x}(u,v)$ dans un changement de variables polaires, alors qu'il faut $\frac{\partial f}{\partial x}(r\cos \theta ,r\sin \theta )$, fausse tout le calcul qui suit et rend les résultats incohérents.

Oublier un terme dans la dérivation d'une composée. Quand la même variable apparaît à plusieurs endroits, tous les chemins comptent. Pour $F(t)=f(t,t^2)$, la dérivée est $F^{\prime }(t)={\partial }_{x}f(t,t^2)+2t{\partial }_{y}f(t,t^2)$, avec deux termes. La règle de la chaîne est une somme sur toutes les variables intermédiaires, jamais une dérivée isolée.

Utiliser un outil hors programme. Théorème des fonctions implicites, théorème d'inversion locale, multiplicateurs de Lagrange, différentielle seconde comme application bilinéaire : rien de tout cela n'est au programme de MP, et rien de tout cela n'est nécessaire. Une contrainte se paramètre, une tangente se calcule en dérivant un arc, l'ordre $2$ s'écrit avec la hessienne. Un candidat qui invoque ces théorèmes signale surtout qu'il n'a pas vu la solution simple.

Confondre « la différentielle est nulle » et « la fonction est constante ». L'implication est vraie sur un ouvert convexe (ou connexe par arcs), et fausse sinon : sur la réunion de deux boules disjointes, une fonction localement constante peut prendre deux valeurs différentes. Dans les exercices d'EDP, cette précaution se traduit par le choix d'un nouvel ouvert qui est un produit d'intervalles.