Espaces préhilbertiens réels

Depuis le collège, la géométrie repose sur trois mots : longueur, angle droit, distance. On mesure un segment, on reconnaît un angle droit au théorème de Pythagore, on calcule la distance d'un point à une droite. Tout cela vit dans le plan ou dans l'espace, où les coordonnées fournissent des formules explicites. Mais l'algèbre linéaire de première année a construit des espaces vectoriels où ces trois mots n'ont, en l'état, aucun sens. Quelle est la « longueur » du polynôme $X^2-3X+1$ ? Quel « angle » séparent les fonctions $t\mapsto t$ et $t\mapsto t^2$ sur $[0,1]$ ? À quelle « distance » la matrice $\left(\begin{array}{cc}1& 3\\ 1& 4\end{array}\right)$ se trouve-t-elle de l'ensemble des matrices symétriques ? Ces questions n'ont pas de réponse tant qu'on n'a rien ajouté à la structure d'espace vectoriel : la structure linéaire seule ne sait ni mesurer, ni comparer.

Ce chapitre installe une géométrie dans un espace vectoriel réel quelconque, et il le fait avec une seule donnée supplémentaire : un produit scalaire, c'est-à-dire une façon de multiplier deux vecteurs pour obtenir un nombre, soumise à quatre exigences. C'est peu, et pourtant tout en découle. La norme se lit sur le produit scalaire d'un vecteur avec lui-même, la distance sur la norme de la différence, l'orthogonalité sur l'annulation du produit scalaire, et le théorème de Pythagore devient un calcul de deux lignes. Le fait remarquable, et c'est la leçon du chapitre, est que le vocabulaire géométrique reste pertinent bien au-delà du plan et de l'espace : on parlera sans rougir de la projection orthogonale d'une fonction sur l'espace des polynômes de degré au plus $1$.

Trois résultats dominent, et ils sont tous les trois d'un usage constant. L'inégalité de Cauchy-Schwarz est une machine à fabriquer des inégalités : appliquée aux sommes finies, aux intégrales ou aux matrices, elle produit en une ligne des majorations qu'aucun calcul direct n'atteindrait, et son cas d'égalité fournit en prime l'information « les deux vecteurs sont colinéaires ». Le procédé de Gram-Schmidt est une fabrique de repères : partant d'une base quelconque, il construit mécaniquement une base orthonormée, dans laquelle tous les calculs se simplifient — les coordonnées d'un vecteur s'y lisent par un simple produit scalaire, et le produit scalaire y reprend sa forme canonique. La projection orthogonale, enfin, répond à la question « quel est le point le plus proche ? » : parmi tous les vecteurs d'un sous-espace $F$, il en existe un et un seul qui minimise la distance à un vecteur donné $x$, et c'est le projeté orthogonal de $x$ sur $F$. C'est le principe des moindres carrés : ajuster une droite à un nuage de points, approcher une fonction compliquée par un polynôme de petit degré, ce sont des problèmes de projection orthogonale déguisés, et le théorème de la meilleure approximation les résout tous d'un coup.

Le plan suit cet ordre. On définit d'abord le produit scalaire et l'on traite en détail les quatre exemples fondamentaux qui reviendront sans cesse : ${\mathbb{R}}^n$, les matrices, les fonctions continues sur un segment, les polynômes. On en déduit la norme et ses identités de calcul, puis l'inégalité de Cauchy-Schwarz et ses conséquences, dont l'inégalité triangulaire. Vient ensuite l'orthogonalité : Pythagore, familles orthogonales, orthogonal d'une partie. Les bases orthonormées et le procédé de Gram-Schmidt occupent la cinquième section, la projection orthogonale et la distance à un sous-espace la sixième, les hyperplans la septième. Une synthèse des méthodes clôt le chapitre.

Les notations suivantes sont fixées une fois pour toutes. La lettre $E$ désigne un espace vectoriel sur $\mathbb{R}$ ; tous les espaces de ce chapitre sont réels, sans aucune exception. Le produit scalaire de deux vecteurs $x$ et $y$ se note $⟨x,y⟩$ (la notation $(x\mid y)$, courante dans d'autres ouvrages, désigne exactement la même chose ; nous ne l'emploierons pas). La norme associée se note $\Vert x\Vert =\sqrt{⟨x,x⟩}$, la distance $d(x,y)=\Vert x-y\Vert$, et la distance d'un vecteur à un sous-espace $d(x,F)$. L'orthogonal d'une partie $A$ se note $A^{\perp }$, et le projeté orthogonal sur un sous-espace $F$ se note $p_F$. Les familles de vecteurs sont écrites $(u_1,\dots ,u_p)$ lorsqu'elles sont quelconques, et $(e_1,\dots ,e_p)$ lorsqu'elles sont orthonormées : cette convention typographique sera respectée partout, et elle évite bien des erreurs. Enfin, $\mathrm{Vect}(A)$ désigne le sous-espace engendré par $A$, ${\mathcal{M}}_n(\mathbb{R})$ l'espace des matrices carrées réelles d'ordre $n$, ${}^{\mathrm{t}}A$ la transposée de $A$, $\mathrm{tr}(A)$ sa trace, et $\mathcal{C}([a,b],\mathbb{R})$ l'espace des fonctions continues de $[a,b]$ dans $\mathbb{R}$.

Produit scalaire

Formes bilinéaires symétriques définies positives

Un produit scalaire est une application qui à deux vecteurs associe un nombre réel, en respectant quatre exigences. Détaillons-les une à une, car chacune joue un rôle précis dans la suite.

Démonstration. L'application $y\mapsto ⟨x,y⟩$ est linéaire, donc elle envoie le vecteur nul sur le réel $0$ : $⟨x,0_E⟩=0$, et la symétrie donne l'autre égalité.

Pour l'équivalence, le sens direct est l'axiome 4. Réciproquement, si $x=0_E$, ce que l'on vient d'écrire donne $⟨0_E,0_E⟩=0$. $\square$

Espaces préhilbertiens et espaces euclidiens

Démonstration. Les quatre axiomes sont des propriétés vérifiées pour tous les vecteurs de $E$ ; elles restent donc vraies lorsqu'on se restreint aux vecteurs de $F$. La bilinéarité et la symétrie s'héritent immédiatement, la positivité aussi, et si $x\in F$ vérifie $⟨x,x⟩=0$, alors $x=0_E$, qui appartient bien à $F$ et en est le vecteur nul. $\square$

Les quatre exemples fondamentaux

Ces quatre exemples reviendront dans chaque exercice du chapitre. Il faut savoir les énoncer sans hésiter et refaire la vérification des axiomes.

Reconnaître un produit scalaire

Norme associée

Norme et distance

La définition a un sens grâce à la positivité du produit scalaire, et elle donne immédiatement l'identité fondamentale $⟨x,x⟩=\Vert x{\Vert }^2$, qu'on utilisera dans les deux sens sans le signaler.

Démonstration. Point 1. La positivité de la racine carrée donne $\Vert x\Vert ⩾0$. De plus $\Vert x\Vert =0$ équivaut à $⟨x,x⟩=0$, c'est-à-dire à $x=0_E$ par le caractère défini.

Point 2. Par bilinéarité, $⟨\lambda x,\lambda x⟩={\lambda }^2⟨x,x⟩$, donc

$$\Vert \lambda x\Vert =\sqrt{{\lambda }^2\Vert x{\Vert }^2}=\sqrt{{\lambda }^2}\Vert x\Vert =|\lambda |\Vert x\Vert ,$$

en n'oubliant pas que $\sqrt{{\lambda }^2}=|\lambda |$ et non $\lambda$.

Point 3. Cette inégalité repose sur l'inégalité de Cauchy-Schwarz : elle sera démontrée à la section suivante, où elle porte le nom d'inégalité de Minkowski. $\square$

Démonstration. La première équivalence est la séparation appliquée à $x-y$. La symétrie vient de $\Vert y-x\Vert =\Vert -(x-y)\Vert =|-1|\Vert x-y\Vert =\Vert x-y\Vert$. Enfin, en écrivant $x-z=(x-y)+(y-z)$ et en appliquant l'inégalité triangulaire pour la norme,

$$d(x,z)=\Vert (x-y)+(y-z)\Vert ⩽\Vert x-y\Vert +\Vert y-z\Vert =d(x,y)+d(y,z).\square$$

Démonstration. Comme $x\ne 0_E$, on a $\Vert x\Vert \ne 0$ et l'écriture a un sens. L'homogénéité donne alors

$$\Vert \frac{x}{\Vert x\Vert }\Vert =\frac{1}{\Vert x\Vert }\Vert x\Vert =1.\square$$

Identités remarquables

Démonstration. Pour la première identité, la bilinéarité permet de développer comme un produit remarquable :

$$⟨x+y,x+y⟩=⟨x,x⟩+⟨x,y⟩+⟨y,x⟩+⟨y,y⟩=\Vert x{\Vert }^2+2⟨x,y⟩+\Vert y{\Vert }^2,$$

les deux termes croisés étant égaux par symétrie. La seconde s'obtient en remplaçant $y$ par $-y$, ce qui change $⟨x,y⟩$ en $-⟨x,y⟩$ et laisse $\Vert -y{\Vert }^2=\Vert y{\Vert }^2$ inchangé.

Pour le cas général, la bilinéarité donne

$$⟨\sum _{i=1}^p{\lambda }_i{x}_i,\sum _{j=1}^p{\lambda }_j{x}_j⟩=\sum _{i=1}^p\sum _{j=1}^p{\lambda }_i{\lambda }_j⟨x_i,x_j⟩.$$

Dans cette double somme, on isole les termes diagonaux $i=j$, qui valent ${\lambda }_i^2\Vert x_i{\Vert }^2$, puis on regroupe deux par deux les termes $(i,j)$ et $(j,i)$ avec $i<j$ : par symétrie ils sont égaux, ce qui produit le facteur $2$. $\square$

Polarisation et parallélogramme

Les identités précédentes se lisent aussi dans l'autre sens : elles permettent de reconstituer le produit scalaire à partir de la seule norme.

Démonstration. Les deux premières formules s'obtiennent en isolant $⟨x,y⟩$ dans les deux identités remarquables. Pour la troisième, on soustrait la seconde identité de la première :

$$\Vert x+y{\Vert }^2-\Vert x-y{\Vert }^2=\left(\Vert x{\Vert }^2+2⟨x,y⟩+\Vert y{\Vert }^2\right)-\left(\Vert x{\Vert }^2-2⟨x,y⟩+\Vert y{\Vert }^2\right)=4⟨x,y⟩.\square$$

Démonstration. Il suffit d'additionner les deux identités remarquables : les termes $\pm 2⟨x,y⟩$ se compensent, et il reste $2\Vert x{\Vert }^2+2\Vert y{\Vert }^2$. $\square$

Inégalité de Cauchy-Schwarz

L'inégalité et son cas d'égalité

C'est le théorème central du chapitre, et l'un des plus utilisés de tout le programme.

Démonstration. Cas $y=0_E$. Alors $⟨x,y⟩=0$ et $\Vert y\Vert =0$ : l'inégalité s'écrit $0⩽0$, elle est vraie, avec égalité. Et la famille $(x,0_E)$ est liée, puisqu'elle contient le vecteur nul. Les deux membres de l'équivalence sont donc vrais simultanément.

Cas $y\ne 0_E$. Considérons la fonction $P:\mathbb{R}\to \mathbb{R}$ définie par

$$P(t)=\Vert x+ty{\Vert }^2.$$

Par positivité de la norme, $P(t)⩾0$ pour tout réel $t$. En développant par bilinéarité,

$$P(t)=\Vert y{\Vert }^2{t}^2+2⟨x,y⟩t+\Vert x{\Vert }^2.$$

Comme $y\ne 0_E$, on a $\Vert y{\Vert }^2>0$ : $P$ est un trinôme du second degré de coefficient dominant strictement positif, qui ne prend que des valeurs positives ou nulles. Un tel trinôme a un discriminant négatif ou nul :

$$\Delta =4⟨x,y{⟩}^2-4\Vert y{\Vert }^2\Vert x{\Vert }^2⩽0,$$

c'est-à-dire $⟨x,y{⟩}^2⩽\Vert x{\Vert }^2\Vert y{\Vert }^2$. Les deux membres étant positifs, on prend la racine carrée, croissante sur ${\mathbb{R}}^{+}$, et il vient $|⟨x,y⟩|⩽\Vert x\Vert \Vert y\Vert$.

Cas d'égalité, sens direct. Supposons $|⟨x,y⟩|=\Vert x\Vert \Vert y\Vert$ avec $y\ne 0_E$. Alors $\Delta =0$, donc le trinôme $P$ admet une racine double $t_0=-\frac{⟨x,y⟩}{\Vert y{\Vert }^2}$. En ce point, $P(t_0)=\Vert x+t_{0}y{\Vert }^2=0$, donc $x+t_{0}y=0_E$ par séparation de la norme, c'est-à-dire $x=-t_{0}y$ : la famille $(x,y)$ est liée.

Cas d'égalité, réciproque. Supposons $(x,y)$ liée avec $y\ne 0_E$. Alors $x=\lambda y$ pour un réel $\lambda$, et

$$|⟨x,y⟩|=|\lambda ||⟨y,y⟩|=|\lambda |\Vert y{\Vert }^2=\left(|\lambda |\Vert y\Vert \right)\Vert y\Vert =\Vert \lambda y\Vert \Vert y\Vert =\Vert x\Vert \Vert y\Vert .\square$$

Inégalité triangulaire

Démonstration. Développons le carré du membre de gauche et majorons le terme croisé par Cauchy-Schwarz :

$$\Vert x+y{\Vert }^2=\Vert x{\Vert }^2+2⟨x,y⟩+\Vert y{\Vert }^2⩽\Vert x{\Vert }^2+2\Vert x\Vert \Vert y\Vert +\Vert y{\Vert }^2={\left(\Vert x\Vert +\Vert y\Vert \right)}^2,$$

en utilisant $⟨x,y⟩⩽|⟨x,y⟩|⩽\Vert x\Vert \Vert y\Vert$. Les deux membres extrêmes étant positifs, la croissance de la racine carrée donne l'inégalité annoncée.

Cas d'égalité. La chaîne de calcul montre que l'égalité $\Vert x+y\Vert =\Vert x\Vert +\Vert y\Vert$ équivaut à

$$⟨x,y⟩=\Vert x\Vert \Vert y\Vert ,$$

c'est-à-dire à la conjonction de deux conditions : $|⟨x,y⟩|=\Vert x\Vert \Vert y\Vert$ (cas d'égalité de Cauchy-Schwarz) et $⟨x,y⟩⩾0$.

Supposons cette égalité réalisée. Si $y=0_E$, alors $y=0\times x$ et la conclusion est acquise. Sinon, le cas d'égalité de Cauchy-Schwarz fournit $\lambda \in \mathbb{R}$ tel que $x=\lambda y$, et alors $⟨x,y⟩=\lambda \Vert y{\Vert }^2⩾0$ impose $\lambda ⩾0$ : les deux vecteurs sont positivement colinéaires.

Réciproquement, si $x=\lambda y$ avec $\lambda ⩾0$, alors $⟨x,y⟩=\lambda \Vert y{\Vert }^2=\Vert x\Vert \Vert y\Vert$ puisque $\Vert x\Vert =\lambda \Vert y\Vert$ ; l'égalité a bien lieu. Le cas où $y$ est un multiple positif de $x$ se traite de même. $\square$

Démonstration. En écrivant $x=(x-y)+y$ et en appliquant l'inégalité triangulaire,

$$\Vert x\Vert ⩽\Vert x-y\Vert +\Vert y\Vert ,\text{d’ouˋ}\Vert x\Vert -\Vert y\Vert ⩽\Vert x-y\Vert .$$

En échangeant les rôles de $x$ et $y$, on obtient de même $\Vert y\Vert -\Vert x\Vert ⩽\Vert y-x\Vert =\Vert x-y\Vert$. Un réel dont l'opposé et lui-même sont majorés par $A$ vérifie $|\cdot |⩽A$ : c'est la conclusion. $\square$

Les trois formes concrètes

Appliquée aux trois produits scalaires usuels, l'inégalité de Cauchy-Schwarz prend trois visages qu'il faut savoir écrire de mémoire.

Démonstration. Chacune des trois est l'inégalité de Cauchy-Schwarz appliquée au produit scalaire correspondant : le produit scalaire canonique de ${\mathbb{R}}^n$, le produit scalaire intégral sur $\mathcal{C}([a,b],\mathbb{R})$, et le produit scalaire canonique de ${\mathcal{M}}_n(\mathbb{R})$. Dans chaque cas, on a élevé l'inégalité $|⟨x,y⟩|⩽\Vert x\Vert \Vert y\Vert$ au carré, ce qui est licite puisque les deux membres sont positifs, et le cas d'égalité « famille liée » se traduit par « proportionnelles ». $\square$

Choisir les bons vecteurs

Orthogonalité

Vecteurs orthogonaux et théorème de Pythagore

Démonstration. L'identité remarquable donne $\Vert x+y{\Vert }^2=\Vert x{\Vert }^2+2⟨x,y⟩+\Vert y{\Vert }^2$. L'égalité annoncée équivaut donc à $2⟨x,y⟩=0$, c'est-à-dire à $⟨x,y⟩=0$. $\square$

Démonstration. Reprenons le développement général établi à la section 2, avec tous les ${\lambda }_i$ égaux à $1$ :

$${\Vert \sum _{i=1}^p{x}_i\Vert }^2=\sum _{i=1}^p\Vert x_i{\Vert }^2+2\sum _{1⩽i<j⩽p}⟨x_i,x_j⟩.$$

La famille étant orthogonale, chaque terme de la seconde somme est nul, et il ne reste que la première. $\square$

Familles orthogonales et liberté

Démonstration. Soit $(x_1,\dots ,x_p)$ une famille orthogonale dont tous les vecteurs sont non nuls, et soient ${\lambda }_1,\dots ,{\lambda }_p$ des réels tels que

$$\sum _{i=1}^p{\lambda }_i{x}_i=0_E.$$

Fixons $j\in \{1,\dots ,p\}$ et prenons le produit scalaire des deux membres avec $x_j$. Par bilinéarité,

$$0=⟨\sum _{i=1}^p{\lambda }_i{x}_i,x_j⟩=\sum _{i=1}^p{\lambda }_i⟨x_i,x_j⟩={\lambda }_j\Vert x_j{\Vert }^2,$$

tous les termes d'indice $i\ne j$ étant nuls par orthogonalité. Comme $x_j\ne 0_E$, on a $\Vert x_j{\Vert }^2\ne 0$, d'où ${\lambda }_j=0$. Ceci valant pour tout $j$, la famille est libre.

Une famille orthonormale est orthogonale et formée de vecteurs de norme $1$, donc non nuls : elle est libre. $\square$

L'orthogonal d'une partie

Démonstration. Pour $a\in E$, notons ${\phi }_a:E\to \mathbb{R}$ l'application $x\mapsto ⟨x,a⟩$ : c'est une forme linéaire sur $E$, par linéarité du produit scalaire en sa première variable. Or

$$A^{\perp }=\bigcap _{a\in A}\mathrm{Ker}{\phi }_a,$$

puisque dire que $x$ est orthogonal à tous les $a\in A$, c'est dire que $x$ appartient au noyau de chaque ${\phi }_a$. Le noyau d'une forme linéaire est un sous-espace vectoriel de $E$, et une intersection quelconque de sous-espaces vectoriels est un sous-espace vectoriel : $A^{\perp }$ en est un.

On peut aussi le vérifier directement : $0_E\in A^{\perp }$ car $⟨0_E,a⟩=0$ pour tout $a$ ; et si $x,x^{\prime }\in A^{\perp }$ et $\lambda ,\mu \in \mathbb{R}$, alors pour tout $a\in A$,

$$⟨\lambda x+\mu x^{\prime },a⟩=\lambda ⟨x,a⟩+\mu ⟨x^{\prime },a⟩=0,$$

donc $\lambda x+\mu x^{\prime }\in A^{\perp }$. $\square$

Démonstration. Point 1. Tout vecteur est orthogonal à $0_E$, donc $\{0_E{\}}^{\perp }=E$. Réciproquement, si $x\in E^{\perp }$, alors $x$ est orthogonal à tous les vecteurs de $E$, en particulier à lui-même : $⟨x,x⟩=0$, donc $x=0_E$.

Point 2. Soit $x\in B^{\perp }$. Alors $x$ est orthogonal à tout élément de $B$, donc en particulier à tout élément de $A$, qui est inclus dans $B$ : $x\in A^{\perp }$.

Point 3. Soit $a\in A$. Pour tout $x\in A^{\perp }$, on a $⟨x,a⟩=0$, donc $⟨a,x⟩=0$ par symétrie. Ceci valant pour tout $x\in A^{\perp }$, le vecteur $a$ appartient à ${\left(A^{\perp }\right)}^{\perp }$.

Point 4. L'inclusion $\mathrm{Vect}(A{)}^{\perp }\subset A^{\perp }$ résulte du point 2 appliqué à $A\subset \mathrm{Vect}(A)$. Réciproquement, soit $x\in A^{\perp }$ et soit $v\in \mathrm{Vect}(A)$ : il existe des vecteurs $a_1,\dots ,a_p$ de $A$ et des réels ${\lambda }_1,\dots ,{\lambda }_p$ tels que $v={\sum }_{i=1}^p{\lambda }_i{a}_i$. Alors

$$⟨x,v⟩=\sum _{i=1}^p{\lambda }_i⟨x,a_i⟩=0,$$

donc $x\in \mathrm{Vect}(A{)}^{\perp }$.

Point 5. Soit $x\in F\cap F^{\perp }$. Comme $x\in F^{\perp }$, il est orthogonal à tout vecteur de $F$, en particulier à lui-même puisque $x\in F$. Donc $⟨x,x⟩=0$ et $x=0_E$. Une somme de deux sous-espaces d'intersection réduite au vecteur nul est directe. $\square$

Sous-espaces orthogonaux

Démonstration. Point 1. Dire que tout $x\in F$ est orthogonal à tout $y\in G$, c'est dire que tout $x\in F$ appartient à $G^{\perp }$, c'est-à-dire $F\subset G^{\perp }$. La symétrie du produit scalaire donne l'autre équivalence.

Point 2. Le sens direct est clair, les $u_i$ et $v_j$ appartenant respectivement à $F$ et $G$. Réciproquement, supposons $⟨u_i,v_j⟩=0$ pour tous $i,j$. Chaque $v_j$ est alors orthogonal à tous les générateurs de $F$, donc $v_j\in F^{\perp }$ d'après le point 4 de la propriété précédente. Ainsi $G=\mathrm{Vect}(v_1,\dots ,v_q)\subset F^{\perp }$, ce dernier étant un sous-espace vectoriel ; le point 1 conclut.

Point 3. Soit $x\in F\cap G$. Alors $x\in F$ et $x\in G$, donc $⟨x,x⟩=0$ par orthogonalité des deux sous-espaces, d'où $x=0_E$. $\square$

Démonstration. Soient $x_1\in F_1,\dots ,x_p\in F_p$ tels que $x_1+\cdots +x_p=0_E$ ; il s'agit de montrer que tous les $x_i$ sont nuls. Fixons $j$ et prenons le produit scalaire avec $x_j$ :

$$0=⟨\sum _{i=1}^p{x}_i,x_j⟩=\sum _{i=1}^p⟨x_i,x_j⟩=\Vert x_j{\Vert }^2,$$

car pour $i\ne j$ on a $x_i\in F_i$, $x_j\in F_j$ et $F_i\perp F_j$, donc $⟨x_i,x_j⟩=0$. Il vient $x_j=0_E$, et ceci pour tout $j$. La somme est donc directe. $\square$

Bases orthonormées

Coordonnées dans une base orthonormée

Démonstration. Point 1. La famille $(e_1,\dots ,e_n)$ est une base, donc il existe des réels $x_1,\dots ,x_n$, uniques, tels que $x={\sum }_{i=1}^n{x}_i{e}_i$. Prenons le produit scalaire avec $e_j$ :

$$⟨x,e_j⟩=\sum _{i=1}^n{x}_i⟨e_i,e_j⟩=x_j,$$

tous les termes d'indice $i\ne j$ étant nuls et $⟨e_j,e_j⟩$ valant $1$. La $j$-ième coordonnée de $x$ est donc $⟨x,e_j⟩$.

Point 2. Notons $x_i=⟨x,e_i⟩$ et $y_j=⟨y,e_j⟩$. En développant par bilinéarité,

$$⟨x,y⟩=⟨\sum _{i=1}^n{x}_i{e}_i,\sum _{j=1}^n{y}_j{e}_j⟩=\sum _{i=1}^n\sum _{j=1}^n{x}_i{y}_j⟨e_i,e_j⟩=\sum _{i=1}^n{x}_i{y}_i,$$

seuls les termes $i=j$ survivant.

Point 3. C'est le point 2 avec $y=x$. $\square$

Le procédé de Gram-Schmidt

Démonstration. Raisonnons par récurrence sur $k$, en montrant à chaque étape l'existence et l'unicité de $e_k$ une fois $e_1,\dots ,e_{k-1}$ fixés.

Initialisation. La famille étant libre, $u_1\ne 0_E$. Posons $e_1=\frac{u_1}{\Vert u_1\Vert }$ : c'est un vecteur unitaire, $\mathrm{Vect}(e_1)=\mathrm{Vect}(u_1)$ puisque $e_1$ est un multiple non nul de $u_1$, et

$$⟨u_1,e_1⟩=\frac{⟨u_1,u_1⟩}{\Vert u_1\Vert }=\Vert u_1\Vert >0.$$

Pour l'unicité, soit $f$ un vecteur unitaire tel que $\mathrm{Vect}(f)=\mathrm{Vect}(u_1)$ et $⟨u_1,f⟩>0$. La première condition donne $f=\lambda u_1$ pour un réel $\lambda \ne 0$ ; la condition $\Vert f\Vert =1$ impose $|\lambda |=\frac{1}{\Vert u_1\Vert }$ ; enfin $⟨u_1,f⟩=\lambda \Vert u_1{\Vert }^2>0$ impose $\lambda >0$. Donc $\lambda =\frac{1}{\Vert u_1\Vert }$ et $f=e_1$.

Hérédité. Soit $k\in \{1,\dots ,p-1\}$, et supposons construite une famille orthonormale $(e_1,\dots ,e_k)$ vérifiant les deux conditions jusqu'au rang $k$. Posons

$$v_{k+1}=u_{k+1}-\sum _{i=1}^k⟨u_{k+1},e_i⟩e_i.$$

Le vecteur $v_{k+1}$ est orthogonal à $e_1,\dots ,e_k$. En effet, pour $j\in \{1,\dots ,k\}$,

$$⟨v_{k+1},e_j⟩=⟨u_{k+1},e_j⟩-\sum _{i=1}^k⟨u_{k+1},e_i⟩⟨e_i,e_j⟩=⟨u_{k+1},e_j⟩-⟨u_{k+1},e_j⟩=0,$$

puisque $⟨e_i,e_j⟩$ vaut $1$ si $i=j$ et $0$ sinon.

Le vecteur $v_{k+1}$ est non nul. Si l'on avait $v_{k+1}=0_E$, alors $u_{k+1}$ appartiendrait à $\mathrm{Vect}(e_1,\dots ,e_k)=\mathrm{Vect}(u_1,\dots ,u_k)$, ce qui contredirait la liberté de la famille $(u_1,\dots ,u_{k+1})$.

Construction de $e_{k+1}$. Posons $e_{k+1}=\frac{v_{k+1}}{\Vert v_{k+1}\Vert }$. La famille $(e_1,\dots ,e_{k+1})$ est orthonormale d'après les deux points précédents. Elle vérifie la condition 2 au rang $k+1$ :

$$⟨u_{k+1},e_{k+1}⟩=⟨v_{k+1}+\sum _{i=1}^k⟨u_{k+1},e_i⟩e_i,e_{k+1}⟩=⟨v_{k+1},e_{k+1}⟩=\frac{\Vert v_{k+1}{\Vert }^2}{\Vert v_{k+1}\Vert }=\Vert v_{k+1}\Vert >0,$$

car $e_{k+1}$ est orthogonal à $e_1,\dots ,e_k$. Enfin, la condition 1 : par construction, $e_{k+1}$ est combinaison linéaire de $u_{k+1}$ et de $e_1,\dots ,e_k$, donc de $u_1,\dots ,u_{k+1}$, d'où l'inclusion $\mathrm{Vect}(e_1,\dots ,e_{k+1})\subset \mathrm{Vect}(u_1,\dots ,u_{k+1})$ ; les deux sous-espaces ont pour dimension $k+1$, la famille de gauche étant orthonormale donc libre et celle de droite libre par hypothèse. Une inclusion entre sous-espaces de même dimension finie est une égalité.

Unicité. Soit $f$ un vecteur unitaire tel que $(e_1,\dots ,e_k,f)$ soit orthonormale, que $\mathrm{Vect}(e_1,\dots ,e_k,f)=\mathrm{Vect}(u_1,\dots ,u_{k+1})$ et que $⟨u_{k+1},f⟩>0$. Comme $(e_1,\dots ,e_{k+1})$ est une base orthonormée de $\mathrm{Vect}(u_1,\dots ,u_{k+1})$ et que $f$ appartient à ce sous-espace, on peut écrire $f={\sum }_{i=1}^{k+1}{c}_i{e}_i$ avec $c_i=⟨f,e_i⟩$. Or $f$ est orthogonal à $e_1,\dots ,e_k$, donc $c_1=\cdots =c_k=0$ et $f=c_{k+1}{e}_{k+1}$. La condition $\Vert f\Vert =1$ donne $c_{k+1}=\pm 1$, et

$$⟨u_{k+1},f⟩=c_{k+1}⟨u_{k+1},e_{k+1}⟩=c_{k+1}\Vert v_{k+1}\Vert >0$$

impose $c_{k+1}=1$, c'est-à-dire $f=e_{k+1}$. La récurrence est achevée. $\square$

L'algorithme en pratique

Existence de bases orthonormées

Démonstration. L'espace $E$ étant de dimension finie $n⩾1$, il admet une base $(u_1,\dots ,u_n)$, qui est en particulier une famille libre. Le procédé de Gram-Schmidt lui associe une famille orthonormale $(e_1,\dots ,e_n)$ vérifiant $\mathrm{Vect}(e_1,\dots ,e_n)=\mathrm{Vect}(u_1,\dots ,u_n)=E$. Cette famille est génératrice et libre, c'est donc une base orthonormée de $E$. $\square$

Démonstration. La famille $(e_1,\dots ,e_p)$ est orthonormale, donc libre. Le théorème de la base incomplète, vu en algèbre linéaire, permet de la compléter en une base $(e_1,\dots ,e_p,u_{p+1},\dots ,u_n)$ de $E$.

Appliquons le procédé de Gram-Schmidt à cette base, et notons $(f_1,\dots ,f_n)$ la famille orthonormale obtenue. Je dis que $f_i=e_i$ pour $i⩽p$. En effet, la famille $(e_1,\dots ,e_p)$ est orthonormale, elle vérifie $\mathrm{Vect}(e_1,\dots ,e_k)=\mathrm{Vect}(e_1,\dots ,e_k)$ pour tout $k⩽p$ ainsi que $⟨e_k,e_k⟩=1>0$ : elle satisfait donc les deux conditions du théorème de Gram-Schmidt appliqué aux $p$ premiers vecteurs. Par unicité, elle coïncide avec $(f_1,\dots ,f_p)$.

La famille $(e_1,\dots ,e_p,f_{p+1},\dots ,f_n)$ est ainsi une base orthonormée de $E$ complétant la famille de départ. $\square$

Projection orthogonale

Le supplémentaire orthogonal

Voici le théorème qui met en marche toute la section : il donne un supplémentaire canonique, et une seule hypothèse est requise.

Démonstration. Nous savons déjà que la somme est directe, puisque $F\cap F^{\perp }=\{0_E\}$. Il reste à montrer que $F+F^{\perp }=E$.

Cas $F=\{0_E\}$. Alors $F^{\perp }=\{0_E{\}}^{\perp }=E$ et l'égalité est claire.

Cas général. Notons $p=\dim F⩾1$. Le sous-espace $F$, muni de la restriction du produit scalaire, est un espace euclidien : il possède donc une base orthonormée $(e_1,\dots ,e_p)$.

Soit $x\in E$. Posons

$$y=\sum _{i=1}^p⟨x,e_i⟩e_i\text{et}z=x-y.$$

Par construction, $y\in F$ comme combinaison linéaire des $e_i$, et $x=y+z$. Montrons que $z\in F^{\perp }$. Pour $j\in \{1,\dots ,p\}$,

$$⟨z,e_j⟩=⟨x,e_j⟩-\sum _{i=1}^p⟨x,e_i⟩⟨e_i,e_j⟩=⟨x,e_j⟩-⟨x,e_j⟩=0.$$

Le vecteur $z$ est donc orthogonal à tous les vecteurs de la famille $(e_1,\dots ,e_p)$, qui engendre $F$ : d'après la caractérisation par une famille génératrice, $z\in F^{\perp }$.

Tout $x\in E$ s'écrit donc comme somme d'un élément de $F$ et d'un élément de $F^{\perp }$, ce qui achève la démonstration. $\square$

Démonstration. Le sous-espace $F$ est de dimension finie, donc $E=F\oplus F^{\perp }$ et la formule des dimensions d'une somme directe donne $n=\dim F+\dim F^{\perp }$, d'où la première égalité.

Pour la seconde, nous savons que $F\subset {\left(F^{\perp }\right)}^{\perp }$. Appliquons la formule des dimensions à $F^{\perp }$, qui est lui aussi de dimension finie :

$$\dim {\left(F^{\perp }\right)}^{\perp }=n-\dim F^{\perp }=n-\left(n-\dim F\right)=\dim F.$$

Une inclusion entre deux sous-espaces de même dimension finie est une égalité : ${\left(F^{\perp }\right)}^{\perp }=F$. $\square$

Le projeté orthogonal

Démonstration. Point 1. C'est la définition d'une projection associée à une somme directe : $x$ s'écrit de manière unique $x=y+z$ avec $y\in F$ et $z\in F^{\perp }$, et $p_F(x)=y$.

Point 2. La démonstration du théorème du supplémentaire orthogonal a construit exactement cette décomposition : $y={\sum }_{i=1}^p⟨x,e_i⟩e_i$ appartient à $F$ et $z=x-y$ appartient à $F^{\perp }$. Par unicité de la décomposition, $p_F(x)=y$. En particulier, la valeur obtenue ne dépend pas de la base orthonormée choisie.

Point 3. Un vecteur est orthogonal à $F$ si et seulement s'il est orthogonal à une famille génératrice de $F$, d'après l'égalité $\mathrm{Vect}(A{)}^{\perp }=A^{\perp }$. Le point 3 est donc une reformulation du point 1. $\square$

Démonstration. Points 1 à 4. Ce sont les propriétés générales d'une projection associée à une décomposition en somme directe $E=F\oplus F^{\perp }$, établies dans le chapitre d'algèbre linéaire : la projection sur $F$ parallèlement à $G$ est linéaire, idempotente, d'image $F$ et de noyau $G$, et elle laisse fixes exactement les vecteurs de $F$.

Point 5. Pour $x\in E$, écrivons $x=y+z$ avec $y\in F$ et $z\in F^{\perp }$. Alors $p_F(x)=y$. Comme ${\left(F^{\perp }\right)}^{\perp }=F$ en dimension finie, la décomposition $x=z+y$ est la décomposition de $x$ suivant $E=F^{\perp }\oplus {\left(F^{\perp }\right)}^{\perp }=F^{\perp }\oplus F$, donc $p_{F^{\perp }}(x)=z$. Il vient $p_F(x)+p_{F^{\perp }}(x)=y+z=x$.

Point 6. Avec les mêmes notations, $y\in F$ et $z\in F^{\perp }$ sont orthogonaux, donc le théorème de Pythagore donne

$$\Vert x{\Vert }^2=\Vert y{\Vert }^2+\Vert z{\Vert }^2⩾\Vert y{\Vert }^2=\Vert p_F(x){\Vert }^2,$$

et l'on conclut par croissance de la racine carrée. $\square$

Distance à un sous-espace et meilleure approximation

Démonstration. Notons $q=p_F(x)$ et soit $y\in F$ quelconque. Décomposons

$$x-y=\underset{\in F^{\perp }}{\underbrace{\left(x-q\right)}}+\underset{\in F}{\underbrace{\left(q-y\right)}},$$

la première appartenance venant de la caractérisation du projeté orthogonal, la seconde du fait que $q$ et $y$ sont tous deux dans le sous-espace $F$. Ces deux vecteurs sont donc orthogonaux, et le théorème de Pythagore donne

$$\Vert x-y{\Vert }^2=\Vert x-q{\Vert }^2+\Vert q-y{\Vert }^2⩾\Vert x-q{\Vert }^2.$$

En passant à la racine carrée, $\Vert x-q\Vert ⩽\Vert x-y\Vert$ pour tout $y\in F$ : le minimum est atteint en $q$, et la borne inférieure vaut $\Vert x-q\Vert$.

Unicité. L'inégalité ci-dessus est une égalité si et seulement si $\Vert q-y{\Vert }^2=0$, c'est-à-dire si et seulement si $y=q$ par séparation de la norme. $\square$

Démonstration. Posons $F=\mathrm{Vect}(e_1,\dots ,e_p)$, dont $(e_1,\dots ,e_p)$ est une base orthonormée puisque cette famille est libre et génératrice de $F$. Le projeté orthogonal de $x$ sur $F$ vaut $p_F(x)={\sum }_{i=1}^p⟨x,e_i⟩e_i$, et sa norme se calcule par la formule de la norme dans une base orthonormée :

$$\Vert p_F(x){\Vert }^2=\sum _{i=1}^p⟨x,e_i{⟩}^2.$$

Le théorème de Pythagore appliqué à $x=p_F(x)+\left(x-p_F(x)\right)$, somme de deux vecteurs orthogonaux, donne

$$\Vert x{\Vert }^2=\Vert p_F(x){\Vert }^2+\Vert x-p_F(x){\Vert }^2⩾\Vert p_F(x){\Vert }^2=\sum _{i=1}^p⟨x,e_i{⟩}^2,$$

ce qui est l'inégalité annoncée. Il y a égalité si et seulement si $\Vert x-p_F(x)\Vert =0$, c'est-à-dire $x=p_F(x)$, c'est-à-dire $x\in F$. $\square$

Démonstration. La première formule est la relation de Pythagore ci-dessus, réécrite sous la forme $\Vert x-p_F(x){\Vert }^2=\Vert x{\Vert }^2-\Vert p_F(x){\Vert }^2$.

Pour la seconde, notons $q=p_F(x)$ et observons que $⟨x-q,q⟩=0$, puisque $x-q\in F^{\perp }$ et $q\in F$. Alors

$$d(x,F{)}^2=⟨x-q,x-q⟩=⟨x-q,x⟩-\underset{=0}{\underbrace{⟨x-q,q⟩}}=\Vert x{\Vert }^2-⟨q,x⟩.\square$$

Calculer une distance à un sous-espace

Hyperplans d'un espace euclidien

Vecteur normal à un hyperplan

Rappelons qu'un hyperplan d'un espace vectoriel $E$ de dimension $n$ est un sous-espace de dimension $n-1$, ou de façon équivalente le noyau d'une forme linéaire non nulle. Dans un espace euclidien, ces objets admettent une description particulièrement simple.

Démonstration. Point 1. L'application ${\phi }_a:x\mapsto ⟨x,a⟩$ est une forme linéaire sur $E$, et elle est non nulle puisque ${\phi }_a(a)=\Vert a{\Vert }^2\ne 0$. Son noyau est donc un hyperplan, et ce noyau est exactement $\{a{\}}^{\perp }$.

Point 2. Soit $H$ un hyperplan, de dimension $n-1$. La formule des dimensions donne $\dim H^{\perp }=n-(n-1)=1$ : c'est une droite vectorielle. Soit $a$ un vecteur non nul de $H^{\perp }$, de sorte que $H^{\perp }=\mathrm{Vect}(a)$. Alors, en utilisant successivement ${\left(H^{\perp }\right)}^{\perp }=H$ et $\mathrm{Vect}(A{)}^{\perp }=A^{\perp }$,

$$H={\left(H^{\perp }\right)}^{\perp }=\mathrm{Vect}(a{)}^{\perp }=\{a{\}}^{\perp }.\square$$

Distance à un hyperplan

Démonstration. Le sous-espace $H^{\perp }$ est la droite $\mathrm{Vect}(a)$, dont $\left(\frac{a}{\Vert a\Vert }\right)$ est une base orthonormée. La formule du projeté orthogonal dans une base orthonormée donne donc

$$p_{H^{\perp }}(x)=⟨x,\frac{a}{\Vert a\Vert }⟩\frac{a}{\Vert a\Vert }=\frac{⟨a,x⟩}{\Vert a{\Vert }^2}a.$$

Comme $p_H+p_{H^{\perp }}={\mathrm{id}}_E$, on obtient l'expression annoncée de $p_H(x)$, puis

$$d(x,H)=\Vert x-p_H(x)\Vert =\Vert p_{H^{\perp }}(x)\Vert =\frac{|⟨a,x⟩|}{\Vert a{\Vert }^2}\Vert a\Vert =\frac{|⟨a,x⟩|}{\Vert a\Vert }.\square$$

Démonstration. C'est la formule précédente appliquée au vecteur normal $a=(a_1,\dots ,a_n)$, dont la norme vaut $\sqrt{{\sum }_i{a}_i^2}$ et pour lequel $⟨a,x⟩={\sum }_i{a}_i{x}_i$. $\square$

Méthodes du chapitre

Le tableau des réflexes

Les erreurs classiques

1. Oublier le caractère défini. Une forme bilinéaire symétrique positive n'est pas un produit scalaire. C'est l'axiome 4 qui distingue $⟨x,y⟩=x_1{y}_1$ d'un vrai produit scalaire sur ${\mathbb{R}}^2$, et c'est lui qui interdit la formule ${\sum }_{i=0}^{n}P(a_i)Q(a_i)$ sur $\mathbb{R}[X]$ tout entier.
2. Traiter le produit scalaire comme un produit de nombres. L'égalité $⟨x,y⟩=0$ n'entraîne ni $x=0$ ni $y=0$. De même, $⟨x,y⟩=⟨x,z⟩$ n'entraîne pas $y=z$ ; elle entraîne seulement $x\perp (y-z)$.
3. Écrire $\Vert x+y\Vert =\Vert x\Vert +\Vert y\Vert$. C'est faux sauf si $x$ et $y$ sont positivement colinéaires. Pour toute norme de somme, passer au carré et développer.
4. Croire à la réciproque de Pythagore pour trois vecteurs ou plus. L'égalité $\Vert \sum x_i{\Vert }^2=\sum \Vert x_i{\Vert }^2$ n'entraîne l'orthogonalité deux à deux que dans le cas $p=2$.
5. Utiliser la formule $x=\sum ⟨x,u_i⟩u_i$ dans une base non orthonormée. Cette formule, comme celle du projeté orthogonal, exige une base orthonormée. Dans une base quelconque, il faut résoudre un système linéaire.
6. Oublier de normaliser à la fin de Gram-Schmidt. Le procédé produit d'abord une famille orthogonale ; sans division par les normes, toutes les formules ultérieures sont fausses.
7. Appliquer $E=F\oplus F^{\perp }$ sans hypothèse de dimension. Le théorème exige que $F$ soit de dimension finie. En dimension infinie, $F^{\perp }$ peut être réduit à $\{0_E\}$ pour un $F$ strictement inclus dans $E$, et ${\left(F^{\perp }\right)}^{\perp }$ peut être strictement plus grand que $F$.
8. Confondre projeté et distance. Le projeté $p_F(x)$ est un vecteur de $F$ ; la distance $d(x,F)$ est le réel $\Vert x-p_F(x)\Vert$. Une réponse à une question de distance qui est un vecteur est nécessairement fausse.
9. Chercher une base de $F$ quand $F$ est un hyperplan. Passer par $F^{\perp }$, qui est une droite : la formule $d(x,H)=\frac{|⟨a,x⟩|}{\Vert a\Vert }$ économise tout le travail.
10. Ne pas vérifier ses calculs de Gram-Schmidt. Contrôler l'orthogonalité de chaque vecteur construit avec tous les précédents, et vérifier que les normes valent bien $1$ : deux lignes de calcul qui sauvent un exercice entier.