Variables aléatoires discrètes

En PCSI, le calcul des probabilités tenait dans un cadre confortable : l'univers $\Omega$ était fini, une probabilité était entièrement décrite par les nombres $P(\{\omega \})$, et toute somme comportait un nombre fini de termes. On y a appris à modéliser une expérience aléatoire, à dénombrer les issues favorables, à reconnaître la loi uniforme $\mathcal{U}(\{1,\dots ,n\})$, la loi de Bernoulli $\mathcal{B}(p)$ et la loi binomiale $\mathcal{B}(n,p)$, à calculer une espérance et une variance, et à majorer un écart à la moyenne par l'inégalité de Bienaymé-Tchebychev. Tout cela reste utilisable sans réserve : ce chapitre étend la première année, il ne la remplace pas.

Or la plupart des situations intéressantes refusent de tenir dans un univers fini. On lance une pièce jusqu'à obtenir pile : le rang du premier succès peut être arbitrairement grand, donc l'ensemble des valeurs possibles est ${\mathbb{N}}^{\ast }$ tout entier. On compte les désintégrations enregistrées pendant une minute, les photons reçus par un détecteur, les clients qui se présentent à un guichet : aucune borne naturelle ne s'impose, et en fixer une artificiellement fausse le modèle. Le passage à un ensemble de valeurs infini dénombrable est une nécessité de modélisation.

Ce passage change trois choses. D'abord, les sommes deviennent infinies, donc susceptibles de diverger : écrire ${\sum }_{k}kP(X=k)$ n'a plus de sens automatiquement, et une variable parfaitement légitime peut n'avoir aucune espérance. La première section donne un cadre de calcul sûr à ces sommes, avec une règle simple : quand les termes sont positifs, on manipule librement ; sinon, on vérifie d'abord la sommabilité.

Ensuite, un événement de probabilité nulle n'est plus un événement impossible. Dans un univers fini, $P(A)=0$ équivalait à $A=\varnothing$. Avec une infinité d'épreuves, l'événement « on n'obtient jamais pile » correspond à une issue concevable, et pourtant sa probabilité est nulle. Il faut donc distinguer l'impossible du négligeable, et le certain du presque sûr : c'est cette distinction qui rend correcte la formule des probabilités totales appliquée à un système seulement quasi-complet, situation constante.

Enfin, l'univers cesse d'être explicité. En première année, on écrivait $\Omega =\{1,\dots ,6{\}}^2$ et on comptait. Désormais l'espace $(\Omega ,\mathcal{A},P)$ reste dans l'ombre : on postule qu'il existe et qu'il porte les variables dont on a besoin, puis on travaille uniquement avec les probabilités des événements et avec les lois. La construction d'espaces probabilisés étant hors programme, on ne vous demandera jamais de fabriquer $\Omega$.

Le plan suit ces contraintes. La première section installe l'outillage de sommation : ensembles au plus dénombrables, familles positives, familles sommables, sommation par paquets, théorème de Fubini, produit de deux sommes. La deuxième construit le cadre, de la tribu aux systèmes quasi-complets. La troisième traite le conditionnement et l'indépendance des événements, avec les trois formules qui servent partout : probabilités composées, probabilités totales, Bayes. La quatrième définit les variables aléatoires discrètes, leur loi, les lois géométrique et de Poisson, puis les couples et les lois marginales. La suite du chapitre traitera de l'indépendance des variables, de l'espérance, de la variance, des fonctions génératrices et de la loi faible des grands nombres.

Ce qui est admis est délimité une fois pour toutes. Tout l'appareil des familles sommables l'est : résultats de dénombrabilité, existence de la somme d'une famille positive, sommation par paquets, linéarité, théorème de Fubini, formule du produit. Aucune de ces propriétés n'est à démontrer, et la dénombrabilité d'un ensemble n'est jamais à établir. Est également admise l'existence d'un espace probabilisé portant les objets dont on a besoin, en particulier une suite illimitée d'épreuves de Bernoulli indépendantes, autrement dit une suite de variables indépendantes et de même loi. Sera enfin admise la réciproque du critère de dérivabilité en $1$ de la fonction génératrice, l'implication « $G_X$ dérivable en $1$ » donc « $X$ d'espérance finie ». Tout le reste est démontré.

Les notations valent pour tout le chapitre. L'espace probabilisé est $(\Omega ,\mathcal{A},P)$, les événements sont notés $A$, $B$, $A_n$, le contraire de $A$ est $\overline{A}$, et deux événements sont incompatibles lorsque $A\cap B=\varnothing$. La probabilité conditionnelle est notée $P_B(A)$ de préférence, la notation $P(A\mid B)$ étant admise. On écrit $(X=x)$, $(X\in A)$, $(X⩾x)$ pour les événements associés à une variable $X$, $1_A$ pour l'indicatrice de $A$, et $X\sim \mathcal{G}(p)$ pour dire que $X$ suit la loi géométrique de paramètre $p$, avec les mêmes conventions pour $\mathcal{U}(\{1,\dots ,n\})$, $\mathcal{B}(p)$, $\mathcal{B}(n,p)$ et $\mathcal{P}(\lambda )$. Les ensembles d'indices $I$, $J$ sont toujours au plus dénombrables.

Un mot enfin sur le niveau de rigueur, car le programme le fixe : on évite tout excès de rigueur, et on se limite à la vérification des hypothèses cruciales. Une copie justifie la sommabilité quand elle conditionne le calcul, l'indépendance quand elle est utilisée, l'existence d'une espérance quand elle n'est pas acquise, et ne consacre pas trois lignes à rappeler qu'une réunion dénombrable d'événements est un événement. Le cours ci-dessous est entièrement démontré, mais il va droit au but, et vos copies doivent faire de même.

Familles sommables, mode d'emploi

Cette section est un outil, pas un sujet d'étude : le programme précise que ces notions ne feront l'objet d'aucune évaluation spécifique et que leur usage est strictement réservé au contexte probabiliste. Tout y est admis. Il faut en connaître les énoncés, savoir les invoquer, et surtout reconnaître le moment où l'on n'a pas le droit de permuter deux sommes.

Ensembles au plus dénombrables

Somme d'une famille à valeurs positives

Pour des termes positifs, la somme existe toujours, quitte à valoir $+\infty$, et ne dépend pas de l'ordre dans lequel on additionne.

C'est le résultat utile de la section : une famille de nombres positifs se regroupe comme on veut, par lignes, par colonnes, par diagonales, par valeur d'une variable aléatoire, ce qui autorisera sans précaution les manipulations de sommes doubles de probabilités.

Familles sommables de nombres complexes

Les règles de calcul, toutes admises

Retenir la stratégie en deux temps de Fubini : on établit d'abord la sommabilité sur les modules, puis seulement on permute les sommes. Permuter sans avoir traité les modules est la faute classique du chapitre.

Trois calculs types

Le piège de l'interversion

En probabilités ce piège se referme rarement, car les quantités manipulées sont positives donc toujours regroupables. Il réapparaît dès que l'on somme des quantités signées, typiquement ${\sum }_{x}xP(X=x)$ : c'est pour cela que la définition de l'espérance imposera la sommabilité.

Espace probabilisé

Univers et tribu

Démonstration. On a $\varnothing =\overline{\Omega }\in \mathcal{A}$, et pour une suite $(A_n)$ d'événements, De Morgan donne

$$\bigcap _{n\in \mathbb{N}}{A}_n=\overline{\bigcup _{n\in \mathbb{N}}\overline{A_n}},$$

événement comme complémentaire d'une réunion dénombrable de complémentaires. Une réunion finie se ramène au cas dénombrable en posant $A_n=\varnothing$ pour $n$ grand, une intersection finie en posant $A_n=\Omega$, et enfin $A\setminus B=A\cap \overline{B}$. $\square$

Le langage des événements

Justification du point b. Dire qu'une infinité d'indices $k$ vérifient $\omega \in A_k$, c'est dire que l'ensemble de ces indices n'est pas majoré, donc que pour tout $n$ il existe $k⩾n$ tel que $\omega \in A_k$ : le « pour tout $n$ » donne l'intersection extérieure, le « il existe $k⩾n$ » la réunion intérieure. Le point c s'obtient en échangeant les quantificateurs. $\square$

Probabilité

La $\sigma$-additivité vaut aussi pour toute famille $(A_i{)}_{i\in I}$ d'événements deux à deux incompatibles avec $I$ au plus dénombrable : il suffit d'énumérer $I$, le résultat ne dépendant pas de l'énumération puisque les $P(A_i)$ sont positifs. On écrira donc $P\left({\bigcup }_{i\in I}{A}_i\right)={\sum }_{i\in I}P(A_i)$.

Démonstration. La $\sigma$-additivité appliquée à la suite constante $A_n=\varnothing$ donne $P(\varnothing )={\sum }_{n}P(\varnothing )$, série convergente de terme général constant positif, donc $P(\varnothing )=0$ ; l'additivité finie s'en déduit en complétant une famille finie par des $\varnothing$. Comme $\Omega =A\cup \overline{A}$ avec $A\cap \overline{A}=\varnothing$, l'additivité donne $1=P(A)+P(\overline{A})$.

Pour la différence, $B$ est la réunion disjointe de $B\cap A$ et de $B\setminus A$, d'où $P(B)=P(A\cap B)+P(B\setminus A)$ ; si $A\subseteq B$, alors $A\cap B=A$. Dans tous les cas $P(B\setminus A)⩾0$, donc $A\subseteq B$ entraîne $P(A)⩽P(B)$. Enfin $A\cup B$ est la réunion disjointe de $A$ et de $B\setminus A$, donc

$$P(A\cup B)=P(A)+P(B\setminus A)=P(A)+P(B)-P(A\cap B).\square$$

Continuité croissante et continuité décroissante

Ces deux résultats sont le véritable apport de la $\sigma$-additivité : ils calculent la probabilité d'un événement « limite » à partir d'une suite d'approximations.

Démonstration. Posons $B_0=A_0$ et, pour $n⩾1$, $B_n=A_n\setminus A_{n-1}$.

Ils sont deux à deux incompatibles. Soient $m<n$ : alors $B_m\subseteq A_m\subseteq A_{n-1}$ par croissance de la suite, tandis que $B_n$ est disjoint de $A_{n-1}$ par construction, donc $B_m\cap B_n=\varnothing$.

Leurs réunions partielles redonnent les $A_n$. Par récurrence, ${\bigcup }_{k=0}^n{B}_k=A_n$ : c'est vrai au rang $0$, et si c'est vrai au rang $n$ alors ${\bigcup }_{k=0}^{n+1}{B}_k=A_n\cup (A_{n+1}\setminus A_n)=A_{n+1}$, puisque $A_n\subseteq A_{n+1}$. En passant à la réunion totale, ${\bigcup }_{k\in \mathbb{N}}{B}_k={\bigcup }_{n\in \mathbb{N}}{A}_n$.

Conclusion. La $\sigma$-additivité appliquée aux $B_k$ donne

$$P\left(\bigcup _{n\in \mathbb{N}}{A}_n\right)=\sum _{k=0}^{+\infty }P(B_k)=\underset{n\to +\infty }{\lim }\sum _{k=0}^{n}P(B_k)=\underset{n\to +\infty }{\lim }P(A_n),$$

la dernière égalité résultant de l'additivité finie appliquée à $A_n={\bigcup }_{k=0}^n{B}_k$. La croissance de $(P(A_n))$ vient de celle de $P$. $\square$

Démonstration. La suite $\left(\overline{A_n}\right)$ est croissante et ${\bigcup }_n\overline{A_n}=\overline{{\bigcap }_n{A}_n}$ par De Morgan, donc la continuité croissante donne

$$1-P\left(\bigcap _n{A}_n\right)=P\left(\bigcup _n\overline{A_n}\right)=\underset{n\to +\infty }{\lim }P\left(\overline{A_n}\right)=1-\underset{n\to +\infty }{\lim }P(A_n).\square$$

Démonstration. La suite $U_n={\bigcup }_{k=0}^n{A}_k$ est croissante de réunion ${\bigcup }_{k\in \mathbb{N}}{A}_k$, et la suite $V_n={\bigcap }_{k=0}^n{A}_k$ est décroissante d'intersection ${\bigcap }_{k\in \mathbb{N}}{A}_k$ : on applique la continuité croissante à la première, décroissante à la seconde. $\square$

Autrement dit, dès qu'un événement s'écrit comme une réunion ou une intersection infinie, on l'approche par les réunions ou intersections finies correspondantes, dont la probabilité se calcule, puis on passe à la limite. C'est la seule technique disponible pour une probabilité portant sur une infinité d'épreuves.

Sous-additivité

Démonstration. Posons $B_0=A_0$ et, pour $n⩾1$, $B_n=A_n\setminus (A_0\cup \cdots \cup A_{n-1})$. Ces événements sont deux à deux incompatibles : si $m<n$, alors $B_m\subseteq A_m$ tandis que $B_n$ est disjoint de $A_m$. De plus ${\bigcup }_k{B}_k={\bigcup }_k{A}_k$, car tout $\omega$ appartenant à un $A_k$ appartient à $B_{k_0}$, où $k_0$ est le plus petit indice tel que $\omega \in A_{k_0}$. La $\sigma$-additivité, puis la croissance de $P$ jointe à $B_n\subseteq A_n$, donnent

$$P\left(\bigcup _n{A}_n\right)=\sum _{n=0}^{+\infty }P(B_n)⩽\sum _{n=0}^{+\infty }P(A_n).\square$$

Événements négligeables, événements presque sûrs

Démonstration. Soit $(N_n{)}_{n\in \mathbb{N}}$ une suite d'événements négligeables. La sous-additivité donne

$$0⩽P\left(\bigcup _{n\in \mathbb{N}}{N}_n\right)⩽\sum _{n=0}^{+\infty }P(N_n)=0,$$

donc la réunion est négligeable. Si les $A_n$ sont presque sûrs, les $\overline{A_n}$ sont négligeables, donc ${\bigcup }_n\overline{A_n}$ est négligeable et son contraire ${\bigcap }_n{A}_n$ est presque sûr. $\square$

On peut donc écarter simultanément une infinité dénombrable de cas pathologiques sans rien perdre.

Systèmes complets et systèmes quasi-complets

Démonstration. Par $\sigma$-additivité, $P\left({\bigcup }_{i\in I}{A}_i\right)={\sum }_{i\in I}P(A_i)$, et dire que ce nombre vaut $1$ est exactement dire que la réunion est presque sûre. $\square$

Deux systèmes complets sont à avoir en réflexe : la paire $(A,\overline{A})$, et la famille $((X=x){)}_{x\in X(\Omega )}$ associée à une variable aléatoire discrète $X$.

Conditionnement et indépendance d'événements

Probabilité conditionnelle

Démonstration. L'inclusion $A\cap B\subseteq B$ donne $0⩽P(A\cap B)⩽P(B)$, donc $P_B(A)\in [0,1]$, et $P_B(\Omega )=1$. Soit $(A_n)$ une suite d'événements deux à deux incompatibles : les $A_n\cap B$ le sont aussi, et $\left({\bigcup }_n{A}_n\right)\cap B={\bigcup }_n(A_n\cap B)$, donc la $\sigma$-additivité de $P$ donne

$$P_B\left(\bigcup _n{A}_n\right)=\frac{1}{P(B)}\sum _{n=0}^{+\infty }P(A_n\cap B)=\sum _{n=0}^{+\infty }{P}_B(A_n).\square$$

Formule des probabilités composées

Démonstration. Notons $E_k=A_1\cap \cdots \cap A_k$. La suite $(E_k{)}_{1⩽k⩽n-1}$ est décroissante, donc par croissance de $P$ l'hypothèse $P(E_{n-1})>0$ entraîne $P(E_k)>0$ pour tout $k⩽n-1$ : tous les conditionnements écrits ont un sens.

Récurrence sur $n⩾2$. Pour $n=2$, la formule est la définition de $P_{A_1}(A_2)$ multipliée par $P(A_1)$. Si elle est vraie au rang $n$, donnons-nous $A_1,\dots ,A_{n+1}$ avec $P(E_n)>0$ : par définition de la probabilité conditionnelle sachant $E_n$,

$$P(E_{n+1})=P(E_n\cap A_{n+1})=P(E_n)P_{E_n}(A_{n+1}),$$

et l'hypothèse de récurrence, applicable puisque $P(E_{n-1})⩾P(E_n)>0$, développe $P(E_n)$ en le produit annoncé. $\square$

Formule des probabilités totales

Démonstration. Traitons le cas quasi-complet, qui contient l'autre. Posons $R={\bigcup }_{i\in I}{A}_i$ et $N=\overline{R}$, de sorte que $P(N)=0$. Les événements $B\cap A_i$ sont deux à deux incompatibles puisque les $A_i$ le sont, et $B\cap N$ est incompatible avec chacun d'eux. Comme $\Omega =R\cup N$,

$$B=(B\cap N)\cup \bigcup _{i\in I}(B\cap A_i)$$

est une réunion d'événements deux à deux incompatibles, d'où $P(B)=P(B\cap N)+{\sum }_{i\in I}P(B\cap A_i)$ par $\sigma$-additivité. L'inclusion $B\cap N\subseteq N$ et la croissance de $P$ donnent $P(B\cap N)=0$ : c'est la première égalité.

Pour la seconde, $P(B\cap A_i)=P_{A_i}(B)P(A_i)$ lorsque $P(A_i)>0$ par définition de $P_{A_i}$, et $P(B\cap A_i)=0$ lorsque $P(A_i)=0$ par croissance, ce qui est exactement la convention annoncée. $\square$

Formule de Bayes

Démonstration. Les deux quantités $P_B(A)P(B)$ et $P_A(B)P(A)$ sont égales à $P(A\cap B)$, d'où la première formule en divisant par $P(B)>0$. La seconde s'en déduit en remplaçant $P(B)$ par son expression donnée par la formule des probabilités totales. $\square$

Indépendance de deux événements

Démonstration. En divisant l'égalité $P(A\cap B)=P(A)P(B)$ par $P(B)>0$ on obtient $P_B(A)=P(A)$, et réciproquement en multipliant. $\square$

Démonstration. L'événement $A$ est la réunion disjointe de $A\cap B$ et de $A\cap \overline{B}$, donc

$$P(A\cap \overline{B})=P(A)-P(A\cap B)=P(A)-P(A)P(B)=P(A)(1-P(B))=P(A)P\left(\overline{B}\right).$$

Les deux autres cas s'obtiennent en échangeant les rôles de $A$ et $B$, puis en appliquant deux fois le résultat. $\square$

Indépendance d'une famille finie

Démonstration. Il suffit de traiter le remplacement de $A_n$ par $\overline{A_n}$, puis d'itérer. Soit $J\subseteq \{1,\dots ,n\}$ non vide. Si $n\notin J$, l'égalité voulue est celle de l'hypothèse ; si $J=\{n\}$, elle est triviale. Sinon, posons $J^{\prime }=J\setminus \{n\}$ et $E={\bigcap }_{i\in J^{\prime }}{A}_i$ : comme $E\cap \overline{A_n}=E\setminus (E\cap A_n)$,

$$P(E\cap \overline{A_n})=P(E)-P(E\cap A_n)=(\prod _{i\in J^{\prime }}P(A_i))(1-P(A_n))=(\prod _{i\in J^{\prime }}P(A_i))P\left(\overline{A_n}\right),$$

ce qui est l'égalité attendue pour $J$. $\square$

Conséquence pratique, et c'est le calcul le plus fréquent du chapitre : si $A_1,\dots ,A_n$ sont mutuellement indépendants, la probabilité qu'aucun ne se réalise vaut ${\prod }_{i=1}^n(1-P(A_i))$, et celle qu'au moins un se réalise vaut $1-{\prod }_{i=1}^n(1-P(A_i))$. Passer par le contraire est presque toujours plus rapide qu'une formule d'inclusion-exclusion.

Méthode : conditionner sur le premier pas

Illustrons les deux voies. Deux joueurs $A$ et $B$ tirent à tour de rôle, $A$ commençant, chaque tir atteignant la cible avec la probabilité $p\in \left]0,1\right[$, tous les tirs étant indépendants ; le premier qui atteint la cible gagne. Cherchons la probabilité $a$ que $A$ gagne.

Voie directe. Notons $q=1-p$ et, pour $k\in \mathbb{N}$, $G_k$ l'événement « $A$ gagne à son $(k+1)$-ème tir » : les $2k$ premiers tirs ont échoué et le suivant réussit, donc $P(G_k)=q^{2k}p$ par indépendance. Les $G_k$ sont deux à deux incompatibles, et « personne ne gagne jamais » est négligeable, inclus dans « les $n$ premiers tirs échouent » de probabilité $q^n\to 0$. D'où

$$a=\sum _{k=0}^{+\infty }{q}^{2k}p=\frac{p}{1-q^2}=\frac{p}{(1-q)(1+q)}=\frac{p}{p(2-p)}=\frac{1}{2-p}.$$

Voie du premier pas. Conditionnons par le système complet $(S,\overline{S})$, où $S$ est « le premier tir de $A$ réussit ». Si $S$ est réalisé, $A$ a gagné ; sinon la partie recommence à l'identique, mais c'est $B$ qui tire en premier, donc $B$ gagne avec la probabilité $a$ et $A$ avec la probabilité $1-a$. La formule des probabilités totales donne $a=p+q(1-a)$, soit $a(1+q)=p+q=1$ et $a=1/(1+q)=1/(2-p)$.

Les deux voies concordent. Le premier joueur est toujours avantagé, puisque $a>1/2$ : pour $p$ proche de $1$, $a$ tend vers $1$, et pour $p$ proche de $0$, $a$ tend vers $1/2$.

Variables aléatoires discrètes et lois usuelles

Définition et notations

Démonstration. Un $\omega$ vérifie $X(\omega )\in A$ si et seulement si $X(\omega )$ est l'une des valeurs de $X$ appartenant à $A$, d'où

$$(X\in A)=\bigcup _{x\in A\cap X(\Omega )}(X=x).$$

L'ensemble d'indices est au plus dénombrable comme partie de $X(\Omega )$, et chaque $(X=x)$ est un événement : la réunion en est donc un. $\square$

Loi d'une variable aléatoire

Démonstration. Les événements $(X=x)$ sont deux à deux incompatibles, un même $\omega$ ne pouvant avoir deux images distinctes, et leur réunion est $\Omega$ puisque tout $\omega$ a une image dans $X(\Omega )$ ; l'ensemble d'indices est au plus dénombrable par définition d'une variable discrète. La $\sigma$-additivité appliquée à ce système donne $1=P(\Omega )={\sum }_{x}P(X=x)$, et appliquée à la décomposition de $(X\in A)$ établie plus haut, elle donne la seconde formule. $\square$

Pour vérifier qu'une famille définit bien une loi, deux points suffisent donc : la positivité de chaque terme et la somme égale à $1$. C'est ce que l'on fait ci-dessous pour les lois géométrique et de Poisson, et ce qui permet souvent de déterminer une constante de normalisation.

La relation $X\sim Y$ n'entraîne évidemment pas $X=Y$ : deux lancers d'une même pièce donnent des variables de même loi qui diffèrent presque toujours.

Démonstration. L'ensemble $f(X(\Omega ))$ est l'image d'un ensemble au plus dénombrable, donc au plus dénombrable, et $(f(X)=y)=(X\in f^{-1}(\{y\}))$ est un événement d'après la propriété précédente : $f(X)$ est bien une variable aléatoire discrète. La formule s'obtient en décomposant cet événement sur les valeurs de $X$ et en appliquant la $\sigma$-additivité. $\square$

La loi géométrique

Démonstration. Posons $q=1-p\in \left]0,1\right[$. Chaque terme $p{q}^{k-1}$ est strictement positif, et la série géométrique de raison $q$ converge, avec

$$\sum _{k=1}^{+\infty }p{q}^{k-1}=p\sum _{j=0}^{+\infty }{q}^j=\frac{p}{1-q}=\frac{p}{p}=1.\square$$

Démonstration. Avec $q=1-p$, en sommant la série géométrique à partir du rang $k+1$ :

$$P(X>k)=\sum _{j=k+1}^{+\infty }p{q}^{j-1}=p{q}^k\sum _{i=0}^{+\infty }{q}^i=\frac{p{q}^k}{1-q}=q^k,$$

et la seconde formule s'obtient par passage au contraire, $(X⩽k)$ étant le contraire de $(X>k)$. $\square$

Démonstration. On admet l'existence d'un espace probabilisé portant une telle suite d'épreuves ; notons $S_n$ l'événement « la $n$-ème épreuve est un succès », les $S_n$ étant mutuellement indépendants de probabilité $p$. Pour $k\in {\mathbb{N}}^{\ast }$, l'événement $(X=k)$ signifie que les $k-1$ premières épreuves sont des échecs et que la $k$-ème est un succès :

$$(X=k)=\overline{S_1}\cap \cdots \cap \overline{S_{k-1}}\cap S_k.$$

L'indépendance mutuelle étant stable par passage au contraire, la probabilité de cette intersection est le produit des probabilités, soit $P(X=k)=(1-p{)}^{k-1}p$.

Reste l'événement $N$ = « aucune épreuve n'est un succès », sur lequel $X$ n'est pas défini. Il est inclus, pour tout $n$, dans $\overline{S_1}\cap \cdots \cap \overline{S_n}$ de probabilité $(1-p{)}^n\to 0$, donc $P(N)=0$. On convient de poser $X=+\infty$ sur $N$, ce qui ne change rien aux calculs, et $((X=k){)}_{k\in {\mathbb{N}}^{\ast }}$ est un système quasi-complet. $\square$

Démonstration. On a $P(X>n)=(1-p{)}^n>0$, donc le conditionnement a un sens. Comme $n+k⩾n$, l'inclusion $(X>n+k)\subseteq (X>n)$ est vérifiée, l'intersection des deux événements est $(X>n+k)$, et

$$P_{(X>n)}(X>n+k)=\frac{(1-p{)}^{n+k}}{(1-p{)}^n}=(1-p{)}^k=P(X>k).\square$$

Sachant que l'on a déjà essuyé $n$ échecs, la loi du nombre d'essais supplémentaires nécessaires est donc la même qu'au départ : le processus ne s'use pas. On montre en exercice que la loi géométrique est la seule loi sur ${\mathbb{N}}^{\ast }$ à posséder cette propriété.

La loi de Poisson

Démonstration. Chaque terme est strictement positif puisque $\lambda >0$, et le développement en série entière de l'exponentielle, valable sur $\mathbb{R}$ tout entier, donne

$$\sum _{k=0}^{+\infty }{e}^{-\lambda }\frac{{\lambda }^k}{k!}=e^{-\lambda }\sum _{k=0}^{+\infty }\frac{{\lambda }^k}{k!}=e^{-\lambda }{e}^{\lambda }=1.\square$$

Démonstration. Notons ${\lambda }_n=n{p}_n$, de sorte que ${\lambda }_n\to \lambda$ et $p_n={\lambda }_n/n\to 0$. Fixons $k$ et supposons $n>k$ :

$$P(X_n=k)=\left(\genfrac{}{}{0ex}{}{n}{k}\right)p_n^k(1-p_n{)}^{n-k}=\frac{n(n-1)\cdots (n-k+1)}{k!}{p}_n^k(1-p_n{)}^{n-k}.$$

Le facteur polynomial. En remplaçant $p_n$ par ${\lambda }_n/n$ et en distribuant les $k$ facteurs $1/n$ :

$$\frac{n(n-1)\cdots (n-k+1)}{k!}{\left(\frac{{\lambda }_n}{n}\right)}^k=\frac{{\lambda }_n^k}{k!}\prod _{j=0}^{k-1}\left(1-\frac{j}{n}\right).$$

Le produit comporte un nombre fixe de facteurs tendant chacun vers $1$, donc l'ensemble tend vers ${\lambda }^k/k!$.

Le facteur exponentiel. Comme $p_n\to 0$, on écrit pour $n$ assez grand $(1-p_n{)}^{n-k}=\exp ((n-k)\ln (1-p_n))$, et le développement $\ln (1-u)=-u+O(u^2)$ en $0$ donne $\ln (1-p_n)=-{\lambda }_n/n+O(1/n^2)$, puis

$$(n-k)\ln (1-p_n)=-{\lambda }_n\frac{n-k}{n}+O\left(\frac{1}{n}\right)\underset{n\to +\infty }{\to }-\lambda ,$$

d'où $(1-p_n{)}^{n-k}\to e^{-\lambda }$ par continuité de l'exponentielle. En multipliant les deux limites, $P(X_n=k)\to e^{-\lambda }{\lambda }^k/k!$. $\square$

Couples de variables aléatoires

Démonstration du caractère discret. $Z(\Omega )$ est inclus dans $X(\Omega )\times Y(\Omega )$, produit cartésien de deux ensembles au plus dénombrables donc au plus dénombrable, et toute partie d'un tel ensemble l'est aussi. Par ailleurs $(Z=(x,y))=(X=x)\cap (Y=y)$ est une intersection de deux événements. $\square$

Démonstration. La famille $((Y=y){)}_{y\in Y(\Omega )}$ est un système complet d'événements indexé par un ensemble au plus dénombrable : la formule des probabilités totales appliquée à $B=(X=x)$ donne la première égalité, et la seconde s'obtient en échangeant les rôles.

Retrouvons-les par sommation par paquets : la famille $(P(X=x,Y=y))$ est positive, donc regroupable librement, et en partitionnant l'ensemble d'indices selon la valeur de $x$, puis selon celle de $y$,

$$\begin{array}{rl}\sum _{(x,y)}P(X=x,Y=y)& =\sum _{x\in X(\Omega )}(\sum _{y\in Y(\Omega )}P(X=x,Y=y))=\sum _{x\in X(\Omega )}P(X=x),\\ \sum _{(x,y)}P(X=x,Y=y)& =\sum _{y\in Y(\Omega )}(\sum _{x\in X(\Omega )}P(X=x,Y=y))=\sum _{y\in Y(\Omega )}P(Y=y).\end{array}$$

Les deux regroupements donnent la même valeur, la masse totale $1$ de la loi conjointe. $\square$

$n$-uplets et lois conditionnelles

Démonstration. Identique au cas du couple : $((Z=z){)}_{z\in Z(\Omega )}$ est un système complet au plus dénombrable, et la formule des probabilités totales appliquée à $(X=x)\cap (Y=y)$ donne l'égalité. $\square$

Démonstration. L'application $P_A$ est une probabilité et $((Y=y){)}_{y\in Y(\Omega )}$ est un système complet d'événements : la somme de leurs probabilités pour $P_A$ vaut donc $P_A(\Omega )=1$. $\square$

Variables aléatoires indépendantes

L'indépendance de deux événements dit que savoir si $A$ est réalisé ne change rien à la probabilité de $B$. Pour transporter cette idée aux variables aléatoires, on exige l'indépendance de tous les événements fabriqués avec la première et de tous ceux fabriqués avec la seconde.

Indépendance de deux variables aléatoires

Telle quelle, la définition est inutilisable : elle porte sur une infinité de couples de parties. Le résultat suivant la ramène à une vérification sur les valeurs prises.

Démonstration. Le sens direct s'obtient en appliquant la définition à $A=\{x\}$ et $B=\{y\}$.

Réciproquement, supposons l'égalité ponctuelle et fixons $A\subset X(\Omega )$, $B\subset Y(\Omega )$. L'ensemble $A\times B$ est au plus dénombrable, comme produit de deux ensembles au plus dénombrables. Les événements $(X=x,Y=y)$, pour $(x,y)\in A\times B$, sont deux à deux incompatibles et de réunion $(X\in A,Y\in B)$ : réaliser $(X\in A)\cap (Y\in B)$, c'est réaliser $(X=x,Y=y)$ pour un unique couple de $A\times B$. La $\sigma$-additivité donne

$$P(X\in A,Y\in B)=\sum _{(x,y)\in A\times B}P(X=x,Y=y)=\sum _{(x,y)\in A\times B}P(X=x)P(Y=y).$$

Cette famille est positive : le théorème sur le produit de deux sommes s'applique dans $[0,+\infty ]$, d'où

$$\sum _{(x,y)\in A\times B}P(X=x)P(Y=y)=(\sum _{x\in A}P(X=x))(\sum _{y\in B}P(Y=y))=P(X\in A)P(Y\in B),$$

la dernière égalité venant à nouveau de la $\sigma$-additivité. $\square$

Indépendance mutuelle d'une famille finie

La démonstration reprend celle du cas $n=2$ : réunion dénombrable disjointe, $\sigma$-additivité, produit de $n$ sommes positives.

Démonstration. Dans la caractérisation ensembliste, choisir $A_i=X_i(\Omega )$ pour les indices à oublier : $(X_i\in X_i(\Omega ))$ est $\Omega$ et le facteur correspondant vaut $1$. $\square$

Suites de variables indépendantes, suites i.i.d.

Une suite i.i.d. modélise la répétition indéfinie et à l'identique d'une expérience : lancers d'une pièce, mesures successives d'une grandeur physique, atomes d'un même échantillon. C'est le cadre de la loi faible des grands nombres.

La construction effective d'un tel espace est hors programme : on l'admet et on travaille avec. Retenir que $\Omega$ n'est ici ni fini ni dénombrable, ce qui explique qu'on ne l'explicite jamais.

Démonstration. Pour $n⩾1$, dire que $T>n$, c'est dire que les $n$ premiers lancers ont donné Face, donc, par indépendance mutuelle de $X_1,\dots ,X_n$,

$$(T>n)=\bigcap _{k=1}^n(X_k=0),P(T>n)=\prod _{k=1}^{n}P(X_k=0)=(1-p{)}^n.$$

L'événement $(T=+\infty )$ est l'intersection décroissante des $(T>n)$, donc par continuité décroissante

$$P(T=+\infty )=\underset{n\to +\infty }{\lim }(1-p{)}^n=0$$

puisque $0<1-p<1$ : la variable $T$ est presque sûrement finie. Enfin, pour $k⩾1$, $(T=k)=(T>k-1)\setminus (T>k)$ avec $(T>k)\subset (T>k-1)$, d'où

$$P(T=k)=(1-p{)}^{k-1}-(1-p{)}^k=p(1-p{)}^{k-1},$$

qui est la loi $\mathcal{G}(p)$. $\square$

Fonctions de variables indépendantes

Démonstration. Posons $U=f(X)$ et $V=g(Y)$ : ce sont des variables discrètes, d'ensembles de valeurs $f(X(\Omega ))$ et $g(Y(\Omega ))$, au plus dénombrables comme images d'ensembles au plus dénombrables.

Soient $A\subset U(\Omega )$ et $B\subset V(\Omega )$. Posons

$$A^{\prime }=\{x\in X(\Omega );f(x)\in A\},B^{\prime }=\{y\in Y(\Omega );g(y)\in B\},$$

de sorte que $(U\in A)=(X\in A^{\prime })$ et $(V\in B)=(Y\in B^{\prime })$. L'indépendance de $X$ et $Y$ appliquée à $A^{\prime }$ et $B^{\prime }$ donne

$$P(U\in A,V\in B)=P(X\in A^{\prime })P(Y\in B^{\prime })=P(U\in A)P(V\in B).\square$$

Le lemme des coalitions

Pour des fonctions faisant intervenir plusieurs variables à la fois, c'est le lemme suivant qui sert.

Espérance

L'espérance est la valeur moyenne d'une variable, pondérée par les probabilités. En première année la somme était finie ; ici elle est infinie, et c'est la sommabilité qui dit quand elle a un sens.

Espérance d'une variable positive

Espérance d'une variable réelle

Démonstration. L'indicatrice $1_A$ prend les valeurs $1$ et $0$ avec les probabilités $P(A)$ et $P(\overline{A})$, donc $E(1_A)=1\times P(A)+0\times P(\overline{A})=P(A)$.

Pour le second point, notons $N=(X\ne Y)$, négligeable. Pour $y\in Y(\Omega )$, l'événement $(Y=y)$ est la réunion disjointe de $(Y=y)\cap (X=y)$ et de $(Y=y)\cap N$, ce dernier négligeable : donc $P(Y=y)=P(X=y,Y=y)$, et le même découpage vaut pour $X$. Les familles $(xP(X=x))$ et $(yP(Y=y))$ ne diffèrent alors que par des termes nuls, donc ont même sommabilité et même somme. $\square$

La formule des queues

Démonstration. Tout repose sur l'identité, valable dans $[0,+\infty ]$ pour $n\in \mathbb{N}\cup \{+\infty \}$,

$$n=\sum _{k⩾1}{1}_{(k⩽n)}$$

(si $n$ est fini, exactement $n$ termes valent $1$ ; si $n=+\infty$, tous valent $1$). En reportant dans la définition,

$$\begin{array}{rl}E(X)& =\sum _{n\in X(\Omega )}nP(X=n)\\ & =\sum _{n\in X(\Omega )}\sum _{k⩾1}{1}_{(k⩽n)}P(X=n).\end{array}$$

Tous les termes de cette famille doublement indexée sont positifs : le théorème de Fubini pour les familles à valeurs dans $[0,+\infty ]$ autorise l'interversion sans hypothèse supplémentaire, d'où

$$E(X)=\sum _{k⩾1}\sum _{n\in X(\Omega )}{1}_{(k⩽n)}P(X=n)=\sum _{k⩾1}\sum _{\begin{array}{c}n\in X(\Omega )\\ n⩾k\end{array}}P(X=n).$$

Pour $k$ fixé, $(X⩾k)$ est la réunion dénombrable disjointe des $(X=n)$ avec $n⩾k$ : la somme intérieure vaut $P(X⩾k)$ par $\sigma$-additivité. La seconde écriture suit du changement d'indice $n=k-1$, puisque $(X⩾k)=(X>k-1)$. $\square$

La formule de transfert

Comment calculer $E(f(X))$ sans déterminer d'abord la loi de $f(X)$, ce qui est en général pénible ? On somme les $f(x)$ pondérés par la loi de $X$.

Démonstration. Posons $Y=f(X)$, de sorte que $Y(\Omega )=f(X(\Omega ))$, et pour $y\in Y(\Omega )$

$$I_y=\{x\in X(\Omega );f(x)=y\}.$$

Les $I_y$ forment une partition au plus dénombrable de $X(\Omega )$, chaque $x$ appartenant à $I_{f(x)}$ et à lui seul, et $(Y=y)$ est la réunion dénombrable disjointe des $(X=x)$ pour $x\in I_y$, donc $P(Y=y)={\sum }_{x\in I_y}P(X=x)$.

Traitons les modules. Comme $|y|=|f(x)|$ pour $x\in I_y$, la sommation par paquets pour une famille positive donne

$$\sum _{y\in Y(\Omega )}|y|P(Y=y)=\sum _{y\in Y(\Omega )}\sum _{x\in I_y}|f(x)|P(X=x)=\sum _{x\in X(\Omega )}|f(x)|P(X=x),$$

égalité dans $[0,+\infty ]$ : $Y$ est d'espérance finie si et seulement si la famille $(f(x)P(X=x))$ est sommable. Sous cette hypothèse, le même calcul sans les modules, licite par sommation par paquets d'une famille sommable, donne $E(Y)={\sum }_{x}f(x)P(X=x)$. $\square$

Démonstration. Le couple $Z=(X,Y)$ est lui-même une variable aléatoire discrète, à valeurs dans l'ensemble au plus dénombrable $X(\Omega )\times Y(\Omega )$, de loi $P(Z=(x,y))=P(X=x,Y=y)$. Le transfert précédent, appliqué à $Z$ et à $f$, est exactement l'énoncé, qui s'étend de même à un $n$-uplet. $\square$

Propriétés de l'espérance

Démonstration. Posons $f(x,y)=ax+by$, de sorte que $aX+bY=f(X,Y)$. Par inégalité triangulaire,

$$\sum _{(x,y)}|ax+by|P(X=x,Y=y)⩽|a|\sum _{(x,y)}|x|P(X=x,Y=y)+|b|\sum _{(x,y)}|y|P(X=x,Y=y).$$

En sommant d'abord en $y$ (licite, tous les termes sont positifs) et en reconnaissant la loi marginale ${\sum }_{y}P(X=x,Y=y)=P(X=x)$, le premier terme vaut $|a|E(|X|)$, et de même le second vaut $|b|E(|Y|)$ : la famille est sommable. Le transfert pour un couple et la linéarité de la somme d'une famille sommable donnent alors

$$E(aX+bY)=a\sum _{(x,y)}xP(X=x,Y=y)+b\sum _{(x,y)}yP(X=x,Y=y)=aE(X)+bE(Y).\square$$

Démonstration. Si $P(X=x,Y=y)>0$, il existe $\omega$ avec $X(\omega )=x$ et $Y(\omega )=y$, donc $|x|⩽y$ : tous les termes non nuls ci-dessous vérifient cette inégalité. Tous les termes étant positifs,

$$E(|X|)=\sum _x|x|P(X=x)=\sum _{(x,y)}|x|P(X=x,Y=y)⩽\sum _{(x,y)}yP(X=x,Y=y)=E(Y)<+\infty .\square$$

Démonstration. Si $X⩾0$, $E(X)$ est une somme de termes positifs. Si $X⩽Y$, la variable $Y-X$ est positive et d'espérance finie par linéarité, donc $E(Y)-E(X)⩾0$. La dernière inégalité vient de $-|X|⩽X⩽|X|$ et de la croissance. $\square$

Démonstration. L'égalité ${\sum }_{x\in X(\Omega )}xP(X=x)=0$ porte sur une somme de termes tous positifs : chacun est donc nul, et $P(X=x)=0$ dès que $x\ne 0$. L'ensemble $J=\{x\in X(\Omega );x\ne 0\}$ étant au plus dénombrable et $(X\ne 0)$ étant la réunion disjointe des $(X=x)$ pour $x\in J$, la $\sigma$-additivité donne

$$P(X\ne 0)=\sum _{x\in J}P(X=x)=0,\text{donc}P(X=0)=1.\square$$

Sous la forme « une variable positive d'espérance nulle est presque sûrement nulle », il servira pour Cauchy-Schwarz et pour la variance nulle.

Espérance d'un produit de variables indépendantes

Démonstration. Établissons d'abord la sommabilité. La famille $(|x||y|P(X=x,Y=y))$ est positive et, par indépendance, $P(X=x,Y=y)=P(X=x)P(Y=y)$ : le théorème sur le produit de deux sommes de familles positives donne

$$\sum _{(x,y)}|xy|P(X=x,Y=y)=(\sum _x|x|P(X=x))(\sum _y|y|P(Y=y))=E(|X|)E(|Y|)<+\infty .$$

La famille est donc sommable, $XY$ est d'espérance finie, et le même calcul sans les modules, licite cette fois par le théorème de Fubini pour les familles sommables, donne

$$E(XY)=\sum _{(x,y)}xyP(X=x)P(Y=y)=E(X)E(Y).$$

Le cas de $n$ variables s'obtient par récurrence, le lemme des coalitions assurant que $X_1\cdots X_{n-1}$ est indépendante de $X_n$. $\square$

Espérance des lois géométrique et de Poisson

Démonstration. Cas géométrique, par dérivation de la série géométrique. Posons $q=1-p$. La série entière ${\sum }_{k⩾0}{q}^k$ a un rayon de convergence $1$ et $q$ est intérieur à l'intervalle de convergence : la dérivation terme à terme est licite et

$$\sum _{k⩾1}k{q}^{k-1}=\frac{\mathrm{d}}{\mathrm{d}q}\left(\frac{1}{1-q}\right)=\frac{1}{(1-q{)}^2}=\frac{1}{p^2}.$$

Tous les termes étant positifs, la sommabilité est acquise en même temps que la valeur, et

$$E(X)=\sum _{k⩾1}kp{q}^{k-1}=p\times \frac{1}{p^2}=\frac{1}{p}.$$

Cas géométrique, par la formule des queues. La variable est à valeurs dans ${\mathbb{N}}^{\ast }$ et $P(X⩾n)=q^{n-1}$, donc

$$E(X)=\sum _{n⩾1}{q}^{n-1}=\frac{1}{1-q}=\frac{1}{p}.$$

Aucune dérivation, aucun décalage d'indice : c'est la voie la plus courte, et elle donne l'existence en même temps que la valeur.

Cas de Poisson. Tous les termes sont positifs, le calcul est licite dans $[0,+\infty ]$ :

$$E(X)=\sum _{k⩾0}k{\mathrm{e}}^{-\lambda }\frac{{\lambda }^k}{k!}={\mathrm{e}}^{-\lambda }\sum _{k⩾1}\frac{{\lambda }^k}{(k-1)!}={\mathrm{e}}^{-\lambda }\lambda \sum _{j⩾0}\frac{{\lambda }^j}{j!}={\mathrm{e}}^{-\lambda }\lambda {\mathrm{e}}^{\lambda }=\lambda ,$$

en posant $j=k-1$. La somme est finie, donc l'espérance existe. $\square$

Calculer une espérance avec des indicatrices

Variance, écart type et covariance

L'espérance situe le centre de la distribution mais ne dit rien de la dispersion autour de ce centre. C'est le rôle de la variance, qui permettra de contrôler les écarts.

Variables de carré d'espérance finie

Démonstration. L'inégalité $(|X|-1{)}^2⩾0$ se développe en $X^2-2|X|+1⩾0$, soit

$$|X|⩽\frac{1+X^2}{2}.$$

La majorante est positive et d'espérance finie, car $E\left(\frac{1+X^2}{2}\right)=\frac{1+E(X^2)}{2}<+\infty$ par linéarité. Le théorème de domination conclut. $\square$

Démonstration. Existence de $E(XY)$. De $(|X|-|Y|{)}^2⩾0$ on tire $|XY|⩽\frac{X^2+Y^2}{2}$, positive d'espérance finie ; la domination conclut.

L'inégalité. Pour $t\in \mathbb{R}$, la variable $(tX+Y{)}^2=t^2{X}^2+2tXY+Y^2$ est positive et d'espérance finie, et

$$\phi (t)=E((tX+Y{)}^2)=t^{2}E(X^2)+2tE(XY)+E(Y^2)⩾0.$$

Si $E(X^2)=0$ : la variable positive $X^2$ étant d'espérance nulle, $X=0$ presque sûrement, $E(XY)=0$ et les deux membres sont nuls. Si $E(X^2)>0$ : $\phi$ est un trinôme à coefficient dominant strictement positif, positif ou nul sur $\mathbb{R}$, donc de discriminant négatif ou nul,

$$\Delta =4E(XY{)}^2-4E(X^2)E(Y^2)⩽0,$$

ce qui est l'inégalité annoncée.

Cas d'égalité, sens direct. Si $E(X^2)=0$, on vient de voir que $X=0$ presque sûrement et $(a,b)=(1,0)$ convient. Sinon $\Delta =0$ : le trinôme admet une racine double $t_0$, et $\phi (t_0)=0$ s'écrit $E((t_{0}X+Y{)}^2)=0$. Cette variable positive est donc presque sûrement nulle, d'où $t_{0}X+Y=0$ presque sûrement, avec $(t_0,1)\ne (0,0)$.

Réciproque. Supposons $aX+bY=0$ presque sûrement avec $b\ne 0$ (l'autre cas est symétrique) : alors $Y=cX$ presque sûrement, $c=-\frac{a}{b}$. Deux variables égales presque sûrement ayant même espérance, $E(XY)=cE(X^2)$ et $E(Y^2)=c^{2}E(X^2)$, donc

$$E(XY{)}^2=c^{2}E(X^2{)}^2=E(X^2)E(Y^2).\square$$

Variance et écart type

Démonstration. Notons $m=E(X)$, réel. Par linéarité,

$$V(X)=E(X^2-2mX+m^2)=E(X^2)-2m^2+m^2=E(X^2)-m^2.$$

L'inégalité en découle puisque $V(X)⩾0$ comme espérance d'une variable positive. $\square$

Démonstration. Par linéarité $E(aX+b)=aE(X)+b$, donc $(aX+b)-E(aX+b)=a(X-E(X))$. En élevant au carré et en prenant l'espérance, $V(aX+b)=a^{2}V(X)$, puis $\sqrt{a^2}=|a|$. $\square$

Démonstration. La variable $(X-E(X){)}^2$ est positive : son espérance est nulle si et seulement si elle est presque sûrement nulle, donc si et seulement si $X=E(X)$ presque sûrement. $\square$

Variance des lois géométrique et de Poisson

Le calcul direct de $E(X^2)$ est maladroit : on passe par le moment factoriel $E(X(X-1))$, dont la somme se simplifie bien mieux, puis on utilise $E(X^2)=E(X(X-1))+E(X)$.

Démonstration. Posons $q=1-p$. Par transfert appliqué à $x\mapsto x(x-1)$, positive sur ${\mathbb{N}}^{\ast }$ :

$$E(X(X-1))=\sum _{k⩾1}k(k-1)p{q}^{k-1}=pq\sum _{k⩾2}k(k-1)q^{k-2}.$$

La série entière $\sum q^k$ est de rayon $1$ et $q$ lui est intérieur : la dérivation terme à terme, deux fois, donne

$$\sum _{k⩾2}k(k-1)q^{k-2}=\frac{{\mathrm{d}}^2}{\mathrm{d}{q}^2}\left(\frac{1}{1-q}\right)=\frac{2}{(1-q{)}^3}=\frac{2}{p^3},$$

donc $E(X(X-1))=pq\times \frac{2}{p^3}=\frac{2q}{p^2}$, quantité finie : $X^2$ est d'espérance finie. Avec $E(X)=\frac{1}{p}$,

$$E(X^2)=\frac{2q}{p^2}+\frac{1}{p}=\frac{2q+p}{p^2}=\frac{2-p}{p^2},V(X)=\frac{2-p}{p^2}-\frac{1}{p^2}=\frac{1-p}{p^2}.\square$$

Démonstration. Par transfert, les termes d'indices $0$ et $1$ étant nuls et en posant $j=k-2$ :

$$E(X(X-1))=\sum _{k⩾2}k(k-1){\mathrm{e}}^{-\lambda }\frac{{\lambda }^k}{k!}={\mathrm{e}}^{-\lambda }\sum _{k⩾2}\frac{{\lambda }^k}{(k-2)!}={\mathrm{e}}^{-\lambda }{\lambda }^2\sum _{j⩾0}\frac{{\lambda }^j}{j!}={\lambda }^2.$$

La somme est finie, donc $X^2$ est d'espérance finie, et

$$E(X^2)={\lambda }^2+\lambda ,V(X)={\lambda }^2+\lambda -{\lambda }^2=\lambda .\square$$

Covariance

Démonstration. Avec $m=E(X)$ et $m^{\prime }=E(Y)$, la linéarité donne

$$\mathrm{Cov}(X,Y)=E(XY-m^{\prime }X-mY+m{m}^{\prime })=E(XY)-m^{\prime }m-m{m}^{\prime }+m{m}^{\prime }=E(XY)-m{m}^{\prime }.$$

En prenant $Y=X$ on retrouve König-Huygens. $\square$

Démonstration. La symétrie est évidente. Pour la linéarité à gauche, la formule pratique et la linéarité de l'espérance donnent

$$\begin{array}{rl}\mathrm{Cov}(aX+b{X}^{\prime },Y)& =aE(XY)+bE(X^{\prime }Y)-aE(X)E(Y)-bE(X^{\prime })E(Y)\\ & =a\mathrm{Cov}(X,Y)+b\mathrm{Cov}(X^{\prime },Y),\end{array}$$

et la linéarité à droite s'en déduit par symétrie. $\square$

Démonstration. L'indépendance donne $E(XY)=E(X)E(Y)$, donc $\mathrm{Cov}(X,Y)=0$. $\square$

Variance d'une somme

Démonstration. La variance est la covariance d'une variable avec elle-même, et la covariance est bilinéaire :

$$V\left(\sum _i{X}_i\right)=\mathrm{Cov}(\sum _i{X}_i,\sum _j{X}_j)=\sum _{i=1}^n\sum _{j=1}^n\mathrm{Cov}(X_i,X_j).$$

On isole les termes diagonaux $i=j$, égaux à $V(X_i)$, et l'on regroupe les termes $(i,j)$ et $(j,i)$ pour $i\ne j$, égaux par symétrie. $\square$

Démonstration. Pour $i\ne j$, l'indépendance de $X_i$ et $X_j$ donne $\mathrm{Cov}(X_i,X_j)=0$ : tous les termes croisés disparaissent. $\square$

Coefficient de corrélation

Démonstration. Appliquons Cauchy-Schwarz aux variables centrées $X-E(X)$ et $Y-E(Y)$, de carrés d'espérance finie :

$$\mathrm{Cov}(X,Y{)}^2⩽E((X-E(X){)}^2)E\left(\right(Y-E(Y){)}^2)=V(X)V(Y).$$

En divisant par $V(X)V(Y)>0$ et en prenant la racine, $|\rho (X,Y)|⩽1$. Le cas d'égalité est celui de Cauchy-Schwarz : il existe $(a^{\prime },b^{\prime })\ne (0,0)$ avec $a^{\prime }(X-E(X))+b^{\prime }(Y-E(Y))=0$ presque sûrement. Comme $\sigma (X)$ et $\sigma (Y)$ sont non nuls, $a^{\prime }$ et $b^{\prime }$ sont tous deux non nuls, et la relation se réécrit $Y=aX+b$ presque sûrement avec $a=-a^{\prime }/b^{\prime }\ne 0$. $\square$

Fonctions génératrices

Pour une variable à valeurs entières, toute la loi tient dans la suite $(P(X=n){)}_{n\in \mathbb{N}}$. L'idée est de ranger cette suite dans les coefficients d'une série entière : les propriétés analytiques de la fonction obtenue traduisent alors des propriétés probabilistes.

Définition et premières propriétés

Démonstration. Pour $t\in [-1,1]$, $|P(X=n)t^n|⩽P(X=n)$, majoration indépendante de $t$, et ${\sum }_{n⩾0}P(X=n)=1<+\infty$ puisque les $(X=n)$ forment un système complet : la série de fonctions converge normalement sur $[-1,1]$.

En particulier elle converge en $t=1$, donc $R_X⩾1$. Chaque fonction $t\mapsto P(X=n)t^n$ étant continue sur $[-1,1]$ et la convergence étant normale donc uniforme, la somme $G_X$ est continue sur $[-1,1]$. Enfin $G_X(1)=\sum P(X=n)=1$, $G_X(0)=P(X=0)$ avec la convention $0^0=1$, et pour $|t|⩽1$ l'inégalité triangulaire donne $|G_X(t)|⩽\sum P(X=n)=1$. $\square$

L'écriture $G_X(t)=E(t^X)$ est le transfert appliqué à $x\mapsto t^x$, licite pour $|t|⩽1$ puisque $|t^X|⩽1$. Le rayon peut valoir exactement $1$ : « dérivable en $1$ » signifiera alors dérivable à gauche.

Les fonctions génératrices usuelles

Démonstration. Notons $q=1-p$.

Bernoulli. $X$ vaut $0$ avec la probabilité $q$ et $1$ avec la probabilité $p$, donc $G_X(t)=q+pt$, polynôme de rayon infini.

Binomiale. Par la formule du binôme,

$$G_X(t)=\sum _{k=0}^n\left(\genfrac{}{}{0ex}{}{n}{k}\right)p^k{q}^{n-k}{t}^k=\sum _{k=0}^n\left(\genfrac{}{}{0ex}{}{n}{k}\right)(pt{)}^k{q}^{n-k}=(q+pt{)}^n.$$

Géométrique. Pour $|t|<1/q$, la raison $qt$ est de module strictement inférieur à $1$ :

$$G_X(t)=\sum _{k⩾1}p{q}^{k-1}{t}^k=pt\sum _{k⩾1}(qt{)}^{k-1}=\frac{pt}{1-qt},$$

et la série diverge pour $|qt|⩾1$, donc le rayon vaut exactement $1/q>1$.

Poisson. Pour tout réel $t$, en reconnaissant la série exponentielle,

$$G_X(t)=\sum _{k⩾0}{\mathrm{e}}^{-\lambda }\frac{{\lambda }^k}{k!}{t}^k={\mathrm{e}}^{-\lambda }{\mathrm{e}}^{\lambda t}={\mathrm{e}}^{\lambda (t-1)}.\square$$

Contrôle : toute fonction génératrice vérifie $G_X(1)=1$, et l'on a bien $q+p=1$, $(q+p{)}^n=1$, $\frac{p}{1-q}=1$, ${\mathrm{e}}^0=1$.

La fonction génératrice caractérise la loi

Démonstration. Les deux séries entières ont un rayon supérieur ou égal à $1$, donc strictement positif, et leurs sommes coïncident au voisinage de $0$. Par unicité des coefficients du développement en série entière, $P(X=n)=P(Y=n)$ pour tout $n$ : les deux variables ont la même distribution, donc la même loi. $\square$

C'est ce qui rend l'outil utile : pour identifier la loi d'une variable entière, on calcule $G_X$ et on la reconnaît dans le tableau, sans calculer la distribution.

Espérance et variance à partir de $G_X$

Démonstration (sens direct). Supposons ${\sum }_{n⩾1}nP(X=n)<+\infty$ et posons

$$H(t)=\sum _{n⩾1}nP(X=n)t^{n-1}.$$

Pour $t\in [-1,1]$, $|nP(X=n)t^{n-1}|⩽nP(X=n)$, terme général d'une série convergente : la convergence est normale sur $[-1,1]$, donc $H$ est définie et continue sur $[-1,1]$.

Sur $\left]-1,1\right[$, $G_X$ est la somme d'une série entière de rayon supérieur ou égal à $1$ : elle y est dérivable terme à terme, donc $G_X^{\prime }=H$ et, pour $t\in [0,1[$,

$$G_X(t)=G_X(0)+{\int }_0^{t}H(u)\mathrm{d}u.$$

Posons $\Phi (t)=G_X(0)+{\int }_0^{t}H(u)\mathrm{d}u$ pour $t\in [0,1]$ : la fonction $H$ étant continue sur $[0,1]$, $\Phi$ y est de classe ${\mathcal{C}}^1$ avec ${\Phi }^{\prime }=H$. Or $\Phi$ et $G_X$ coïncident sur $[0,1[$ et sont continues en $1$, donc $\Phi =G_X$ sur $[0,1]$ tout entier. Ainsi $G_X$ est dérivable en $1$ et

$$G_X^{\prime }(1)={\Phi }^{\prime }(1)=H(1)=\sum _{n⩾1}nP(X=n)=E(X).\square$$

La réciproque, à savoir que la dérivabilité de $G_X$ en $1$ entraîne l'existence de $E(X)$, est admise.

Démonstration. Le premier point s'obtient comme le précédent à partir de la série ${\sum }_{n⩾2}n(n-1)P(X=n)t^{n-2}$, dont la convergence normale sur $[-1,1]$ équivaut à l'existence de $E(X^2)$ ; on l'admet. Pour la variance, $E(X^2)=E(X(X-1))+E(X)=G_X^{\prime \prime }(1)+G_X^{\prime }(1)$, et König-Huygens conclut. $\square$

Somme de variables indépendantes

Démonstration. Fixons $t\in [-1,1]$. La variable $X+Y$ est à valeurs dans $\mathbb{N}$ et $t^{X+Y}=t^X{t}^Y$. Les variables $t^X$ et $t^Y$, fonctions respectives de $X$ et de $Y$, sont indépendantes et bornées par $1$, donc d'espérance finie. L'espérance d'un produit de variables indépendantes donne

$$G_{X+Y}(t)=E\left(t^X{t}^Y\right)=E\left(t^X\right)E\left(t^Y\right)=G_X(t)G_Y(t).$$

Le cas général suit par récurrence, le lemme des coalitions assurant que $X_1+\cdots +X_{n-1}$ est indépendante de $X_n$. $\square$

Reconnaître une loi à sa fonction génératrice

Inégalités et loi faible des grands nombres

Reste la question la plus concrète : quelle est la probabilité de s'écarter beaucoup de la moyenne ? Les deux inégalités qui suivent y répondent sans rien connaître de la loi, ce qui fait leur force et leur faiblesse.

Inégalité de Markov

Démonstration. Si $E(X)=+\infty$, l'inégalité est évidente. Supposons $X$ d'espérance finie et comparons $a{1}_{(X⩾a)}$ et $X$ en chaque $\omega$ : si $X(\omega )⩾a$, le membre de gauche vaut $a⩽X(\omega )$ ; sinon il vaut $0⩽X(\omega )$ par positivité de $X$. Donc

$$a{1}_{(X⩾a)}⩽X.$$

La croissance de l'espérance et $E\left(1_{(X⩾a)}\right)=P(X⩾a)$ donnent $aP(X⩾a)⩽E(X)$, puis le résultat en divisant par $a>0$. $\square$

La positivité est essentielle, et l'inégalité n'a d'intérêt que si $a>E(X)$, faute de quoi le majorant dépasse $1$.

Inégalité de Bienaymé-Tchebychev

Démonstration. Posons $Y=(X-m{)}^2$, variable positive d'espérance finie, avec $E(Y)=V(X)$. La fonction $u\mapsto u^2$ étant croissante sur $[0,+\infty [$, les événements $(|X-m|⩾\epsilon )$ et $(Y⩾{\epsilon }^2)$ sont égaux. L'inégalité de Markov appliquée à $Y$ avec $a={\epsilon }^2>0$ donne

$$P(|X-m|⩾\epsilon )=P(Y⩾{\epsilon }^2)⩽\frac{E(Y)}{{\epsilon }^2}=\frac{V(X)}{{\epsilon }^2}.\square$$

La loi faible des grands nombres

Démonstration. Toutes les $X_i$ ayant la loi de $X_1$, elles ont même espérance $m$ et même variance ${\sigma }^2$, donc par linéarité $E\left(\frac{S_n}{n}\right)=\frac{1}{n}{\sum }_{i=1}^{n}E(X_i)=m$. Les variables étant indépendantes, elles le sont deux à deux : les variances s'ajoutent, donc $V(S_n)=n{\sigma }^2$, puis, avec $V(aX)=a^{2}V(X)$ pour $a=\frac{1}{n}$,

$$V\left(\frac{S_n}{n}\right)=\frac{1}{n^2}V(S_n)=\frac{{\sigma }^2}{n}.$$

Bienaymé-Tchebychev appliquée à $\frac{S_n}{n}$, d'espérance $m$ et de variance $\frac{{\sigma }^2}{n}$, donne

$$P\left(\right|\frac{S_n}{n}-m|⩾\epsilon )⩽\frac{{\sigma }^2/n}{{\epsilon }^2}=\frac{{\sigma }^2}{n{\epsilon }^2}.$$

À $\epsilon$ fixé, ce majorant est de la forme $\frac{C}{n}$ avec $C=\frac{{\sigma }^2}{{\epsilon }^2}$ constante, donc tend vers $0$ : le théorème d'encadrement conclut. $\square$

Application : dimensionner un nombre de mesures

Méthodes

Déterminer la loi d'une variable discrète

Reconnaître une loi géométrique

Calculer une espérance

Justifier une interversion de sommes

Majorer une probabilité de grand écart

Utiliser un système complet dénombrable

Ce chapitre repose sur un petit nombre d'outils à manier sans hésitation. La sommabilité n'est pas décorative : c'est elle qui autorise les interversions de sommes, et une interversion non justifiée est une faute. L'espérance est linéaire sans aucune hypothèse, d'où la force des indicatrices, alors que la variance ne s'additionne qu'avec de l'indépendance. La fonction génératrice change une somme de variables indépendantes en produit et caractérise la loi. Enfin, Markov, Bienaymé-Tchebychev et la loi faible des grands nombres donnent des majorations universelles, grossières mais gratuites, qui relient le modèle à l'expérience.