Convergence en loi — Wikipédia

En théorie des probabilités, il existe différentes notions de convergence de variables aléatoires. Certaines de ces notions ne sont pas spécifiques des probabilités, mais de l'analyse en général, comme la convergence presque sûre de variables aléatoires, ou encore la convergence L^p. La convergence en loi de suites de variables aléatoires est un concept appartenant plus spécifiquement à la théorie des probabilités, utilisé notamment en statistique et dans l'étude des processus stochastiques. La convergence en loi est souvent notée en ajoutant la lettre ${\displaystyle {\mathcal {L}}}$ (ou ${\displaystyle {\mathcal {D}}}$ pour distribution) au-dessus de la flèche de convergence :

${\displaystyle X_{n}{\xrightarrow {\mathcal {L}}}X.}$

La convergence en loi est la forme la plus faible de convergence de variables aléatoires au sens où, en général, elle n'implique pas les autres formes de convergence de variables aléatoires, alors que ces autres formes de convergence impliquent la convergence en loi. Le théorème central limite, un des résultats les plus importants de la théorie des probabilités, concerne la convergence en loi d'une suite de variables aléatoires.

Définition[modifier | modifier le code]

Soit X une variable aléatoire et soit ${\displaystyle \left(X_{n}\right)_{n\geq 1}}$ une suite de variables aléatoires, toutes à valeurs dans le même espace métrique (E, d).

Définition — On dit que la suite ${\displaystyle \left(X_{n}\right)_{n\geq 1}}$ converge en loi vers X si, pour toute fonction ${\displaystyle \varphi }$ continue bornée sur E, à valeurs dans ${\displaystyle \mathbb {R} ,}$

${\displaystyle \lim _{n}\mathbb {E} \left[\varphi (X_{n})\right]\ =\ \mathbb {E} \left[\varphi (X)\right].}$

Notons, et cela distingue la convergence en loi des autres types de convergence de variables aléatoires, que les variables aléatoires ${\displaystyle X}$ et ${\displaystyle X_{n}}$ ne sont pas nécessairement définies sur les mêmes espaces probabilisés mais peuvent être définies sur des espaces probabilisés tous différents, disons ${\displaystyle \left(\Omega _{n},{\mathcal {A}}_{n},\mathbb {P} _{n}\right)_{n\geq 1}}$ et ${\displaystyle \left(\Omega ,{\mathcal {A}},\mathbb {P} \right)}$. En effet la convergence en loi est en réalité la convergence d'une suite de mesures de probabilités, les lois de probabilités des variables aléatoires, ${\displaystyle \left(\mathbb {P} _{X_{n}}\right)_{n\geq 1}}$, vers la loi de X, ${\displaystyle \mathbb {P} _{X}}$. En effet, en vertu du théorème de transfert, la définition peut se réécrire : pour toute fonction ${\displaystyle \varphi }$ continue bornée sur E,

${\displaystyle \lim _{n}\ \int _{E}\varphi \,d\mathbb {P} _{X_{n}}\ =\ \int _{E}\varphi \,d\mathbb {P} _{X},}$

ce qui impose uniquement que l'espace d'arrivée des variables aléatoires, E, soit le même. Cette reformulation fait aussi apparaître que chaque variable aléatoire peut être remplacée par une autre sans que la convergence en loi soit affectée, pourvu que les deux variables aléatoires intervenant dans l'échange aient même loi. Cette notion de convergence est équivalente à la convergence dans la topologie faible-*.

La convergence en loi est souvent notée en ajoutant la lettre ${\displaystyle {\mathcal {L}}}$ (ou ${\displaystyle {\mathcal {D}}}$ pour distribution) au-dessus de la flèche de convergence :

${\displaystyle X_{n}{\xrightarrow {\mathcal {L}}}X,\quad \mathrm {ou~bien} \quad X_{n}{\xrightarrow {\mathcal {D}}}X.}$

Le théorème porte-manteau[modifier | modifier le code]

Théorème porte-manteau^[1] — Les cinq assertions suivantes sont équivalentes :

1. (X_n ) converge en loi vers X ; 2. pour toute fonction ${\displaystyle \varphi }$ bornée et uniformément continue sur E,

${\displaystyle \lim _{n}\ \mathbb {E} \left[\varphi (X_{n})\right]\ =\ \mathbb {E} \left[\varphi (X)\right]}$ ;

3. pour tout fermé F de E,

${\displaystyle \limsup _{n}\ \mathbb {P} \left(X_{n}\in F\right)\ \leq \ \mathbb {P} \left(X\in F\right)}$ ;

4. pour tout ouvert O de E,

${\displaystyle \liminf _{n}\mathbb {P} \left(X_{n}\in O\right)\ \geq \ \mathbb {P} \left(X\in O\right)}$ ;

5. pour tout borélien A de E dont la frontière ${\displaystyle \partial A}$ vérifie ${\displaystyle \mathbb {P} \left(X\in \partial A\right)=0}$,

${\displaystyle \lim _{n}\ \mathbb {P} \left(X_{n}\in A\right)\ =\ \mathbb {P} \left(X\in A\right)}$.

La propriété 5 préfigure le théorème de l'application continue (en). Par ailleurs la propriété 5 possède un cas particulier d'usage fréquent, dans le cas où E est la droite réelle (voir la prochaine section).

Cas des variables aléatoires réelles[modifier | modifier le code]

Convergence en loi et fonction de répartition[modifier | modifier le code]

Considérons une suite X₁ , X₂ , ... , X_n , de variables aléatoires réelles, et une autre variable aléatoire réelle X. Soient F₁, F₂, ..., F_n la suite des fonctions de répartition associées aux variables aléatoires réelles X₁, X₂, ..., X_n et soit F la fonction de répartition de la variable aléatoire réelle X. Autrement dit, F_n est définie par F_n(x)=P(X_n ≤ x), et F par F(x)=P(X ≤ x). On a le théorème suivant :

Une structure possible pour la démonstration est 3.⇒1.⇒2.⇒3.

3. implique 1.

C'est l'implication la plus simple. Pour ${\displaystyle \,f}$ continue bornée, il faut démontrer que

${\displaystyle \lim _{n}\ \mathbb {E} [f(X_{n})]\ =\ \mathbb {E} [f(X)],}$

ou bien, de manière équivalente,

${\displaystyle \lim _{n}\ \mathbb {E} [f(X_{n}^{\prime })]=\mathbb {E} [f(X^{\prime })].}$

Mais la continuité de ${\displaystyle \,f}$ assure que ${\displaystyle \,f(X_{n}^{\prime })}$ converge presque sûrement vers ${\displaystyle \,f(X^{\prime })}$. De plus, ${\displaystyle \,|f|}$ étant borné, on a que

${\displaystyle \left|f(X_{n}^{\prime })\right|\ \leq \Vert f\Vert _{\infty }}$

pour tout ${\displaystyle \,n}$. Le théorème de convergence dominée de Lebesgue peut donc être appliqué ici, et donne la conclusion voulue.

1. implique 2.

Par définition d'une fonction de répartition, la propriété

${\displaystyle \lim _{n}\ F_{n}(x)\ =\ F(x),}$

s'écrit sous la forme :

${\displaystyle \lim _{n}\ \mathbb {P} \left(X_{n}\in A_{x}\right)\ =\ \mathbb {P} \left(X\in A_{x}\right),}$

pour peu qu'on choisisse

${\displaystyle A_{x}\ =\ ]-\infty ,x].}$

Par ailleurs

${\displaystyle \partial A_{x}\ =\ \{x\},}$

Donc,

${\displaystyle \mathbb {P} \left(X\in \partial A_{x}\right)\ =\ \mathbb {P} \left(X=x\right)\ =\ \ F(x)-F(x_{-}),}$

qui est nul si et seulement si F est continue à gauche en x, i.e. si et seulement si F est continue en x (en effet, une fonction de répartition est partout continue à droite). Le point (5) du Théorème porte-manteau permet alors de conclure.

Le point 2 sert souvent, dans le cas des variables aléatoires réelles, de définition de la convergence en loi. L'implication 1.⇒3. reste vraie lorsque les variables aléatoires réelles sont remplacées par des variables aléatoires à valeurs dans un espace de Lusin ${\displaystyle \,(S,d)}$, i.e. un espace métrisable assez général (${\displaystyle \,S=\mathbb {R} ^{d}}$ et ${\displaystyle \,S={\mathcal {C}}([0,1],\mathbb {R} )}$ en sont des exemples). L'implication 1.⇒3. porte alors le nom de théorème de représentation de Skorokhod.

Puisque F(a) = P(X ≤ a), le point 2 signifie que, pour n suffisamment grand, la probabilité que X appartienne à un certain intervalle est très proche de la probabilité que X_n soit dans cet intervalle.

Cette conséquence du théorème de Dini est très utile, par exemple pour démontrer le théorème central limite pour les quantiles, ou pour démontrer le théorème central limite pour les processus de renouvellement.

Convergence en loi et fonctions caractéristiques[modifier | modifier le code]

Autrement dit, (X_n) converge en loi vers X si et seulement si la fonction caractéristique de la variable aléatoire réelle X_n converge simplement vers la fonction caractéristique de la variable aléatoire réelle X.

Convergence en loi et moments[modifier | modifier le code]

Les moments (quand ils existent) peuvent s'obtenir à partir des dérivées en 0 de la fonction caractéristique. Mais comme la convergence simple des fonctions caractéristiques n'implique pas la convergence des dérivées en 0, en règle générale la convergence en loi n'implique pas la convergence des moments.

Par exemple soit ${\displaystyle (X_{n})}$ la suite des variables aléatoires tels que ${\displaystyle P(X_{n}=0)=1-{\frac {1}{n}}}$ et ${\displaystyle P(X_{n}=n)={\frac {1}{n}}}$. Alors ${\displaystyle (X_{n})}$ ont pour espérance ${\displaystyle E(X_{n})=1}$ et pour variances ${\displaystyle V(X_{n})=n-1}$. La suite ${\displaystyle X_{n}}$ converge en loi vers la constante ${\displaystyle X=0}$, la suite des espérances converge vers ${\displaystyle 1}$, qui n'est pas l'espérance de la limite ${\displaystyle E(X)=0}$, et la suite des variances ne converge même pas, alors que la variance de la limite est ${\displaystyle V(X)=0}$.

En revanche, si les variables ${\displaystyle X_{n}}$ sont uniformément bornées (${\displaystyle |X_{n}|\leq M}$) et convergent en loi vers ${\displaystyle X}$, alors ${\displaystyle X}$ est bornée (${\displaystyle |X|\leq M}$) et tous les moments ${\displaystyle E(X_{n}^{r})}$ convergent vers ${\displaystyle E(X^{r})}$.

Exemples[modifier | modifier le code]

Théorème central limite :

La moyenne d'une suite de variables aléatoires centrées, indépendantes et de même loi, une fois renormalisée par √n converge en loi vers la loi normale

${\displaystyle {\sqrt {n}}{\bar {X}}_{n}{\xrightarrow {\mathcal {L}}}{\mathcal {N}}(0,\sigma ^{2}).}$

Convergence de la loi de Student :

La loi de Student de paramètre ${\displaystyle k}$ converge, lorsque ${\displaystyle k}$ tend vers +∞, vers la loi de Gauss :

${\displaystyle \mathrm {t} (k){\xrightarrow {\mathcal {L}}}{\mathcal {N}}(0,1).}$

Dans ce cas, on peut aussi utiliser le lemme de Scheffé, qui est un critère de convergence d'une suite de variables aléatoires à densité vers une variable aléatoire à densité.

Loi dégénérée :

La suite^[2] ${\displaystyle {\mathcal {N}}\left(0,{\frac {1}{n}}\right)}$ converge en loi vers une variable aléatoire X₀ dite dégénérée, qui prend une seule valeur (0) avec probabilité 1 (on parle parfois de masse de Dirac en 0, notée ${\displaystyle \delta _{0}}$) :

${\displaystyle \mathbb {P} (X_{0}\leq x)=\delta _{0}\left(]-\infty ,x]\right)={\begin{cases}0&{\text{ si }}x<0,\\1&{\text{ si }}x\geq 0.\end{cases}}}$

Exemples importants[modifier | modifier le code]

Les exemples de convergence en loi sont foison, le plus célèbre étant le Théorème central limite, cité plus haut, dû à Pierre-Simon de Laplace, pour lequel l'espace métrique (E, d) considéré est tout simplement la droite réelle munie de sa distance usuelle. Donnons deux exemples importants où l'espace métrique considéré, l'espace de Banach ${\displaystyle \,({\mathcal {C}}([0,1]),\,||.||_{\infty }),\ }$ est moins élémentaire.

Théorème de Donsker pour les marches aléatoires[modifier | modifier le code]

Soient ${\displaystyle \,(U_{n},n\geq 1)}$ une suite iid de variables aléatoires centrées, de carré intégrable et de variance ${\displaystyle \,\sigma ^{2}}$. On interpole la marche aléatoire ${\displaystyle \sum _{k=1}^{n}U_{k}}$ de manière affine par morceaux en considérant le processus ${\displaystyle \,(X_{n}(t),t\geq 0)}$ défini, pour t ∈ [0,1], par

${\displaystyle X_{n}(t)={\frac {1}{\sigma {\sqrt {n}}}}\left(\sum _{k=1}^{[nt]}U_{k}+(nt-[nt])U_{[nt]+1}\right),}$

où ${\displaystyle [x]}$ désigne la partie entière de ${\displaystyle x}$. Considérons l'espace ${\displaystyle \,{\mathcal {C}}([0,1])}$ des fonctions à valeurs réelles et continues sur [0,1]. On munit ${\displaystyle \,{\mathcal {C}}([0,1])}$ de la tribu borélienne ${\displaystyle \,{\mathcal {B}}}$ et de la norme infinie ${\displaystyle \,||.||_{\infty }}$ . Ainsi, ${\displaystyle \,X_{n}}$ est une variable aléatoire à valeurs dans ${\displaystyle \,({\mathcal {C}}([0,1]),{\mathcal {B}})}$ .

Ici B est vu comme un élément aléatoire de ${\displaystyle \,({\mathcal {C}}([0,1]),{\mathcal {B}})}$. Les diverses normalisations, indice ${\displaystyle [nt]}$ comme indice terminal de la sommation, et facteur ${\displaystyle {\frac {1}{\sigma {\sqrt {n}}}}\ }$ devant la somme, correspondent à un « zoom arrière » par rapport à la trajectoire de la marche aléatoire : on « s'éloigne » de la représentation graphique de la marche aléatoire, en rétrécissant sa représentation graphique par un facteur ${\displaystyle {\frac {1}{n}}\ }$ le long de l'axe horizontal et par un facteur ${\displaystyle {\frac {1}{\sigma {\sqrt {n}}}}\ }$ le long de l'axe vertical, coefficients de réduction assurant, d'après le théorème central-limite, que le résultat de la réduction sera un graphe non-trivial : un coefficient de réduction vertical plus fort donnerait une trajectoire écrasée sur l'axe des abscisses, et un coefficient plus faible ferait apparaitre de fréquentes oscillations « d'amplitude infinie ». Le théorème de Donsker peut être vu comme une justification théorique de l'utilisation du mouvement brownien pour décrire la trajectoire de certaines particules, avec ses applications à l'étude du comportement thermodynamique des gaz (théorie cinétique des gaz), et du phénomène de diffusion, ou encore comme une justification théorique de l'utilisation du mouvement brownien en mathématiques financières : le mouvement brownien se comporte comme une marche aléatoire à sauts très fréquents, ces sauts étant de petite amplitude.

Théorème de Donsker pour les processus empiriques[modifier | modifier le code]

Soit ${\displaystyle \,(X_{i},i\geq 1)}$ une suite iid de variables aléatoires de loi uniforme sur [0,1]. On note F la fonction de répartition commune des variables ${\displaystyle \,X_{i}}$. ( ${\displaystyle \,F(t)=\mathbb {P} [X_{i}\leq t]}$ ) On définit la fonction de répartition empirique F_n de l'échantillon X₁,X₂,..., X_n par

${\displaystyle F_{n}(t)={\frac {1}{n}}\sum _{i=1}^{n}1\!\!\!1_{X_{i}\leq t}\,,\,t\in [0,1]}$

ainsi que le processus empirique associé W_n par

${\displaystyle W_{n}(t)={\sqrt {n}}(F_{n}(t)-F(t))={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}(1\!\!\!1_{X_{i}\leq t}-F(t))\,,\,t\in [0,1].}$

Considérons l'espace ${\displaystyle \,D([0,1])}$ des fonctions càdlàg (continues à droite et avec limites à gauche) sur [0,1] muni de la topologie de Skorokhod.

Ce théorème précise le théorème fondamental de la statistique, le Théorème de Glivenko-Cantelli, en donnant la vitesse de convergence, ${\displaystyle \,{\mathcal {O}}\left(1/{\sqrt {n}}\right),\ }$ du processus empirique vers la fonction de répartition. Il justifie l'emploi de la distribution de Kolmogorov-Smirnov dans le test du même nom.

À voir[modifier | modifier le code]

Notes[modifier | modifier le code]

Références[modifier | modifier le code]

• (en) Russell Davidson et James McKinnon, Estimation and Inference in Econometrics, New York, Oxford University Press, 1993 (ISBN 0-19-506011-3), p. 874
• (en) Geoffrey Grimmett et D.R. Stirzaker, Probability and random processes, Oxford New York, Clarendon Press Oxford University Press, 1992, 2^e éd. (ISBN 0-19-853665-8), p. 271-285
• (en) Adrianus Willem van der Vaart, Asymptotic Statistics, Cambridge, Cambridge University Press, 1998 (ISBN 0-521-49603-9), p. 443

Article connexe[modifier | modifier le code]

Topologie vague (en)

• Portail des probabilités et de la statistique