Convergence en loi

En théorie des probabilités, il existe différentes notions de convergence de variables aléatoires. Certaines de ces notions ne sont pas spécifiques des probabilités, mais de l'analyse en général, comme la convergence presque sûre de variables aléatoires, ou encore la convergence [[espace Lp|Modèle:Math]]. La convergence en loi de suites de variables aléatoires est un concept appartenant plus spécifiquement à la théorie des probabilités, utilisé notamment en statistique et dans l'étude des processus stochastiques. La convergence en loi est souvent notée en ajoutant la lettre $ℒ$ (ou $𝒟$ pour distribution) au-dessus de la flèche de convergence :

$X_n\stackrel{ℒ}{\to }X.$

La convergence en loi est la forme la plus faible de convergence de variables aléatoires au sens où, en général, elle n'implique pas les autres formes de convergence de variables aléatoires, alors que ces autres formes de convergence impliquent la convergence en loi. Le théorème central limite, un des résultats les plus importants de la théorie des probabilités, concerne la convergence en loi d'une suite de variables aléatoires.

Définition

Soit X une variable aléatoire et soit ${\left(X_n\right)}_{n\ge 1}$ une suite de variables aléatoires, toutes à valeurs dans le même espace métrique (E, d). Modèle:Théorème

Notons, et cela distingue la convergence en loi des autres types de convergence de variables aléatoires, que les variables aléatoires $X$ et $X_n$ ne sont pas nécessairement définies sur les mêmes espaces probabilisés mais peuvent être définies sur des espaces probabilisés tous différents, disons ${({\mathrm{\Omega }}_n,{𝒜}_n,{\mathbb{P}}_n)}_{n\ge 1}$ et $(\mathrm{\Omega },𝒜,\mathbb{P})$. En effet la convergence en loi est en réalité la convergence d'une suite de mesures de probabilités, les lois de probabilités des variables aléatoires, ${\left({\mathbb{P}}_{X_n}\right)}_{n\ge 1}$, vers la loi de X, ${\mathbb{P}}_X$. En effet, en vertu du théorème de transfert, la définition peut se réécrire : pour toute fonction $\phi$ continue bornée sur E,

$\underset{n}{\lim }\underset{E}{\int }\phi d{\mathbb{P}}_{X_n}=\underset{E}{\int }\phi d{\mathbb{P}}_X,$

ce qui impose uniquement que l'espace d'arrivée des variables aléatoires, E, soit le même. Cette reformulation fait aussi apparaître que chaque variable aléatoire peut être remplacée par une autre sans que la convergence en loi soit affectée, pourvu que les deux variables aléatoires intervenant dans l'échange aient même loi. Cette notion de convergence est équivalente à la convergence dans la topologie faible-*.

La convergence en loi est souvent notée en ajoutant la lettre $ℒ$ (ou $𝒟$ pour distribution) au-dessus de la flèche de convergence :

$X_n\stackrel{ℒ}{\to }X,\mathrm{o}\mathrm{u}\mathrm{b}\mathrm{i}\mathrm{e}\mathrm{n}{X}_n\stackrel{𝒟}{\to }X.$

Le théorème porte-manteau

La propriété 5 préfigure le Modèle:Lien. Par ailleurs la propriété 5 possède un cas particulier d'usage fréquent, dans le cas où E est la droite réelle (voir la prochaine section).

Cas des variables aléatoires réelles

Convergence en loi et fonction de répartition

Considérons une suite X₁ , X₂ , ... , X_n , de variables aléatoires réelles, et une autre variable aléatoire réelle X. Soient F₁, F₂, ..., F_n la suite des fonctions de répartition associées aux variables aléatoires réelles X₁, X₂, ..., X_n et soit F la fonction de répartition de la variable aléatoire réelle X. Autrement dit, F_n est définie par F_n(x)=P(X_n ≤ x), et F par F(x)=P(X ≤ x). On a le théorème suivant : Modèle:Théorème

Une structure possible pour la démonstration est 3.⇒1.⇒2.⇒3. Modèle:Démonstration Modèle:Démonstration Modèle:Démonstration Le point 2 sert souvent, dans le cas des variables aléatoires réelles, de définition de la convergence en loi. L'implication 1.⇒3. reste vraie lorsque les variables aléatoires réelles sont remplacées par des variables aléatoires à valeurs dans un espace de Lusin $(S,d)$, i.e. un espace métrisable assez général ($S={ℝ}^d$ et $S=𝒞([0,1],ℝ)$ en sont des exemples). L'implication 1.⇒3. porte alors le nom de théorème de représentation de Skorokhod.

Puisque F(a) = P(X ≤ a), le point 2 signifie que, pour n suffisamment grand, la probabilité que X appartienne à un certain intervalle est très proche de la probabilité que X_n soit dans cet intervalle.

Modèle:Théorème Cette conséquence du théorème de Dini est très utile, par exemple pour démontrer le théorème central limite pour les quantiles, ou pour démontrer le théorème central limite pour les processus de renouvellement.

Convergence en loi et fonctions caractéristiques

Autrement dit, (X_n) converge en loi vers X si et seulement si la fonction caractéristique de la variable aléatoire réelle X_n converge simplement vers la fonction caractéristique de la variable aléatoire réelle X.

Convergence en loi et moments

Les moments (quand ils existent) peuvent s'obtenir à partir des dérivées en 0 de la fonction caractéristique. Mais comme la convergence simple des fonctions caractéristiques n'implique pas la convergence des dérivées en 0, en règle générale la convergence en loi n'implique pas la convergence des moments.

Par exemple soit $(X_n)$ la suite des variables aléatoires tels que $P(X_n=0)=1-\frac{1}{n}$ et $P(X_n=n)=\frac{1}{n}$. Alors $(X_n)$ ont pour espérance $E(X_n)=1$ et pour variances $V(X_n)=n-1$. La suite $X_n$ converge en loi vers la constante $X=0$, la suite des espérances converge vers $1$, qui n'est pas l'espérance de la limite $E(X)=0$, et la suite des variances ne converge même pas, alors que la variance de la limite est $V(X)=0$.

En revanche, si les variables $X_n$ sont uniformément bornées ($|X_n|\le M$) et convergent en loi vers $X$, alors $X$ est bornée ($|X|\le M$) et tous les moments $E(X_n^r)$ convergent vers $E(X^r)$. Modèle:Démonstration

Exemples importants

Les exemples de convergence en loi sont foison, le plus célèbre étant le Théorème central limite, cité plus haut, dû à Pierre-Simon de Laplace, pour lequel l'espace métrique (E, d) considéré est tout simplement la droite réelle munie de sa distance usuelle. Donnons deux exemples importants où l'espace métrique considéré, l'espace de Banach $(𝒞([0,1]),||.|{|}_{\mathrm{\infty }}),$ est moins élémentaire.

Théorème de Donsker pour les marches aléatoires

Soient $(U_n,n\ge 1)$ une suite iid de variables aléatoires centrées, de carré intégrable et de variance ${\sigma }^2$. On interpole la marche aléatoire $\sum _{k=1}^n{U}_k$ de manière affine par morceaux en considérant le processus $(X_n(t),t\ge 0)$ défini, pour t ∈ [0,1], par

$X_n(t)=\frac{1}{\sigma \sqrt{n}}(\sum _{k=1}^{[nt]}{U}_k+(nt-[nt])U_{[nt]+1}),$

où $[x]$ désigne la partie entière de $x$. Considérons l'espace $𝒞([0,1])$ des fonctions à valeurs réelles et continues sur [0,1]. On munit $𝒞([0,1])$ de la tribu borélienne $ℬ$ et de la norme infinie $||.|{|}_{\mathrm{\infty }}$ . Ainsi, $X_n$ est une variable aléatoire à valeurs dans $(𝒞([0,1]),ℬ)$ . Modèle:Théorème Ici B est vu comme un élément aléatoire de $(𝒞([0,1]),ℬ)$. Les diverses normalisations, indice $[nt]$ comme indice terminal de la sommation, et facteur $\frac{1}{\sigma \sqrt{n}}$ devant la somme, correspondent à un « zoom arrière » par rapport à la trajectoire de la marche aléatoire : on « s'éloigne » de la représentation graphique de la marche aléatoire, en rétrécissant sa représentation graphique par un facteur $\frac{1}{n}$ le long de l'axe horizontal et par un facteur $\frac{1}{\sigma \sqrt{n}}$ le long de l'axe vertical, coefficients de réduction assurant, d'après le théorème central-limite, que le résultat de la réduction sera un graphe non-trivial : un coefficient de réduction vertical plus fort donnerait une trajectoire écrasée sur l'axe des abscisses, et un coefficient plus faible ferait apparaitre de fréquentes oscillations « d'amplitude infinie ». Le théorème de Donsker peut être vu comme une justification théorique de l'utilisation du mouvement brownien pour décrire la trajectoire de certaines particules, avec ses applications à l'étude du comportement thermodynamique des gaz (théorie cinétique des gaz), et du phénomène de diffusion, ou encore comme une justification théorique de l'utilisation du mouvement brownien en mathématiques financières : le mouvement brownien se comporte comme une marche aléatoire à sauts très fréquents, ces sauts étant de petite amplitude.

Théorème de Donsker pour les processus empiriques

Soit $(X_i,i\ge 1)$ une suite iid de variables aléatoires de loi uniforme sur [0,1]. On note F la fonction de répartition commune des variables $X_i$. ( $F(t)=\mathbb{P}[X_i\le t]$ ) On définit la fonction de répartition empirique F_n de l'échantillon X₁,X₂,..., X_n par

$F_n(t)=\frac{1}{n}\sum _{i=1}^{n}11_{X_i\le t},t\in [0,1]$

ainsi que le processus empirique associé W_n par

$W_n(t)=\sqrt{n}(F_n(t)-F(t))=\frac{1}{\sqrt{n}}\sum _{i=1}^n(11_{X_i\le t}-F(t)),t\in [0,1].$

Considérons l'espace $D([0,1])$ des fonctions càdlàg (continues à droite et avec limites à gauche) sur [0,1] muni de la topologie de Skorokhod.

Modèle:Théorème Ce théorème précise le théorème fondamental de la statistique, le Théorème de Glivenko-Cantelli, en donnant la vitesse de convergence, $𝒪(1/\sqrt{n}),$ du processus empirique vers la fonction de répartition. Il justifie l'emploi de la distribution de Kolmogorov-Smirnov dans le test du même nom.

À voir

Références

• Modèle:Ouvrage
• Modèle:Ouvrage
• Modèle:Ouvrage