Fonction de répartition empirique

100 visualisations d'une fonction de distribution empirique, générées à l'aide de JavaScript

En statistiques, une fonction de répartition empirique est une fonction de répartition qui attribue la probabilité 1/n à chacun des n nombres dans un échantillon.

Soit Modèle:Math un échantillon de variables iid définies sur un espace de probabilité $(\mathrm{\Omega },𝒜,\mathbb{P})$, à valeurs dans $ℝ$, avec pour fonction de répartition F. La fonction de répartition empirique $F_n$ de l'échantillon $X_1,\dots ,X_n$est définie par :

$\mathrm{\forall }x\in ℝ,\mathrm{\forall }\omega \in \mathrm{\Omega },F_n(x,\omega )=\frac{\mathrm{n}\mathrm{o}\mathrm{m}\mathrm{b}\mathrm{r}\mathrm{e}{\mathrm{d}}^{\prime }\acute{\mathrm{e}}\mathrm{l}\acute{\mathrm{e}}\mathrm{m}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{s}\le x\mathrm{d}\mathrm{a}\mathrm{n}\mathrm{s}{\mathrm{l}}^{\prime }\acute{\mathrm{e}}\mathrm{c}\mathrm{h}\mathrm{a}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{l}\mathrm{l}\mathrm{o}\mathrm{n}}{n}=\frac{1}{n}\sum _{i=1}^n{\mathrm{𝟏}}_{X_i(\omega )\le x}$

où ${\mathrm{𝟏}}_A$ est la fonction indicatrice de l'événement A.

Pour chaque Modèle:Math, l'application $x\to F_n(x,\omega )$ est une fonction en escalier, fonction de répartition de la loi de probabilité uniforme sur l'ensemble $\{X_1(\omega ),\dots ,X_n(\omega )\}$.

Pour chaque x, la variable aléatoire ${\mathrm{𝟏}}_{(X_i\le x)}$ est une variable aléatoire de Bernoulli, de paramètre Modèle:Math. Par conséquent, la variable aléatoire $\omega \to n{F}_n(x,\omega )$, qu'on notera $n{F}_n(x,.)$, est distribuée selon une loi binomiale, avec pour moyenne Modèle:Math et pour variance Modèle:Math. En particulier, Modèle:Math est un estimateur non-biaisé de Modèle:Math.

Propriétés asymptotiques

• Par la loi forte des grands nombres,

pour tout x, $F_n(x,.)\to F(x)$ presque sûrement.

• Par le théorème central limite,

$\sqrt{n}(F_n(x,.)-F(x))$ converge en loi vers une loi normale $𝒩(0,F(x)(1-F(x))$ pour un x fixé.

Le théorème de Berry–Esseen procure le taux de convergence.

• Par le théorème de Glivenko-Cantelli, presque sûrement, la convergence uniforme $F_n\to F$ a lieu, ou bien, de manière équivalente :

$\Vert F_n-F{\Vert }_{\mathrm{\infty }}=\underset{x\in ℝ}{\sup }\Vert F_n(x,.)-F(x)\Vert \underset{n\to \mathrm{\infty }}{\overset{}{\to }}0$ presque sûrement.

L' inégalité de Dvoretzky-Kiefer-Wolfowitz procure le taux de convergence.

• Kolmogorov a montré que

$\sqrt{n}\Vert F_n-F{\Vert }_{\mathrm{\infty }}$ converge en distribution vers la distribution de Kolmogorov, à condition que F soit continue.

Le test de Kolmogorov-Smirnov de Modèle:Lang est basé sur ce fait.

• Par le théorème de Donsker,

$\sqrt{n}(F_n-F)$, en tant que processus indexé par x, converge faiblement dans ${\ell }^{\mathrm{\infty }}(ℝ)$ vers un pont brownien B(F(x)).

Bibliographie

• Modèle:Ouvrage
• van der Vaart, A.W. and Wellner, J.A. (1996) "Weak Convergence and Empirical Processes", Springer. Modèle:ISBN.