Inégalité de Chernoff

En théorie des probabilités, l'inégalité de Chernoff permet de majorer la queue d'une loi de probabilité, c'est-à-dire qu'elle donne une valeur maximale de la probabilité qu'une variable aléatoire dépasse une valeur fixée. On parle également de borne de Chernoff. Elle est nommée ainsi en l'honneur du mathématicien Herman Chernoff.

Il s'agit d'une inégalité de concentration, c'est-à-dire que cette inégalité fournit des bornes sur la probabilité qu'une variable aléatoire dévie d'une certaine valeur.

Énoncés

Il existe de nombreux énoncés, et de nombreux cas particuliers.

Cas général

Soit $X$ une variable aléatoire réelle dont la fonction génératrice des moments est telle que, pour un certain réel $t$,

$\varphi (t)=𝔼[e^{tX}]<+\mathrm{\infty }.$

Alors, pour tout $a\ge 0$, l'inégalité de Markov appliquée à la variable aléatoire $e^{tX}$ stipule que

$\text{si }t>0,\mathbb{P}(X\ge a)\le e^{-ta}𝔼[e^{tX}]$ et

$\text{si }t<0,\mathbb{P}(X\le -a)\le e^{ta}𝔼[e^{tX}].$

Avec des variables symétriques et une espérance nulle

Soient $X_1,X_2,\dots ,X_n$ des variables aléatoires indépendantes, telles que $𝔼[X_i]=0$ et $\left|X_i\right|\le 1$ pour tout i. On pose $X=\sum _{i=1}^n{X}_i$ et on appelle σ² la variance de X.

Alors, on a pour tout $0\le k\le 2\sigma$:

$\mathbb{P}(X\ge k\sigma )\le e^{-k^2/4}$ ainsi que $\mathbb{P}(-X\ge k\sigma )\le e^{-k^2/4}$,

et donc aussi $\mathbb{P}(\left|X\right|\ge k\sigma )\le 2e^{-k^2/4}$.

Avec des variables symétriques booléennes

Soient $X_1,X_2,\dots ,X_n$ des variables aléatoires booléennes (i.e. à valeurs dans $\{0,1\}$) indépendantes, de même espérance p, alors $\mathrm{\forall }\epsilon >0$,

$\mathbb{P}(\frac{1}{n}\sum _{i=1}^n{X}_i>p+\epsilon )\le e^{-2{\epsilon }^{2}n}$, et $\mathbb{P}(\frac{1}{n}\sum _{i=1}^n{X}_i<p-\epsilon )\le e^{-2{\epsilon }^{2}n}$.

Démonstration

Il existe plusieurs manières de démontrer ces inégalités.

Cas général

Avec des variables symétriques booléennes

Applications

Ces inégalités sont très utilisées en informatique théorique, notamment en théorie de la complexité et en algorithmique, où elles permettent de prouver des résultats sur les algorithmes probabilistes.

Voir aussi théorie des grandes déviations.

Extensions

On peut écrire des généralisations intéressantes pour les matrices aléatoires, appelées en anglais Modèle:Lien.

Voir aussi

Bibliographie

• Modèle:En Kirill Levchenko (UCSD), Chernoff bound

• Modèle:OuvrageModèle:Plume