Voir la source de Indépendance (probabilités)

{{homon|Indépendance}}
[[Fichier:Dice.jpg|vignette|Paire de dés : les résultats de chacun des dés sont indépendants.]]
L''''indépendance''' est une notion probabiliste qualifiant de manière intuitive des [[Événement (mathématiques)|événements aléatoires]] n'ayant aucune influence l'un sur l'autre. Il s'agit d'une notion très importante en [[statistique]] et en [[théorie des probabilités]].

Par exemple, la valeur d'un premier lancer de dés n'a aucune influence sur la valeur du second lancer. De même, pour '''un''' lancer, le fait d'''obtenir une valeur inférieure ou égale à quatre'' n'influe en rien sur la [[probabilité]] que ''le résultat soit pair ou impair''<ref name="ex_intro">En effet <math>\mathbb{P}(x\mod 2=0|x\in \{1,2,3,4\}) = \frac{1}{2} = 
\mathbb{P}(x\mod 2=0|x\in \{1,2,3,4,5,6\})</math></ref> : les deux événements sont dits ''indépendants''.

L'indépendance ou non de deux événements n'est pas toujours facile à établir{{Par exemple}}.

== Indépendance de deux événements ==
La définition mathématique de l'indépendance de deux événements est la suivante :
{{Théorème|Définition| Soit <math>(X,\mathcal A, \mathbb{P})</math> un [[espace de probabilité]], et <math>A,B\in\mathcal A</math> deux événements. On dit que <math>A</math> et <math>B</math> sont indépendants lorsque <math> \mathbb{P}(A \cap B) = \mathbb{P}(A)\mathbb{P}(B).</math>}}
La définition mathématique ci-dessus est assez peu parlante. Le lien entre le concept intuitif d'indépendance et la {{Citation|formule produit}} ci-dessus apparaît plus clairement si l'on introduit la notion de ''[[probabilité conditionnelle]]'' :
{{Théorème|Définition|Si <math>\mathbb{P}(B) \neq 0,</math> la ''probabilité conditionnelle'' de <math>A</math> sachant <math>B</math>, notée <math>\mathbb{P}_B(A),</math> est définie par la relation ci-dessous :
<center><math>\mathbb{P}_B(A)={\mathbb{P}(A \cap B) \over \mathbb{P}(B)}.  </math></center> }}
En excluant les cas particuliers peu intéressants où <math>B</math> est impossible, i.e. dans le cas où <math>\mathbb{P}(B) = 0,</math> et où <math>B</math> est certain, i.e. dans le cas où  <math>\mathbb{P}(B) = 1,</math> on peut alors reformuler la définition de l'indépendance de la manière suivante
{{Théorème|Proposition|Lorsque la probabilité de <math>B</math> n'est '''ni nulle, ni égale à <math>1</math>''', <math>A</math> et <math>B</math> sont indépendants  si et seulement si l'une des conditions suivantes, toutes équivalentes, est remplie :
<center><math>\begin{align}\mathbb{P}_B(A)\ &=\ \mathbb{P}(A),\\\mathbb{P}_{\overline{B}}(A)\ &=\ \mathbb{P}(A),\\\mathbb{P}_B(A)\ &=\ \mathbb{P}_{\overline{B}}(A).\end{align}</math></center>}}
Ainsi les événements <math>A</math> et <math>B</math> sont dits indépendants si notre pronostic sur l'événement <math>A</math> est le même :
* si on sait que l'événement <math>B</math> s'est produit (pronostic <math>\mathbb{P}_B(A)</math>),
* si on sait que l'événement <math>B</math> ne s'est pas produit (pronostic <math>\mathbb{P}_{\overline{B}}(A)</math>),
* si on ne sait rien sur le statut de l'événement <math>B</math> (pronostic <math>\mathbb{P}(A)</math>).
Autrement dit, <math>A</math> est dit indépendant de <math>B</math> si notre pronostic sur l'événement <math>A</math> n'est affecté par aucune information concernant <math>B</math>, ni par l'absence d'information concernant <math>B</math>. On peut échanger les rôles de <math>A</math> et de <math>B</math> dans la définition utilisant les probabilités conditionnelles, à condition bien sûr d'exclure les cas particuliers peu intéressants où <math>A</math> est ''impossible'', et où <math>A</math> est ''certain''. 

Bien que la définition utilisant les probabilités conditionnelles soit plus intuitive, elle a l'inconvénient d'être moins générale, et de ne pas faire jouer un rôle symétrique aux deux événements <math>A</math> et <math>B</math>. 

Notons par ailleurs qu'un événement certain <math>A</math> est indépendant de tout événement <math>B</math> quel qu'il soit. Un événement impossible est également indépendant de tout autre événement. En particulier, un événement <math>A</math> est indépendant de lui-même à la condition que <math>A</math> soit certain ou impossible. En effet, si l'événement <math>A</math> est indépendant de lui-même, on peut écrire :

<center><math>\mathbb{P}(A) = \mathbb{P}(A \cap A) = \mathbb{P}(A)\mathbb{P}(A),\,</math></center>
et on en déduit que la probabilité de l'événement <math>A</math> vaut soit <math>0</math>, soit <math>1</math>.

== Indépendance d'un nombre quelconque d'événements ==
La notion d'indépendance peut être étendue à <math>n</math> événements, via la notion d'[[#Indépendance des tribus|indépendance des tribus]], mais on va plutôt donner ici deux critères plus lisibles : 
{{Théorème|Critère 1|<math>n</math> événements  <math>A_1,A_2,\dots,A_n</math> sont dits indépendants
si et seulement si, pour toute partie <math>I\subset\{1,2,\dots,n\},</math> on a
<center><math>\mathbb{P}\left(\bigcap_{i\in I}\ A_i\right)\ =\ \prod_{i\in I}\ \mathbb{P}(A_i).</math></center>}}
Le nombre total de conditions à vérifier est donc le nombre de parties <math>I\subset\{1,2,\dots,n\}</math> possédant au moins deux éléments, à savoir :
<center><math>{n\choose 2} + {n\choose 3} + \cdots + {n\choose n} = 2^{n} - (n+1).</math></center>
L'indépendance des ''n'' événements <math>A_1,A_2,\dots,A_n</math> entraîne que
<center><math>\mathbb{P}(A_1 \cap \cdots \cap A_n)=\mathbb{P}(A_1)\,\cdots\,\mathbb{P}(A_n),</math></center>
ce qui correspond au choix particulier <math>I\ =\{1,2,\dots,n\},</math> mais est une propriété beaucoup plus faible que l'indépendance. Dans le même esprit, comme on le constate dans l'exemple ci-dessous, <math>n</math> événements peuvent être indépendants deux à deux, ce qui correspond à vérifier la propriété pour toutes les parties <math>I\ \subset\{1,2,\dots,n\}</math> ''à 2 éléments'', sans pour autant être indépendants :
{{exemple|On lance deux dés et on pose 
* <math>A_1</math> : le résultat du lancer du dé {{numéro|1}} est pair,
* <math>A_2</math> : le résultat du lancer du dé {{numéro|2}} est pair,
* <math>A_3</math> : la somme des résultats des 2 lancers est impaire.
On a  
<center><math>\mathbb{P}(A_1 \cap A_2 \cap A_3)\ =\ 0\ \neq\ \tfrac18\ =\ \mathbb{P}(A_1)\mathbb{P}(A_2)\mathbb{P}(A_3),</math></center>
alors que, pourtant, pour <math>i\neq j</math> choisis arbitrairement,
<center><math>\mathbb{P}(A_i)=\mathbb{P}(A_j)=\tfrac12\quad\text{et}\quad\mathbb{P}(A_i\cap A_j)=\tfrac14.</math></center>
}}
{{Théorème|Critère 2|<math>n</math> événements  <math>A_1,A_2,\dots,A_n</math> sont dits indépendants
si et seulement si, pour tout choix de <math>\varepsilon\in\{0,1\}^n,</math> on a
<center><math>\mathbb{P}\left(\bigcap_{i= 1}^n\ A_i^{\varepsilon_i}\right)\ =\ \prod_{i=1}^n\ \mathbb{P}(A_i^{\varepsilon_i}),</math></center>
où, par convention, <math>A_i^0=\overline{A_i},</math> et <math>A_i^1=A_i.</math> }}

== Indépendance des variables aléatoires ==

=== Définitions ===
Il y a plusieurs définitions équivalentes de l'indépendance d'une famille finie de variables aléatoires. On peut en particulier définir l'indépendance d'une famille de tribus, et voir ensuite l'indépendance des événements et l'indépendance des variables aléatoires comme des cas particuliers de l'indépendance des tribus. Cela permet de démontrer certains résultats généraux sur l'indépendance une seule fois, pour les tribus, puis de déduire immédiatement de ce résultat général la version {{Citation|événements}} et la version {{Citation|variables aléatoires}} (un exemple est le lemme de regroupement). Cependant, il est peut-être préférable de donner d'abord deux définitions de l'indépendance des variables aléatoires qui soient opératoires pour les applications, et quelques critères commodes. 

Dans ce qui suit on considère une famille <math>(X_1, X_2, \dots,X_n)</math> de variables aléatoires définies sur le même espace de probabilité <math>(\Omega, \mathcal{A}, \mathbb{P})</math>, mais éventuellement à valeurs dans des espaces différents :<math>X_i\ :\ (\Omega, \mathcal{A}, \mathbb{P})\ \rightarrow\ (E_i,\mathcal{E}_i),\quad 1\le i\le n.</math>
{{Théorème|Définition|{{refnec|<math>(X_1, X_2, \dots,X_n)</math>  est une famille de variables aléatoires indépendantes si l'une des deux conditions suivantes est remplie :}}
* <math>\forall (A_1,\dots,A_n)\in\mathcal{E}_1\times\dots\times\mathcal{E}_n</math>,{{Retrait|<math>\quad\mathbb{P}(X_1\in A_1\text{ et }X_2\in A_2\dots\text{ et }X_n\in A_n)\ =\  \prod_{i=1}^n\mathbb{P}(X_i\in A_i),</math>}}
* on a l'égalité{{Retrait|<math>\mathbb{E}\left[\prod_{i=1}^n\ \varphi_i(X_i)\right]\ =\  \prod_{i=1}^n\mathbb{E}\left[\varphi_i(X_i)\right],</math>}}{{Retrait|pour n'importe quelle suite de fonctions <math>\varphi_i</math> définies sur <math>(E_i,\mathcal{E}_i),</math> à valeurs dans <math>\R,</math> dès que les espérances ci-dessus ont un sens.}}}}
Les espérances ci-dessus ont un sens si les <math>\varphi_i</math> sont mesurables, et si <math>\prod_{i=1}^n\ \varphi_i(X_i)</math> est intégrable, ou si les <math>\varphi_i</math> sont mesurables et positives ou nulles. Typiquement, dans les applications, <math>(E_i,\mathcal{E}_i)=(\mathbb{R}^{d_i},\mathcal{B}(\mathbb{R}^{d_i})).</math> Dans le cas de deux variables aléatoires réelles cela donne :

{{Théorème|Définition|Deux variables aléatoires réelles <math>X</math> et <math>Y</math> sont indépendantes si l'une des deux conditions suivantes est remplie :
* <math>\forall (A,B)\in\mathcal{B}(\mathbb{R})^{2},\quad\mathbb{P}(X\in A\text{ et }Y\in B)\ =\  \mathbb{P}(X\in A)\ \mathbb{P}(Y\in B),</math>
* pour tout couple de fonctions boréliennes <math>g</math> et <math>h,</math>  dès que les espérances ci-dessous ont un sens, on a{{Retrait|<math>\mathbb{E}\left[g(X)\cdot h(Y)\right] = \mathbb{E}[g(X)]\cdot \mathbb{E}[h(Y)].</math>}}}}

Les définitions précédentes traitent de familles '''''finies''''' de variables aléatoires, numérotées de <math>1</math> à <math>n</math> par commodité, sans que cela restreigne la généralité des énoncés : en effet, on peut toujours numéroter de <math>1</math> à <math>n</math> les éléments d'une famille finie de variables aléatoires. De plus, les définitions font jouer des rôles symétriques à chaque élément de la famille, si bien que le choix d'une numérotation ou d'une autre est sans effet sur la vérification de la définition.

L'indépendance d'une famille quelconque (éventuellement infinie) de variables aléatoires est la suivante :
{{Théorème|Définition|Une famille '''quelconque''' <math>(X_{j})_{j\in J}</math> de variables aléatoires définies sur  <math>(\Omega,\mathcal{A},\mathbb{P})</math>  est une famille de variables aléatoires ''indépendantes'' si et seulement si  ''toute sous famille finie'' de <math>(X_{j})_{j\in J}</math> est une famille de variables aléatoires  indépendantes (c'est-à-dire, si et seulement si, pour toute partie finie <math>I</math> de <math>J</math>, <math>(X_{i})_{i\in I}</math> est une famille de variables aléatoires indépendantes).}}

=== Cas des variables aléatoires à densité ===
Soit une famille <math>(X_1, X_2, \dots,X_n)</math> de variables aléatoires réelles définies sur le même espace de probabilité<math>(\Omega, \mathcal{A}, \mathbb{P})</math>, et <math>X=X_1\dots X_n</math> leur produit.
{{Théorème|
* Si <math>X</math> possède une [[densité de probabilité]]   <math>f:\R^n\rightarrow [0,+\infty[</math> à variables séparées, i.e. qui  s'écrit sous forme d'un produit de fonctions d'une variable:

{{Retrait|<math>\forall x=(x_1,\dots,x_n)\in\R^n,\qquad f(x)\ =\  \prod_{i=1}^ng_i(x_i),</math>}}

{{Retrait|où les fonctions <math>g_i</math>  sont boréliennes et positives ou nulles, alors les <math>X_i</math> sont indépendantes. De plus, la fonction <math>f_i</math> définie par}}
{{Retrait|<math>f_i(x)\ =\  \frac{g_i(x)}{\int_{\R}g_i(u)du}</math>}}

{{Retrait|est une densité de probabilité de la variable aléatoire <math>X_i.</math>}}

* Réciproquement, si  les <math>X_i</math> sont indépendantes, de densités de probabilité respectives <math>f_i,</math> alors <math>X</math> possède une densité de probabilité, et la fonction  <math>f</math> définie par
{{Retrait|<math>\forall (x_1,\dots,x_n)\in\R^n,\qquad f(x_1,\dots,x_n)\ =\  \prod_{i=1}^nf_i(x_i),</math>}}
{{Retrait|est une densité de probabilité de <math>X.</math>}}}}{{Démonstration|titre= Démonstration dans le cas de deux variables|
'''Sens direct.'''

Comme <math>f(x_1,x_2)=g_1(x_1)g_2(x_2)</math> est à variables séparées, on a, par le [[Théorème de Fubini]]

<center><math>\begin{align}
1
&= \int_{\R^2}f(x_1,x_2) \, dx_1 \, dx_2\\
&= \int_{\R^2}g_1(x_1)g_2(x_2) \, dx_1 \, dx_2\\
&=\left(\int g_1(x_1)\, dx_1\right) \left(\int g_2(x_2) \, dx_2\right)
\end{align}
</math>
</center>

et 

<center><math>\begin{align}
f(x_1,x_2) 
&= g_1(x_1)\, g_2(x_2)
\\
&= \frac{g_1(x_{1})}{\int_{\R}g_1(u)du}\ \frac{g_2(x_{2})}{\int_{\R}g_2(v)dv}\\
&= f_1(x_1) \,f_{2}(x_2).
\end{align}</math></center>

Par construction les fonctions <math>f_i</math> sont d'intégrale 1, donc

<center><math>\begin{align}
\int_{\R} f(x_1,x_2) dx_2 
&= f_1(x_1),
\\
\int_{\R} f(x_1,x_2) dx_1 
&= f_2(x_2).
\end{align}</math></center>

Ainsi les fonctions <math>f_i</math> sont les [[Loi de probabilité marginale|densités de probabilités marginales]] des deux composantes de <math>X.</math> Par suite, pour tout couple de fonctions  <math>\varphi</math> et <math>\psi</math> tel que le premier terme ci-dessous ait un sens, on a 

<center><math>\begin{align}
\operatorname{E}[\varphi(X_1)\psi(X_2)]
&= \int \int \varphi(x_1)\psi(x_2)f(x_1,x_2) \, dx_1 \, dx_2\\
&= \int \int \varphi(x_1)f_1(x_1)\psi(x_2)f_2(x_2) \, dx_1 \, dx_2\\
&= \int \varphi(x_1)f_1(x_1) \, dx_1 \int \psi(x_2)f_{2}(x_2) \, dx_2\\
&= \operatorname{E}[\varphi(X_1)] \operatorname{E}[\psi(X_2)]\end{align}</math></center>

ce qui entraine l'indépendance des variables  <math>X_{1}</math>  et  <math>X_{2}.</math> 

'''Sens réciproque.'''
Il suffit de montrer que 
<center><math>\forall A\in \mathcal{B}(\R^2),\quad \mathbb{P}_{X}(A)=\mu(A),</math></center>
où <math>\mathbb{P}_{X}</math> est la loi de  <math>X,</math> et où <math>\mu</math> est la mesure ayant pour densité  <math> (x_1,x_2)\rightarrow f_1(x_1)f_{2}(x_2).</math> Or
<center><math>\forall A\in \mathcal{C},\quad \mathbb{P}_{X}(A)=\mu(A),</math></center>
où <math>\mathcal{C}</math> est la classe des pavés boréliens :
<center><math>\mathcal{C}\ =\ \{A_1\times A_2\ |\ A_i\in\mathcal{B}(\R),i\in\{1,2\}\}. </math></center>
En effet
<center><math>\begin{align}
\mathbb{P}_{X}(A_1\times A_2)
&= \mathbb{P}(X_1\in A_1\text{ et }X_2\in A_2)\\
&= \mathbb{P}(X_1\in A_1)\mathbb{P}(X_2\in A_2)\\
&= \left(\int_{\R} 1_{A_1}(x_1)f_1(x_1) \, dx_1\right)\left(\int_{\R} 1_{A_2}(x_2)f_2(x_2) \, dx_2\right)\\
&= \int_{\R^2} 1_{A_1\times A_2}(x_1,x_2)f_1(x_1)f_2(x_2) \, dx_1 \, dx_2\\
&= \mu(A_1\times A_2)\end{align}.</math></center>
On remarque alors que  <math>\mathcal{C}</math> est un [[Lemme de classe monotone|π-système]] et que la tribu engendrée par   <math>\mathcal{C}</math> est <math> \mathcal{B}(\R^2),</math> donc, en vertu du [[Lemme de classe monotone#Lemme d'unicité des mesures de probabilité|lemme d'unicité des mesures de probabilités]],
<center><math>\forall A\in \mathcal{B}(\R^2),\quad \mathbb{P}_{X}(A)=\mu(A).</math></center>}}

=== Cas des variables discrètes ===
Dans le cas des variables discrètes, un critère d'indépendance utile est le suivant :
{{Théorème|Cas discret|Soit <math>X=(X_1, X_2, \dots, X_n)</math> une suite de  variables aléatoires discrètes, et soit  <math>(S_1, S_2, \dots, S_n)</math> une suite d'ensembles finis ou dénombrables tels que, pour tout <math>i\le n</math>, <math>\mathbb{P}(X_i\in S_i)=1.</math> Alors la famille <math>(X_1, X_2, \dots,X_n)</math> est une suite de  variables aléatoires indépendantes si, pour tout <math>x=(x_1,x_2, \dots, x_n)\in \prod_{i=1}^n\,S_i,</math> 
<center><math> \mathbb{P}\left(X= x\right)\ =\ \prod_{i=1}^n\,\mathbb{P}\left(X_i= x_i\right).</math></center>
}}
{{exemple|nom=Loi uniforme sur un produit cartésien|
* Soit  <math>(E_1, E_2, \dots,E_n)</math> une suite d'ensembles finis, de [[cardinal d'un ensemble fini|cardinaux]] respectifs <math>\# E_i</math>, et soit   <math>X=(X_1, X_2, \dots,X_n)</math> une variable aléatoire [[Loi uniforme discrète|uniforme]] à valeurs dans le [[produit cartésien]] :
<center><math> E\ =\ E_1\times E_2\times E_3\times\ \dots\ \times E_n.</math></center>
{{Retrait|Alors la suite <math>X</math> est une suite de variables aléatoires indépendantes, et, pour chaque <math>i</math>, la variable aléatoire <math>X_i</math> suit la loi [[Loi uniforme discrète|uniforme]] sur <math>E_i</math>. En effet, considérons une suite <math>Y=(Y_i)_{i\le i\le n}</math> de variables aléatoires indépendantes, chaque <math>Y_i</math> étant uniforme sur l'ensemble <math>E_i</math> correspondant. Alors, pour tout élément <math>x=(x_i)_{1\le i\le n}</math> de <math>E</math>,}}
<center><math> \begin{align}\mathbb{P}\left(X= x\right)&=\frac1{\# E}\\
&=\prod_{i=1}^n\frac1{\# E_i}\\
&=\prod_{i=1}^n\,\mathbb{P}\left(Y_i= x_i\right)\\
&= \mathbb{P}\left(Y= x\right),\end{align}</math></center>
{{Retrait|la deuxième égalité résultant de la [[Dénombrement#Dénombrement dans des ensembles finis|formule]] donnant le nombre d'éléments d'un [[produit cartésien]] d'ensembles, la {{4e}} de l'indépendance des <math>Y_i</math>,  les autres égalités résultant de la définition de la [[Loi uniforme discrète|loi uniforme]]. Ainsi les suites <math>X</math> et <math>Y</math> ont même loi, ce qui entraîne bien que <math>X</math> est une suite de variables aléatoires indépendantes dont les composantes suivent des lois uniformes.}}
* Une application de ce critère est l'indépendance des composantes du [[Code de Lehmer#Indépendance des rangs relatifs|code de Lehmer]] d'une [[permutation]], qui permet d'obtenir simplement la [[fonction génératrice]] des [[Nombre de Stirling#Nombre de Stirling de première espèce|nombres de Stirling]] de première espèce.
* Un autre application est l'indépendance des chiffres du [[développement décimal]] d'un nombre [[Loi uniforme continue|uniforme]] dans l'intervalle [0,1], indépendance qui est la clé de la démonstration du théorème des [[Nombre normal|nombres normaux]] par [[Émile Borel]].}}

=== Autres critères d'indépendance ===
Par exemple,

{{Théorème|Critères|Soit <math>X</math> et <math>Y</math>  deux variables aléatoires réelles définies sur un [[espace probabilisé]]  <math>(\Omega,\mathcal{A},\mathbb{P}).</math>
* Si, pour tout couple <math>(x,y)</math> de nombres réels, 
<center><math> \mathbb{P}\left(X\le x\text{ et }Y\le y\right)\ =\ \mathbb{P}\left(X\le x\right)\times\mathbb{P}\left(Y\le y\right),</math></center>
{{Retrait|alors <math>X</math> et <math>Y</math> sont [[#Indépendance des variables aléatoires|indépendantes]].}}
* Si <math>Y</math> est à valeurs dans <math>\mathbb{N},</math> et si, pour tout couple <math>(x,n)\in\mathbb{R}\times\mathbb{N},</math> 
<center><math> \mathbb{P}\left(X\le x\text{ et }Y=n\right)\ =\ \mathbb{P}\left(X\le x\right)\times\mathbb{P}\left(Y=n\right),</math></center>
{{Retrait|alors <math>X</math> et <math>Y</math> sont indépendantes.}}
* Bien sûr, si <math>X</math> et <math>Y</math> sont à valeurs dans <math>\mathbb N</math> et si, pour tout couple <math>(m,n)\in\mathbb{N}^2,</math> 
<center><math> \mathbb{P}\left(X=m\text{ et }Y=n\right)\ =\ \mathbb{P}\left(X=m\right)\times\mathbb{P}\left(Y=n\right),</math></center>
{{Retrait|alors ''X'' et ''Y'' sont indépendantes.}}}}
Par exemple, on peut utiliser le deuxième critère pour démontrer que dans la [[méthode de rejet]], le nombre d'itérations est indépendant de l'objet aléatoire (souvent un nombre aléatoire) engendré au terme de ces itérations.

On peut généraliser ces critères d'indépendance à des familles ''finies'' quelconques de variables aléatoires réelles, dont certaines, éventuellement, sont des variables discrètes, à valeurs dans des parties finies ou dénombrables de ℝ éventuellement différentes de <math>\mathbb N</math>. Une démonstration de ces critères se trouve à la page « [[Lemme de classe monotone]] ».

=== Indépendance et corrélation ===
L'indépendance implique que la [[covariance]], et donc la [[Corrélation (statistiques)|corrélation]], entre les deux variables est nulle:

{{Théorème|''X'' et ''Y'' sont indépendantes <math>\Rightarrow \operatorname{Cov}(X,Y)=\operatorname{Corr}(X,Y)=0</math>}}

{{Démonstration|Cette propriété se déduit très facilement si l'on exprime la covariance comme : <math>\operatorname{cov}(X, Y) = \operatorname{E}(X Y) - \operatorname{E}(X)\operatorname{E}(Y)</math>. Comme on l'a vu, l'indépendance de <math>X</math> et <math>Y</math> entraîne que <math>\operatorname{E}(X Y)= \operatorname{E}(X)\operatorname{E}(Y)</math>, donc <center><math>\operatorname{cov}(X, Y) = \operatorname{E}(X Y) - \operatorname{E}(X)\operatorname{E}(Y)=\operatorname{E}(X)E(Y)-\operatorname{E}(X)\operatorname{E}(Y)=0.</math></center> }}

La réciproque du théorème est fausse, comme le montre l'exemple suivant :
{{Exemple| Cet exemple est tiré de Ross (2004, p. 306) 
* Soit ''X'' une variable aléatoire discrète telle que <math> \mathbb{P}(X=0)=\mathbb{P}(X=1)=\mathbb{P}(X=-1)=\frac{1}{3}</math>. 
* Définissons ''Y'' en relation avec ''X'' : <math> \begin{cases} 
0 & \text{si } X\neq 0\\
1 & \text{si } X= 0\\
\end{cases}</math>
* On calcule <math>\operatorname{E}[XY]= \frac{1}{3}(0\cdot 1)+\frac{1}{3}(1\cdot 0)+\frac{1}{3}(-1\cdot 0)=0</math>. 
* On voit aussi que <math>\operatorname{E}[X]= \frac{1}{3}(0)+\frac{1}{3}(1)+\frac{1}{3}(-1)=0+1-1=0</math>. 
* donc : <math>\operatorname{cov}(X, Y) = \operatorname{E}(X Y) - \operatorname{E}(X)\operatorname{E}(Y)=0-0=0</math>. 
* Pourtant les deux variables ne sont bien évidemment pas indépendantes !}}

La non-corrélation entre <math>X</math> et <math>Y</math> est une propriété plus faible que l'indépendance. En fait l'indépendance entre <math>X</math> et <math>Y</math> est équivalente à la non-[[Corrélation (statistiques)|corrélation]] de <math>\varphi(X)</math> et de <math>\psi(Y)</math> pour tout choix de <math>\varphi</math> et de <math>\psi</math> (tels que la covariance de <math>\varphi(X)</math> avec <math>\psi(x)</math> soit définie…).

== Indépendance des tribus ==
{{Théorème|Définition|Dans un [[espace probabilisé]]  <math>(\Omega,\mathcal{A},\mathbb{P}),</math> 
* une famille '''finie''' <math>(\mathcal{A}_{i})_{i\in I}</math> de tribus incluses dans <math>\mathcal{A}</math>  est une famille de tribus ''indépendantes'' si et seulement si
<center><math>\forall (A_i)_{i\in I}\in\prod_{i\in I}\mathcal{A}_i,\qquad \mathbb{P}\left(\bigcap_{i\in I}A_i\right)=\ \prod_{i\in I}\ \mathbb{P}(A_i).</math></center>
* une famille '''quelconque''' <math>(\mathcal{A}_{j})_{j\in J}</math> de tribus incluses dans <math>\mathcal{A}</math>  est une famille de tribus ''indépendantes'' si et seulement si  ''toute sous famille finie'' de <math>(\mathcal{A}_{j})_{j\in J}</math> est une famille de tribus indépendantes (c'est-à-dire, si et seulement si, pour toute partie finie ''I'' de ''J'', <math>(\mathcal{A}_{i})_{i\in I}</math> est une famille de tribus indépendantes).}}
=== Lien avec l'indépendance des événements ===
{{Théorème|Définition|
Une famille <math>(A_{j})_{j\in J}</math> d'événements (c'est-à-dire d'éléments de  <math>\mathcal{A}</math>) est une famille d'événements indépendants si et seulement si <math>\left(\sigma(A_{j})\right)_{j\in J}</math>  est une famille de tribus indépendantes.
}}
Comme la [[Tribu (mathématiques)#Tribu engendrée par un ensemble de parties|tribu]] <math>\sigma({A})</math> engendrée par <math>A</math> est décrite par :
<center><math>\sigma(A)\ =\ \left\{A,\overline{A},\Omega,\emptyset\right\},</math></center>
la définition donnée dans cette section pour une famille quelconque d'événements, une fois particularisée à une famille de  <math>n</math> événements, apparaît comme plus forte que les deux critères donnés [[#Indépendance d'un nombre quelconque d'événements|plus haut]]. En effet, pour un choix approprié des événements <math>B_i</math> dans la définition
<center><math>\left\{\forall (B_i)_{1\le i\le n}\in\prod_{i=1}^n\sigma({A}_i),\qquad \mathbb{P}\left(\bigcap_{i=1}^nB_i\right)=\ \prod_{i=1}^n\ \mathbb{P}(B_i)\right\},</math></center>
donnée dans cette section, on retrouve le critère 1 (choisir tantôt <math>\Omega,</math> tantôt <math>A_i</math> dans <math>\sigma({A}_i)</math>) et le critère 2 (choisir tantôt <math>A_i,</math> tantôt <math>\overline{A_i}</math> dans <math>\sigma({A}_i)</math>). Pourtant les critères 1 et 2 sont effectivement équivalents à la définition via les tribus, donnée dans cette section, mais cela mérite démonstration.

=== Lien avec l'indépendance des variables aléatoires ===
{{Théorème|Définition|
Une famille <math>(X_{j})_{j\in J}</math> de [[Variable aléatoire|variables aléatoires]] définies sur <math>(\Omega,\mathcal{A},\mathbb{P})</math>  est une famille de variables aléatoires indépendantes si et seulement si <math>\left(\sigma(X_{j})\right)_{j\in J}</math>  est une famille de tribus indépendantes.}}

Comme la [[Tribu (mathématiques)|tribu]] <math>\sigma(X)</math> engendrée par une variable aléatoire <math>X,</math> définie de <math>(\Omega,\mathcal{A},\mathbb{P})</math> dans <math>(E,\mathcal{E}),</math> est définie par :
<center><math>\sigma(X)\ =\ \left\{X^{-1}(B)\ \left|\ B\in\mathcal{E}\right.\right\},</math></center>
la définition donnée dans cette section pour une famille quelconque de variables aléatoires, une fois particularisée à une famille de <math>n</math> variables aléatoires, est clairement équivalente à la définition de la section [[#Indépendance des variables aléatoires|Indépendance des variables aléatoires]]. En effet
<center><math>\mathbb{P}\left(X_1\in A_1\text{ et }X_2\in A_2\text{ et }\dots\text{ et }X_n\in A_n\right)</math></center>
est une notation pour
<center><math>\mathbb{P}\left(\bigcap_{i=1}^nX_i^{-1}(A_i)\right),</math></center>
et
<center><math>\mathbb{P}\left(X_i\in A_i\right)</math></center>
est une notation pour
<center><math>\mathbb{P}\left(X_i^{-1}(A_i)\right).</math></center>

=== Propriétés élémentaires ===
{{Théorème|Propriétés|
* Une sous-famille d'une famille de tribus indépendantes est une famille de tribus indépendantes : si la famille <math>(\mathcal{A}_{j})_{j\in J}</math>  est une famille de tribus ''indépendantes'' et si  <math>I\subset J,</math> alors <math>(\mathcal{A}_{i})_{i\in I}</math>  est une famille de tribus indépendantes.
* Si, pour tout <math>j\in J,</math> la tribu <math>\mathcal{B}_{j}</math> est incluse dans la tribu <math>\mathcal{A}_{j},</math> et si la famille <math>(\mathcal{A}_{j})_{j\in J}</math>  est une famille de tribus ''indépendantes,'' alors  la famille <math>(\mathcal{B}_{j})_{j\in J}</math>  est une famille de tribus ''indépendantes''.}}

Pour démontrer le premier point on applique la définition de l'indépendance à la famille <math>(\mathcal{A}_{j})_{j\in J}</math> en spécialisant à une famille <math>(A_{j})_{j\in J}</math> d'événements telle que <math>\forall j\in J\backslash I,\quad A_{j}=\Omega.</math>Le second point est immédiat : il suffit d'écrire la définition de l'indépendance de la famille <math>(\mathcal{B}_{j})_{j\in J}.</math>

== Lemme de regroupement (ou lemme des coalitions) ==
{{article détaillé|lemme de regroupement}}
{{Théorème|Lemme de regroupement|Dans un [[espace probabilisé]]  <math>(\Omega,\mathcal{A},\mathbb{P}),</math> soit une famille ''quelconque'' <math>(\mathcal{A}_{j})_{j\in J}</math> de tribus ''indépendantes'' incluses dans <math>\mathcal{A}.</math>  Soit une [[Partition d'un ensemble|partition]] <math>\mathcal{P}=(P_{i})_{i\in I}</math> de  <math>J.</math> Notons 
<center><math>\mathcal{B}_i= \mathop{\bigvee}_{j\in P_i}\ \mathcal{A}_{j}</math></center>
la tribu engendrée par 
<center><math>\bigcup_{j\in P_i}^{}\ \mathcal{A}_{j}.</math></center>
Alors la famille  <math>(\mathcal{B}_{i})_{i\in I}</math> est une famille de tribus ''indépendantes''.
}}
{{Exemple|nom=Applications| Le lemme de regroupement est utilisé, en probabilités, très souvent et de manière quasi-inconsciente. Citons quelques exemples :
* l'[[inégalité de Kolmogorov]] ;
* la [[propriété de Markov]] pour les [[Processus de Galton-Watson#Étude fine de la taille des générations|processus de Galton-Watson]] ;
* le [[Inégalité d'Azuma#Principe de Maurey|principe de Maurey]], ou ''méthode des différences bornées''.
De manière plus élémentaire,
* dans le cas fini, si <math>(X_1, X_2, X_3, X_4, X_5)</math> est une famille de variables indépendantes, et si <math>f</math> et <math>g</math> sont deux fonctions quelconques (mesurables),  alors, par application du lemme de regroupement, <math>f(X_2, X_3, X_5)</math> et <math>g(X_1, X_4)</math> sont deux variables indépendantes, car <math>\{2, 3, 5\}</math> et <math>\{1, 4\}</math> forment une '''partition''' de <math>\{1, 2, 3, 4, 5\}</math>.
 }}

== Indépendance et information ==
Une autre façon d'appréhender cette notion d'indépendance entre deux événements est de passer par l'''information'' (au sens de la [[théorie de l'information]]) : deux événements sont indépendants si l'information fournie par le premier événement ne donne aucune information sur le deuxième événement.

Soit à tirer deux boules (rouge et blanche) d'une urne. Si on réalise l'expérience sans remettre la boule tirée dans l'urne, et que la première boule tirée est rouge, on peut déduire de cette information que la deuxième boule tirée sera blanche. Les deux événements ne sont donc pas indépendants. 

Par contre, si on remet la première boule dans l'urne avant un deuxième tirage, l'information du premier événement (la boule est rouge) ne nous donne aucune information sur la couleur de la deuxième boule. Les deux événements sont donc indépendants.

Cette approche est notamment utilisée en [[analyse en composantes indépendantes]].

== Notes et références ==
{{Références}}

== Voir aussi ==

=== Bibliographie ===
* T.-A. Banh, Calcul des probabilités, Ed. ULg, 1995.
* A. Hyvärinen, E. Oja, Independent Component Analysis, Neural Networks, 13(4-5):411-430, 2000.
* {{Ouvrage|prénom1=Sheldon M|nom1=Ross|titre=Initiation Aux Probabilités|lieu=Lausanne|éditeur=[[Presses polytechniques et universitaires romandes]]|année=2004|numéro d'édition=Trad. de la 4e éd. américaine|passage=458|isbn=}}
* {{Ouvrage
| langue        = en
| auteur1       = Olav Kallenberg
| titre         = Foundations of Modern Probability
| lieu          = New York
| éditeur       = Springer
| collection    = Probability and Its Applications
| année         = 1997
| réimpression  = 2001
| pages totales = 638
| isbn          = 0-387-95313-2
| lire en ligne = https://books.google.com/books?id=L6fhXh13OyMC&printsec=frontcover
}}

=== Articles connexes ===
* [[Lemme de Borel-Cantelli]]
* {{page h|Loi du 0-1}}
* [[Nombre univers]]
* [[Loi des grands nombres]]
* [[Théorème central limite]]
* [[Marche aléatoire]]
* [[Tribu (mathématiques)]]
* [[Analyse en composantes indépendantes]]
* [[Quasi-certitude]]
* [[Accroissement indépendant]]
{{Palette|Probabilités et statistiques}}
{{Portail|probabilités et statistiques}}

{{DEFAULTSORT:Independance (probabilites)}}
[[Catégorie:Corrélation et indépendance]]