Loi de Wishart

En théorie des probabilités et en statistique, la loi de Wishart est la généralisation multidimensionnelle de la loi du χ², ou, dans le cas où le nombre de degré de libertés n'est pas entier, de la loi gamma. La loi est dénommée en l'honneur de John Wishart qui la formula pour la première fois en 1928.

C'est une famille de lois de probabilité sur les matrices définies positives, symétriques. Une variable aléatoire de loi de Wishart est donc une matrice aléatoire. Trois lois sont d'une grande importance dans l'estimation des matrices de variance-covariance.

Si une variable aléatoire X suit une loi de Wishart, on notera $X\sim W_p(V,n)$ ou $W(V,p,n)$

Définition

Supposons que Y est une matrice Modèle:Math, les lignes sont des vecteurs aléatoires indépendants et suivent une loi normale p-dimensionnelle centrée :

$Y_{(i)}=(y_i^1,\dots ,y_i^p)\sim {𝒩}_p(0,V).$

Alors la loi de Wishart est la loi de probabilité de la matrice Modèle:Math

$X=Y^{T}Y$

connue sous le nom matrice de dispersion. L'entier naturel n est le nombre de degrés de liberté. Pour Modèle:Math, la matrice X est inversible avec probabilité 1 si V est inversible. Si p=1 et V=1, alors la loi de Wishart est la loi du χ² à n degrés de liberté.

Utilisation

La loi de Wishart apparait comme la loi d'une matrice de covariance d'un échantillon de valeurs suivant une loi normale multidimensionnelleModèle:Citnec. Elle apparait fréquemment dans les tests de maximum de vraisemblance en analyse statistique multivariée. Elle apparait également en théorie spectrale des matrices aléatoiresModèle:Citnec et en analyse bayésienne multidimensionnelleModèle:Citnec.

Densité de probabilité

La loi de Wishart peut être caractérisée par sa densité de probabilité de la manière suivante. On fixe V une matrice Modèle:Math symétrique définie positive (paramètre d'échelle). Si Modèle:Math, alors la densité de probabilité de la loi de Wishart est donnée par :

$f(𝐗)=\frac{1}{2^{\frac{np}{2}}{\left|𝐕\right|}^{\frac{n}{2}}{\mathrm{\Gamma }}_p(\frac{n}{2})}{\left|𝐗\right|}^{\frac{n-p-1}{2}}{\mathrm{e}}^{-\frac{1}{2}\mathrm{t}\mathrm{r}({𝐕}^{-1}𝐗)}$

pour toute matrice Modèle:Math X symétrique définie positive, et où Modèle:Math est la fonction gamma multidimensionnelle définie par :

${\mathrm{\Gamma }}_p(n/2)={\pi }^{\frac{p(p-1)}{4}}\prod _{j=1}^p\mathrm{\Gamma }\left[\frac{n-j+1}{2}\right].$

En fait la définition précédente peut être étendue à tout réel Modèle:Math. Si Modèle:Math, alors la loi de Wishart n'a plus de densité, mais devient une loi singulière.

Propriétés

Généralités

Une matrice $X$ aléatoire tirée selon la construction de la définition ci-dessus est toujours une matrice symétrique définie positive. Cela signifie que toutes ses valeurs propres sont strictement positives.

Log-espérance

L'espérance du logarithme est donnée par :

$\mathrm{E}[\ln |𝐗|]=\sum _{i=1}^p\psi \left(\frac{n+1-i}{2}\right)+p\ln 2+\ln |𝐕|$

où Modèle:Math est la fonction digamma, c'est-à-dire la dérivée logarithmique de la fonction gamma.

Son calcul est développé ici.

Entropie

L'entropie de la loi de Wishart est donnée par la formule suivante :

$\mathrm{H}[𝐗]=-\ln B(𝐕,n)-\frac{(n-p-1)}{2}\mathrm{E}[\ln |𝐗|]+\frac{np}{2}$

où $B(𝐕,n)$ est la constante de renormalisation de la loi :

$B(𝐕,n)=\frac{1}{{\left|𝐕\right|}^{\frac{n}{2}}{2}^{\frac{np}{2}}{\mathrm{\Gamma }}_p(\frac{n}{2})}$

L'entropie peut être écrite sous la forme :

$\begin{array}{cc}\mathrm{H}[𝐗]& =\frac{n}{2}\ln |𝐕|+\frac{np}{2}\ln 2+\ln {\mathrm{\Gamma }}_p(\frac{n}{2})-\frac{(n-p-1)}{2}\mathrm{E}[\ln |𝐗|]+\frac{np}{2}\\ & =\frac{n}{2}\ln |𝐕|+\frac{np}{2}\ln 2+\frac{p(p-1)}{4}\ln \pi +\sum _{i=1}^p\ln \mathrm{\Gamma }[n/2+(1-j)/2]\\ & -\frac{(n-p-1)}{2}(\sum _{i=1}^p\psi \left(\frac{n+1-i}{2}\right)+p\ln 2+\ln |𝐕|)+\frac{np}{2}\\ & =\frac{n}{2}\ln |𝐕|-\frac{(n-p-1)}{2}\ln |𝐕|+\frac{np}{2}\ln 2-\frac{(n-p-1)}{2}p\ln 2+\frac{p(p-1)}{4}\ln \pi \\ & +\sum _{i=1}^p\ln \mathrm{\Gamma }[n/2+(1-j)/2]-\frac{(n-p-1)}{2}\sum _{i=1}^p\psi \left(\frac{n+1-i}{2}\right)+\frac{np}{2}\\ & =\frac{p+1}{2}\ln |𝐕|+\frac{p(p+1)}{2}\ln 2+\frac{p(p-1)}{4}\ln \pi \\ & +\sum _{i=1}^p\ln \mathrm{\Gamma }[n/2+(1-j)/2]-\frac{(n-p-1)}{2}\sum _{i=1}^p\psi \left(\frac{n+1-i}{2}\right)+\frac{np}{2}.\\ \end{array}$

Fonction caractéristique

La fonction caractéristique de la loi de Wishart est donnée parModèle:Citnec : $\mathrm{\Theta }\mapsto {|𝐈-2\mathrm{i}\mathrm{\Theta }𝐕|}^{-n/2}.$

En d'autres termes,

$\mathrm{\Theta }\mapsto \mathrm{E}\left\{\mathrm{e}\mathrm{x}\mathrm{p}[\mathrm{i}\cdot \mathrm{t}\mathrm{r}(𝐗\mathrm{\Theta })]\right\}={|𝐈-2\mathrm{i}\mathrm{\Theta }𝐕|}^{-n/2}$

où Modèle:Math et I sont des matrices de même taille que V et I est la matrice unité.

Théorème

Si X suit la loi de Wishart à m degrés de liberté et de matrice de covariance V, et si C est une Modèle:Math-matrice de rang q, alorsModèle:Citnec :

$𝐂𝐗{𝐂}^T\sim {𝒲}_q(𝐂𝐕{𝐂}^T,m).$

Corollaire 1

Si z est un p-vecteur non nul, alorsModèle:Citnec

${𝐳}^T𝐗𝐳\sim {\sigma }_z^2{\chi }_m^2.$

où Modèle:Math est la loi du χ² à m degrés de liberté et ${\sigma }_z^2={𝐳}^T𝐕𝐳$ est une constante positive.

Corollaire 2

Considérons le cas où ${𝐳}^T=(0,\dots ,0,1,0,\dots ,0)$ (c'est-à-dire le j-ième élément est 1 et les autres 0). Alors le corollaire 1 montre que :

$w_{jj}\sim {\sigma }_{jj}{\chi }_m^2$

donne la loi marginale de chacun des éléments de la diagonale de la matrice.

Il est à remarquer que la loi de Wishart n'est pas appelée loi du Modèle:Math multidimensionnelle car les lois marginales hors diagonale ne sont pas des lois du Modèle:Math.

Décomposition de Bartlett

La décomposition de Bartlett d'une matrice X suivant une loi de Wishart p-dimensionnelle de matrice d'échelle V et à n degrés de liberté est la factorisationModèle:Citnec :

$𝐗=\mathbf{\text{<mi fromhbox="1">L</mi>}}\mathbf{\text{<mi fromhbox="1">A</mi>}}{\mathbf{\text{<mi fromhbox="1">A</mi>}}}^T{\mathbf{\text{<mi fromhbox="1">L</mi>}}}^T$

où L est la factorisation de Cholesky de V et :

$𝐀=\left(\begin{array}{ccccc}\sqrt{c_1}& 0& 0& \cdots & 0\\ n_{21}& \sqrt{c_2}& 0& \cdots & 0\\ n_{31}& n_{32}& \sqrt{c_3}& \cdots & 0\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ n_{p1}& n_{p2}& n_{p3}& \cdots & \sqrt{c_p}\end{array}\right)$

où $c_i\sim {\chi }_{n-i+1}^2$ et $n_{ij}\sim 𝒩(0,1)$ sont indépendants. Ceci donne une méthode utile pour obtenir des échantillons de valeurs de loi de Wishart.

Propriété de concentration

En notant $\mathbb{P}$ la mesure de probabilité par rapport à la matrice aléatoire $X$ d'ordre $n\times p$ (cela correspond à la définition ci-dessus pour $V=I_p$ la matrice identité d'ordre $p$), ainsi qu'en notant ${\lambda }_{\max }(A)$ (resp. ${\lambda }_{\min }(A)$) la plus grande (resp. la plus petite) des valeurs propres d'une matrice $A$ symétrique définie positive, alors on peut énoncer la propriété suivante : les valeurs propres de la matrice aléatoire $X=Y^{T}Y$ vérifient

d'une part, $\mathrm{\forall }x>0,\mathbb{P}({\lambda }_{\max }(X)\ge n{(1+\sqrt{p/n}+\sqrt{2x/n})}^2)\le {\mathrm{e}}^{-x}$,

et d'autre part, $\mathrm{\forall }x>0,\mathbb{P}({\lambda }_{\min }(X)\le n{(1-\sqrt{p/n}-\sqrt{2x/n})}^2)\le {\mathrm{e}}^{-x}$

Ce qui signifie qu'avec une probabilité au moins égale à $1-2{\mathrm{e}}^{-x}$ les valeurs propres d'une telle matrice sont comprises entre $n{(1-\sqrt{p/n}-\sqrt{2x/n})}^2$ et $n{(1+\sqrt{p/n}+\sqrt{2x/n})}^2$.

Relations avec d'autres lois

• La loi de Wishart est liée à la loi de Wishart inverse, notée Modèle:Math, comme suit : si $𝐗\sim W_p(𝐕,n)$ et si on effectue le changement de variables $𝐂={𝐗}^{-1}$, alors $𝐂\sim W_p^{-1}({𝐕}^{-1},n)$. Cette relation peut-être obtenue en remarquant que la valeur absolue du jacobien de ce changement de variable est $|𝐂{|}^{p+1}$.
• La loi de Wishart est un cas particulier de loi gamma multidimensionnelle.

Liens externes

• Modèle:Mathworld