Loi bêta-binomiale

Modèle:Infobox Distribution statistiquesModèle:À sourcer En théorie des probabilités, la loi bêta-binomiale est une loi de probabilité discrète à support fini, correspondant à un processus de tirages Bernoulli dont la probabilité de succès est aléatoire (suivant une loi bêta). Elle est fréquemment utilisée en inférence bayésienne.

La loi de Bernoulli en est un cas particulier pour le paramètre Modèle:Math. Pour Modèle:Math, elle correspond à la loi uniforme discrète sur Modèle:Math. Elle approche également la loi binomiale lorsque les paramètres Modèle:Mvar et Modèle:Mvar sont arbitrairement grands. La loi bêta-binomiale est une version unidimensionnelle de la loi de Pólya multivariée, similairement aux lois binomiale et bêta qui sont respectivement des cas spéciaux des lois multinomiale et de Dirichlet.

Obtention de la loi bêta-binomiale

Par exemple, un lancer de pièce est une épreuve de Bernouilli avec probabilité de succès $p=1/2$. Ici on lance $n$ pièces et $X$ est le nombre de faces obtenues.

Soit $X$ une variable aléatoire qui compte le nombre de succès de $n$ épreuves de Bernoulli, chacune ayant une probabilité de succès $p$. La variable $X$ suit donc une loi binomiale dont la fonction de masse est donnée par :

$\begin{array}{cc}f(X=k|p)& =\mathrm{Bin}(n,p)=(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}\end{array}$.

Ici, la probabilité de succès $p$ est également une variable aléatoire, qui suit une loi bêta de paramètres Modèle:Mvar et Modèle:Mvar. Sa fonction de densité est donnée par :

$\begin{array}{c}f(p|\alpha ,\beta )=\mathrm{Beta}(\alpha ,\beta )=\frac{p^{\alpha -1}(1-p{)}^{\beta -1}}{\mathrm{B}(\alpha ,\beta )}\end{array}$

La loi bêta-binomiale s'obtient en considérant le couple $(X,p)$ comme une nouvelle variable aléatoire puis en calculant la densité marginale de $X$ (cette densité marginale est une fonction de masse, puisque $X$ est une variable aléatoire suivant une loi discrète).

Par définition, la densité marginale de $X$ s'obtient en intégrant la densité conjointe de $(X,p)$ sur l'espace de probabilité occupé par $p$. Ainsi, leur densité conjointe peut être décomposée, telle que :

$\begin{array}{c}f(X=k,p)=f(X=k|p)\cdot f(p|\alpha ,\beta )\end{array}$

En intégrant cette densité conjointe selon $p$ sur $[0,1]$ (l'espace sur lequel est définie la densité de la loi bêta), il advient finalement :

$\begin{array}{cc}f(X=k|\alpha ,\beta )& =\underset{0}{\overset{1}{\int }}f(X=k,p)\mathrm{d}p\\ & =\underset{0}{\overset{1}{\int }}f(X=k|p)\cdot f(p)\mathrm{d}p\\ & =(\genfrac{}{}{0ex}{}{n}{k})\frac{1}{\mathrm{B}(\alpha ,\beta )}\underset{0}{\overset{1}{\int }}{p}^{k+\alpha -1}(1-p{)}^{n-k+\beta -1}\mathrm{d}p\\ & =(\genfrac{}{}{0ex}{}{n}{k})\frac{\mathrm{B}(k+\alpha ,n-k+\beta )}{\mathrm{B}(\alpha ,\beta )}.\end{array}$

En remplaçant la fonction bêta par sa définition $\mathrm{B}(\alpha ,\beta )=\frac{\mathrm{\Gamma }(\alpha )\mathrm{\Gamma }(\beta )}{\mathrm{\Gamma }(\alpha +\beta )}$ où Modèle:Math est la fonction gamma, on obtient :

$\begin{array}{c}f(X=k|\alpha ,\beta )=\frac{\mathrm{\Gamma }(n+1)}{\mathrm{\Gamma }(k+1)\mathrm{\Gamma }(n-k+1)}\frac{\mathrm{\Gamma }(\alpha +k)\mathrm{\Gamma }(n+\beta -k)}{\mathrm{\Gamma }(\alpha +\beta +n)}\frac{\mathrm{\Gamma }(\alpha +\beta )}{\mathrm{\Gamma }(\alpha )\mathrm{\Gamma }(\beta )}\end{array}$

Dans ce contexte, la loi bêta-binomiale apparaît souvent en inférence bayésienne : la loi bêta-binomiale est la loi prédictive d'une variable aléatoire binomiale avec une probabilité de succès donnée par une loi bêta.

Utilisation de la loi bêta-binomiale dans un modèle d'urnes

La loi bêta-binomiale peut également être représentée par un modèle d'urnes, pour des paramètres Modèle:Mvar et Modèle:Mvar entiers positifs. Plus précisément, on considère une urne contenant Modèle:Mvar boules rouges et β boules noires, on effectue alors des tirages aléatoires. Si une boule rouge est tirée, alors deux boules rouges sont replacées dans l'urne (elle-même plus une autre). De la même manière, si une boule noire est tirée, elle est remise avec une autre boule noire dans l'urne. Si on répète cette opération Modèle:Mvar fois, alors la probabilité de tirer Modèle:Mvar boules rouges suit une loi bêta-binomiale de paramètres Modèle:Mvar, Modèle:Mvar et Modèle:Mvar.

Il est à noter que si après les tirages on replace une unique boule, alors la loi est binomiale, et si les tirages sont effectués sans remise, alors la loi est hypergéométrique.

Moments et propriétés

Les trois premiers moments sont

$\begin{array}{cc}{\mu }_1& =\frac{n\alpha }{\alpha +\beta }\\ {\mu }_2& =\frac{n\alpha [n(1+\alpha )+\beta ]}{(\alpha +\beta )(1+\alpha +\beta )}\\ {\mu }_3& =\frac{n\alpha [n^2(1+\alpha )(2+\alpha )+3n(1+\alpha )\beta +\beta (\beta -\alpha )]}{(\alpha +\beta )(1+\alpha +\beta )(2+\alpha +\beta )}\end{array}$

et le kurtosis est

$\begin{array}{cc}{\gamma }_2& =\frac{(\alpha +\beta {)}^2(1+\alpha +\beta )}{n\alpha \beta (\alpha +\beta +2)(\alpha +\beta +3)(\alpha +\beta +n)}\\ & \times [(\alpha +\beta )(\alpha +\beta -1+6n)+3\alpha \beta (n-2)+6n^2-\frac{3\alpha \beta n(6-n)}{\alpha +\beta }-\frac{18\alpha \beta n^2}{(\alpha +\beta {)}^2}].\end{array}$

Si on pose $\mathrm{p}=\frac{\alpha }{\alpha +\beta }$, on remarque que la moyenne peut être écrite sous la forme $\mu =\frac{n\alpha }{\alpha +\beta }=n\mathrm{p}$ et la variance par

${\sigma }^2=\frac{n\alpha \beta (\alpha +\beta +n)}{(\alpha +\beta {)}^2(\alpha +\beta +1)}=n\pi (1-\pi )\frac{\alpha +\beta +n}{\alpha +\beta +1}=n\mathrm{p}(1-\mathrm{p})[1+(n-1)\rho ]$

où $\rho =\frac{1}{\alpha +\beta +1}$ est la corrélation deux à deux entre les Modèle:Mvar tirages de Bernoulli et est appelé le paramètre de surdispersion.

Estimations ponctuelles

Méthode des moments

L'estimation par la méthode des moments peut être obtenue par l'utilisation des premier et deuxième moments de la loi bêta-binomiale, c'est-à-dire

$\begin{array}{cc}{\mu }_1& =\frac{n\alpha }{\alpha +\beta }\\ {\mu }_2& =\frac{n\alpha [n(1+\alpha )+\beta ]}{(\alpha +\beta )(1+\alpha +\beta )}\end{array}$

et en les considérant égaux aux moments empiriques

$\begin{array}{cc}{\hat{\mu }}_1& =m_1\\ {\hat{\mu }}_2& =m_2.\end{array}$

En résolvant en Modèle:Mvar et en Modèle:Mvar, on obtient

$\begin{array}{cc}\hat{\alpha }& =\frac{n{m}_1-m_2}{n(\frac{m_2}{m_1}-m_1-1)+m_1}\\ \hat{\beta }& =\frac{(n-m_1)(n-\frac{m_2}{m_1})}{n(\frac{m_2}{m_1}-m_1-1)+m_1}.\end{array}$

Maximum de vraisemblance

Alors que la méthode du maximum de vraisemblance est inutilisable, sachant que la densité de probabilité est la densité d'un couple de fonction (fonction gamma et/ou fonction bêta), elles peuvent être facilement calculée via une optimisation numérique directe. Les estimées du maximum de vraisemblance à partir des données empiriques peuvent être calculées en utilisant des méthodes générales adaptées aux lois de Pólya multinomiales décrites dans (Minka 2003).

Exemple

Les données suivantes donnent le nombre de garçons parmi les 12 premiers enfants de familles de 13 enfants, pour 6115 familles prises dans des données d’hôpital en Saxe au Modèle:S- (Sokal et Rohlf, Modèle:P. de Lindsey). Le Modèle:13e est ignoré pour considérer le fait non aléatoire que des familles s'arrêtent quand elles obtiennent le genre attendu.

Garçons	0	1	2	3	4	5	6	7	8	9	10	11	12
Familles	3	24	104	286	670	Modèle:Unité	Modèle:Unité	Modèle:Unité	829	478	181	45	7

Les deux premiers moments empiriques sont

$\begin{array}{cc}{m}_1& =6,23\\ m_2& =42,31\\ n& =12\end{array}$

et ainsi les estimées par la méthode des moments sont

$\begin{array}{cc}\hat{\alpha }& =34,1350\\ \hat{\beta }& =31,6085.\end{array}$

Les estimées par le maximum de vraisemblance peuvent être trouvées numériquement

$\begin{array}{cc}{\hat{\alpha }}_{\mathrm{m}\mathrm{l}\mathrm{e}}& =34,09558\\ {\hat{\beta }}_{\mathrm{m}\mathrm{l}\mathrm{e}}& =31,5715\end{array}$

et le maximum de log-vraisemblance est

$\log ℒ=-12492,9$

Références

* Minka, Thomas P. (2003). Estimating a Dirichlet distribution. Rapport technique de Microsoft.

Liens externes

• Modèle:En Utilisation de la loi bêta-binomiale pour vérifier les performances en identification biométrique
• Fastfit contient des codes Matlab pour adapter la loi bêta-binomiale (dans le contexte d'une loi de Pólya bi-dmensionelle) aux données.