Voir la source de Canal binaire symétrique

Un '''canal binaire symétrique''' est un [[canal discret]] où [[Alice et Bob|Alice]] transmet une suite d’éléments de l'ensemble <math>\{ 0,1 \}</math> et où la [[probabilité]] d'erreur dans la transmission d'un symbole est de <math>p</math>, pour 0 et pour 1 (d'où la symétrie). Ce canal est sans [[Mémoire informatique|mémoire]], c'est-à-dire qu'aucune archive des messages n'est conservée.

En [[communication]], un problème classique est d'envoyer de l'information d'une source à une destination via un [[Canal de communication (théorie de l'information)|canal de communication]], en présence de [[bruit]]. Le [[codage de canal]] est l'ensemble des solutions à ce problème que sont les [[code correcteur|codes correcteurs]].
[[Image:Canal binaire symétrique.png|350px|right|La [[probabilité]] d'erreur sur un [[Bit (informatique)|bit]] transmis d'Alice à Bob est de ''p'']]

== Détails techniques ==

=== Définition ===
L'idée du '''canal binaire symétrique''' est qu'il est utile de modéliser le [[bruit]] de [[canal de communication|canal]]. Dans ce modèle, chaque [[Bit (informatique)|bit]] de données transmis est [[négation logique|inversé]] avec une probabilité <math>p</math> et est transmis sans erreur avec la probabilité complémentaire de <math>1-p</math>. Le paramètre <math>p</math> détermine (c'est-à-dire qu'il définit uniquement) le canal binaire symétrique dont il est question.

[[Sans perte de généralité]], on peut supposer que <math>p < 1/2</math>.
En effet, si <math>p=1/2</math>, le message codé ne dépend pas du message d'origine et si <math>p>1/2</math>, on ajoute <math>1</math> à chaque bit du code et on est revenu au cas général.

=== Capacité ===
La [[Canal de communication (théorie de l'information)#D%C3%A9bit et capacit%C3%A9|capacité du canal]] est la quantité d'information que l'on peut y faire transiter ; elle est définie par <math display="inline">C = \max_{p_X} I(X;Y)</math> où <math>X</math> est la [[variable aléatoire]] en entrée du canal, <math>Y</math> la variable aléatoire en sortie et <math>I</math> est [[Information mutuelle|l'information mutuelle]]. On cherche la distribution de <math>X</math> qui maximise la quantité d'information transmise.

Posons que <math>X</math> suit une [[loi de Bernoulli]] de paramètre <math>q</math> ; <math>Y</math> suit alors une loi de Bernoulli de paramètre <math>(1-q)p + q(1-p)</math>. L'information mutuelle est donnée par :<blockquote><math>I(X;Y) = H(Y) - H(Y|X) = h_2((1-q)p + q(1-p)) - h_2(p)</math></blockquote>où <math>h_2</math> est [[Entropie de Shannon|l'entropie de Shannon]] de la loi de Bernoulli : elle atteint son maximum de <math>1</math> en <math display="inline">\frac 12</math>. Cet argument est obtenu lorsque <math display="inline">q = \frac 12</math>, c'est-à-dire lorsque <math>X</math> est uniforme. Le maximum est donc obtenu pour la loi uniforme, et la capacité du canal est :<blockquote><math>C = 1 - h_2(p)</math></blockquote>

=== Solutions ===
Une solution simple pour se prémunir de ce type de bruit est d'envoyer plusieurs copies de chaque bit devant être transmis : c'est le [[code de répétition]]. Rendre l'information redondante est l'idée derrière le [[codage de canal]], bien que ces techniques puissent être beaucoup plus élaborées (voir [[théorie des codes]]).

== Voir aussi ==
* Un autre modèle d'erreur : [[canal binaire avec erreur de Bernoulli]]

== Liens externes ==
{{Liens}}

{{portail|Télécommunications|Sécurité informatique|informatique théorique}}

[[Catégorie:Théorie des codes]]