Voir la source de Règle de Hebb

{{ébauche|neurosciences|biologie}}

La '''règle de Hebb''', '''théorie de Hebb''', '''postulat de Hebb''' ou '''théorie des assemblées de neurones''' a été établie par [[Donald Hebb]] en 1949. Elle est à la fois utilisée comme hypothèse en neurosciences et comme concept dans les réseaux neuronaux en mathématiques. 

Cette théorie est souvent résumée par la formule : {{citation|des neurones qui s'excitent ensemble se lient entre eux.}} ({{citation|{{lang|en|''cells that fire together, wire together''}}}})<ref>La citation exacte est de Siegrid Löwel (1992) : « ''neurons wire together if they fire together'' »  (« les neurones se lient entre eux s’ils s’excitent ensemble »). Löwel, S. and Singer, W., ''[http://systemsneuroscience.uni-goettingen.de/dl/209.full.pdf Selection of Intrinsic Horizontal Connections in the Visual Cortex by Correlated Neuronal Activity]'', Science 255, 10/01/1992, USA. {{ISSN|0036-8075}}.</ref>
C'est une règle [[algorithmique]]  d'[[Apprentissage automatique|apprentissage]] des [[Réseau de neurones artificiels|réseaux de neurones artificiels]] dans le contexte de l'étude d'assemblées de neurones.
 
Elle est basée sur une hypothèse scientifique en neurosciences. Elle décrit les changements d'adaptation neuronale dans le cerveau ou dans un réseau de neurones pendant un processus d'apprentissage. Elle décrit un mécanisme basique de [[plasticité synaptique]] dans laquelle l'efficacité synaptique augmente lors d'une stimulation présynaptique répétée et persistante de la cellule postsynaptique.
{{Citation bloc|Faisons l'hypothèse qu'une activité persistante et répétée d'une activité avec réverbération (ou trace) tend à induire un changement cellulaire persistant qui augmente sa stabilité. Quand un [[axone]] d'une cellule A est assez proche pour exciter une cellule B de manière répétée et persistante, une croissance ou des changements métaboliques prennent place dans l'une ou les deux cellules ce qui entraîne une augmentation de l'efficacité de A comme cellule stimulant B.|[[Donald Hebb]], 1949<ref>{{Ouvrage|langue=en|auteur1=Donald Olding HEBB|titre=The Organization of Behavior|lieu=New York|éditeur=Wiley & Sons|année=1949}}</ref>.}}
Cette règle suggère que lorsque deux [[neurone]]s sont excités conjointement, il se crée ou renforce un lien les unissant.
Cette théorie tente d'expliquer l'apprentissage associatif, dans lequel une association est faite par la répétition de deux [[stimulus|{{latin|stimuli}}]]. La répétition d'un stimulus seul entraîne le rappel de l'autre stimulus ensuite (voir apprentissage [[chien de Pavlov|pavlovien]]).

== Variantes de la règle de Hebb ==
Depuis la formulation initiale de la règle de Hebb, plusieurs variantes et généralisations ont été proposées pour mieux rendre compte des mécanismes biologiques ou pour surmonter certaines limites (telles que la croissance sans borne des poids synaptiques). On distingue principalement :

=== Apprentissage de type "taux de décharge" ===
Dans ces modèles, la variable clé est le « taux de décharge » ou activité moyenne du neurone (plutôt que la séquence précise de potentiels d’action).

==== Règle de Hebb classique  ====
Le changement de poids <math>\Delta w</math> est généralement proportionnel au produit des activités pré- et post-synaptiques moyennes <math>\bigl(x \times y\bigr)</math>. En pratique, cette règle sans mécanisme de normalisation peut conduire à une croissance indéfinie des poids.

<math> \Delta w_i = \eta x_i y  </math>

==== Règle d’Oja ====
Proposée pour éviter la croissance sans borne des synapses, elle incorpore une normalisation continue des poids. Elle peut être écrite (dans sa forme simple) sous la forme :

: <math> \Delta w_i = \eta\,y\,\bigl(x_i - y\,w_i\bigr) </math>

où <math>x_i</math> est l’entrée pré-synaptique, <math>y</math> l’activité post-synaptique et <math>\eta</math> le taux d’apprentissage.

==== Règle BCM (Bienenstock–Cooper–Munro)   ====
{{Article détaillé|Règle BCM}}
Introduite pour expliquer à la fois la potentialisation (LTP) et la dépression (LTD) en fonction de l’activité du neurone, la [[règle BCM]] ajoute un seuil dynamique <math>\theta_M</math>. Le signe de la plasticité (renforcement ou affaiblissement) dépend du rapport entre l’activité post-synaptique <math>y</math> et ce seuil <math>\theta_M</math>.

<math> \Delta w_i = \eta x_i y (y - \theta_M) </math>

=== Plasticité fonction du temps d'occurrence des impulsions (STDP) ===
{{Article détaillé|Plasticité fonction du temps d'occurrence des impulsions}}
Dans ces modèles, la synapse se modifie en fonction du décalage temporel précis entre les potentiels d’action du neurone présynaptique et ceux du neurone postsynaptique.

==== STDP pair ====
Quand une impulsion présynaptique précède de peu une impulsion postsynaptique, un [[Potentialisation à long terme|renforcement synaptique]] (PLT) survient. Inversement, si l'impulsion postsynaptique précède l'impulsion présynaptique, on observe un [[Dépression synaptique à long terme|affaiblissement]] (DLT).

==== STDP triplet  ====
Pour mieux rendre compte de la dynamique de décharge réelle des neurones, cette variante<ref>{{Article|langue=en|prénom1=Julijana|nom1=Gjorgjieva|prénom2=Claudia|nom2=Clopath|prénom3=Juliette|nom3=Audet|prénom4=Jean-Pascal|nom4=Pfister|titre=A triplet spike-timing–dependent plasticity model generalizes the Bienenstock–Cooper–Munro rule to higher-order spatiotemporal correlations|périodique=Proceedings of the National Academy of Sciences|volume=108|numéro=48|pages=19383–19388|date=2011-11-29|issn=0027-8424|issn2=1091-6490|pmid=22080608|pmcid=PMC3228426|doi=10.1073/pnas.1105933108|lire en ligne=https://pnas.org/doi/full/10.1073/pnas.1105933108|consulté le=2025-02-27}}</ref> prend en compte non seulement l’intervalle entre deux impulsions (pré et post), mais également l’influence d’une troisième impulsions (généralement post-synaptique) dans la fenêtre temporelle, affinant ainsi la prédiction des changements synaptiques.

== Engrammes d'Hebb et théorie des assemblées de neurones ==
La théorie d'Hebb s'intéresse à la manière dont les neurones se connectent entre eux pour former des [[engramme]]s. Gordon Allport propose des hypothèses complémentaires :
{{citation bloc|Si l'entrée de données dans un système ({{lang|en|input}}) cause l'apparition répétée du même modèle de stimulation, l'organisation des éléments actifs de ce système sera fortement renforcée. Ainsi, chaque élément activé aura tendance à activer chaque autre élément et (a contrario) à inactiver les éléments qui ne font pas partie de cette configuration. Pour le dire autrement, la configuration comme un tout sera « auto-associée ». Nous pouvons appeler une configuration apprise (auto associée) un engramme.|Allport 1985, {{p.|44}}.}}

L'« algorithme de Hebb » est un modèle simplifié, mais puissant de l'apprentissage associatif, où une association est faite par la répétition de deux stimuli. Par exemple, si le neurone présynaptique est activé par la vue d'un chien et que le neurone postsynaptique est activé par le mot « chien », l'algorithme de Hebb renforcera la connexion entre ces deux neurones. Avec les répétitions, cette connexion devient de plus en plus forte ; assez pour que le neurone postsynaptique soit ensuite activé par la seule vue du mot « chien ».

Le travail du prix Nobel [[Eric Kandel]] a fourni une preuve de l'implication des mécanismes d'apprentissages de Hebb dans les synapses du gastéropode marin ''[[Aplysia californica]]''. Mais il est plus difficile de vérifier ces théories sur les systèmes nerveux centraux des vertébrés, au cerveau plus complexe.

Le phénomène de [[potentialisation à long terme]], un équivalent biologique de la « synapse de Hebb », joue un grand rôle dans les théories neurobiologiques de la mémoire. L'algorithme de Hebb sert à expliquer comment les souvenirs sont stockés dans le cerveau (quand un événement est subi ou provoqué de manière répétée, les connexions entre les neurones qui représentent cet événement seront renforcées. Avec suffisamment de répétitions, ces connexions deviendront suffisamment fortes pour que le souvenir de l'événement puisse être rappelé). 
<br>Il a été proposé par Kannappan {{et al.}} (2011) pour expliquer certains phénomènes [[neuroatypie|neuroatypiques]] observés dans l'[[autisme]]<ref>{{Article |prénom1=Arthi |nom1=Kannappan |prénom2=A. |nom2=Tamilarasi |prénom3=E. I. |nom3=Papageorgiou |titre=Analyzing the performance of fuzzy cognitive maps with non-linear hebbian learning algorithm in predicting autistic disorder |périodique=Expert Systems with Applications |volume=38 |numéro=3 |pages=1282–1292 |date=2011-03-01 |issn=0957-4174 |doi=10.1016/j.eswa.2010.06.069 |lire en ligne=https://www.sciencedirect.com/science/article/pii/S0957417410005737 |consulté le=2023-11-10}}.</ref> : tout ou partie du cerveau de personnes autistes semblent présenter une plasticité synaptique excessive, certaines de leurs synapses semblant plus susceptibles de se renforcer, ce qui pourrait conduire à une hyperconnectivité cérébrale, un trait observé chez elles qui pourrait expliquer certaines caractéristiques de l'autisme (mémorisation exceptionnelle, mais aussi difficultés de communication et d'interaction sociale). Inversement, certains réseaux neuronaux ou certaines personnes autistes pourraient avoir une plasticité synaptique insuffisante (synapses moins susceptibles de se renforcer, conduisant à une hypoconnectivité cérébrale, observée chez certaines personnes autistes et qui pourrait expliquer des comportements atypiques (gestes ou activités répétitives et intérêts restreints). L'algorithme de Hebb stipule que la connexion entre les neurones qui représentent un stimulus sera renforcée. Cela peut conduire à ce que la personne autiste développe un intérêt intense pour ce stimulus. 

== Application en apprentissage automatique ==
Les notions d'« algorithmes hebbiens » («''Hebbian learning algorithm''»<ref>{{Article|prénom1=E.I.|nom1=Papageorgiou|prénom2=C.D.|nom2=Stylios|prénom3=P.P.|nom3=Groumpos|titre=Active Hebbian learning algorithm to train fuzzy cognitive maps|périodique=International Journal of Approximate Reasoning|volume=37|numéro=3|pages=219–249|date=2004-11|issn=0888-613X|doi=10.1016/j.ijar.2004.01.001|lire en ligne=http://dx.doi.org/10.1016/j.ijar.2004.01.001|consulté le=2023-11-10}}</ref>{{,}}<ref>{{Article|langue=en|prénom1=James C. R.|nom1=Whittington|prénom2=Rafal|nom2=Bogacz|titre=An Approximation of the Error Backpropagation Algorithm in a Predictive Coding Network with Local Hebbian Synaptic Plasticity|périodique=Neural Computation|volume=29|numéro=5|pages=1229–1262|date=2017-05-01|issn=0899-7667|issn2=1530-888X|doi=10.1162/neco_a_00949|lire en ligne=http://dx.doi.org/10.1162/neco_a_00949|consulté le=2023-11-10}}.</ref> et d'algorithme d'apprentissage hebbien non linéaire utilisant le principe de plasticité synaptique en modifiant les poids synaptiques et des relations entre [[réseau de neurones artificiels|neurones artificiels]] sont aussi utilisée dans les domaines de l'étude de l'apprentissage du langage et de l'[[intelligence artificielle]].

Une équipe d'experts a publié<ref name="ModelePredictionTSA_2011">{{Article |langue=en |prénom1=Arthi |nom1=Kannappan |prénom2=A. |nom2=Tamilarasi |prénom3=E.I. |nom3=Papageorgiou |titre=Analyzing the performance of fuzzy cognitive maps with non-linear hebbian learning algorithm in predicting autistic disorder |périodique=Expert Systems with Applications |volume=38 |numéro=3 |pages=1282–1292 |date=2011-03 |doi=10.1016/j.eswa.2010.06.069 |lire en ligne=https://linkinghub.elsevier.com/retrieve/pii/S0957417410005737 |consulté le=2023-11-10}}.</ref> en 2011 un modèle prometteur de prédiction du [[trouble du spectre autistique]] (TSA) à l'aide d'une carte cognitive floue (FCM) et d'un algorithme d'apprentissage hebbien non linéaire<ref name="ModelePredictionTSA_2011" />. Ce modèle FCM est dénommé C24 (car construit sur 24 concepts, représentant trois valeurs [[Logique floue|floues]]) ; il a été formé sur un ensemble de données de personnes diagnostiquées avec TSA. Selon les auteurs, il a pu prédire le TSA] avec un degré de précision élevé et {{Citation|il pourrait donc être utilisé pour aider les médecins à identifier les patients qui sont plus susceptibles d'être atteints de TSA}}<ref name="ModelePredictionTSA_2011" />.   

== Notes et références ==
{{Références|taille=30}}

== Annexes ==
=== Bibliographie ===
* {{Ouvrage|langue=en|prénom1=D.O.|nom1=Hebb|lien auteur1=Donald Olding Hebb|titre=The organization of behavior|lieu=New York|éditeur=[[John Wiley & Sons|Wiley]]|année=1949}}
* {{Ouvrage|langue=en|prénom1=D.O.|nom1=Hebb|lien auteur1=Donald Olding Hebb|nom2=J. F. Delafresnaye (Ed.)|responsabilité2=éditeur|titre=Brain Mechanisms and Learning|lieu=Londres|éditeur=[[Oxford University Press]]|année=1961|titre chapitre=Distinctive features of learning in the higher animal}}
* {{article|nom1=Hebb|prénom=D.O.|lien auteur=Donald Olding Hebb|coauteurs=and Penfield, W.|année=1940|titre=Human behaviour after extensive bilateral removal from the frontal lobes|journal=Archives of Neurology and Psychiatry|volume=44|pages=421–436}}
* {{Ouvrage|langue=en|prénom1=D.A.|nom1=Allport|nom2=Newman, S.K.|responsabilité2=éditeur|nom3=Epstein, R.|responsabilité3=éditeur|titre=Current Perspectives in Dysphasia|lieu=Édimbourg|éditeur=Churchill Livingstone|année=1985|isbn=0-443-03039-1|titre chapitre=Distributed memory, modular systems and dysphasia}}
* {{Ouvrage|langue=en|prénom1=C.M.|nom1=Bishop|titre=Neural Networks for Pattern Recognition|lieu=Oxford|éditeur=[[Oxford University Press]]|année=1995|isbn=0-19-853849-9}}
* {{article|nom1=Paulsen|prénom=O.|coauteurs=Sejnowski, T. J.|année=2000|titre=Natural patterns of activity and long-term synaptic plasticity|journal=Current opinion in neurobiology|volume=10|numéro=2|pages=172–179|pmid=10753798|pmc=2900254|doi=10.1016/S0959-4388(00)00076-3}}

=== Articles connexes ===
* [[Donald Hebb]]
* [[Plasticité synaptique]]
* [[Règle BCM]]

=== Liens externes ===
* [http://icwww.epfl.ch/~gerstner//SPNM/node71.html Vue d'ensemble]

{{Palette|Neuroéthologie}}
{{Portail|neurosciences|informatique théorique}}

{{DEFAULTSORT:Regle de Hebb}}
[[Catégorie:Neurophysiologie]]
[[Catégorie:Réseau de neurones artificiels]]