Voir la source de Gaz neuronal

Le '''gaz neuronal'''<ref>{{lien conférence|titre = Un nouvel algorithme incrémental de gaz neuronal croissant basé sur l’étiquetage des clusters par maximisation de vraisemblance : application au clustering des gros corpus de données textuelles hétérogènes |auteur1 = Jean-Charles Lamirel |auteur2= Zied Boulila |auteur3= Maha Ghribi |auteur4= Pascal Cuxac|auteur5= Claire François |conférence= Veille Stratégique Scientifique et Technologique - VSST'2010 |dates conférence=octobre 2010 |lieu conférence= Toulouse |hal=hal-00614060 |date=25/10/2001 }}</ref>{{,}}<ref>{{ouvrage |auteur= Ingrid Falk |langue=en |titre= Making Use of Existing Lexical Resources to Build a Verbnet like Classification of French Verbs. Computation and Language [cs.CL] |nature ouvrage=thèse de doctorat |éditeur= Université Nancy II |année= 2012 |hal=tel-00714737 }}
{{commentaire biblio|{{citation étrangère |langue=en |[...] and a probabilistic neural clustering method called Incremental Growing Neural Gas with Feature Maximisation (IGNGF) }}}}
{{commentaire biblio|{{citation|La deuxième exploite un algorithme de gaz neuronal croissant basé sur l'étiquetage des clusters par maximisation de vraisemblance (IGNGF - Incremental Growing Neural Gas with Feature maximisation)}}}}</ref> est un [[Réseau de neurones artificiels|réseau de neurones artificiel]], inspiré des [[carte autoadaptative|cartes autoadaptatives]], et introduites en 1991 par [[Thomas Martinetz]] et [[Klaus Schulten]]<ref>{{chapitre |langue=en |titre chapitre = A "neural gas" network learns topologies |titre ouvrage = Artificial Neural Networks|auteur1= Thomas Martinetz |auteur2= Klaus Schulten |auteurs ouvrage=T. Kohonen, K. Mäkisara, O.Simula et J. Kangas (éds.) |éditeur= [[Elsevier]]|année = 1991|passage = 397–402|lire en ligne = http://www.ks.uiuc.edu/Publications/Papers/PDF/MART91B/MART91B.pdf}}</ref>.
Le gaz neuronal est un algorithme simple pour trouver une représentation optimale de données à partir de [[Analyse en composantes principales|vecteurs principaux]]. La méthode fut appelée "gaz neuronal" parce que l'évolution des [[Analyse en composantes principales|vecteurs principaux]] durant l'étape d'apprentissage fait penser à un gaz qui occupe un espace de façon uniforme.

Cet algorithme est appliqué à la [[compression de données]] ou à la [[quantification vectorielle]], par exemple en [[Reconnaissance automatique de la parole|reconnaissance des langues naturelles]]<ref>{{lien conférence
|doi=10.1007/10720076_10 |s2cid=18669123
|titre = Competitive learning methods for efficient Vector Quantizations in a speech recognition environment |langue=en |auteur1= F. Curatelli |auteur2= O. Mayora-Iberra|titre livre = MICAI 2000: Advances in artificial intelligence : Mexican International Conference on Artificial Intelligence, Acapulco, Mexico, April 2000 : proceedings|page = 109|isbn = 978-3-540-67354-5|auteurs ouvrage = Osvaldo Cairó, L. Enrique Sucar, Francisco J. Cantú-Ortiz|éditeur = Springer|année = 2000}}</ref>, en [[traitement d'images]]<ref>{{lien conférence
|url ={{Google Livres |id=xI0g7vqVkdoC |page=210 |surligne= neural gas image processing}}
 |titre = Automatic landmarking of 2D medical shapes using the growing neural gas network |langue=en |nom1 = Angelopoulou |prénom1= Anastassia |nom2= Psarrou |prénom=2=Alexandra |nom3= Garcia Rodriguez |prénom3= Jose |nom4= Revett |prénom4= Kenneth |titre livre = Computer vision for biomedical image applications: first international workshop, CVBIA 2005, Beijing, China, October 21, 2005 : proceedings|éditeur = Springer|année publication = 2005 |auteurs ouvrage= Yanxi Liu, Tianzi Jiang, Changshui Zhang (éds.) |doi = 10.1007/11569541_22 |isbn = 978-3-540-29411-5|page = 210}}</ref> ou à la [[Reconnaissance de formes|reconnaissance de motifs.]]
En tant qu'alternative robuste et convergente à l'algorithme [[K-moyennes]], il peut être utilisé pour le [[partitionnement de données]]<ref>{{lien conférence |langue=en
|url = {{Google Livres |id=JMQk1HJmhv0C |page=684 |surligne= neural gas cluster analysis}}
|titre = Modification of the growing neural gas algorithm for cluster analysis|auteur1= Fernando Canales |auteur2= Max Chacon|titre livre = Progress in pattern recognition, image analysis and applications: 12th Iberoamerican Congress on Pattern Recognition, CIARP 2007, Viña del Mar-Valparaiso, Chile, November 13–16, 2007 ; proceedings|année parution = 2007|éditeur = Springer|auteurs ouvrage= Luis Rueda, Domingo Mery, Josef Kittler, International Association for Pattern Recognition|pages = 684–693|doi = 10.1007/978-3-540-76725-1_71|isbn = 978-3-540-76724-4}}</ref>.

== Algorithme ==
Soit une [[Loi de probabilité|distribution de probabilité]] ''P(x)'' sur des vecteurs ''x'' (les données), et un nombre ''fini'' de [[Analyse en composantes principales|vecteurs principaux]]'' w<sub>i</sub>, i=1, ..., N''.

À chaque étape de temps ''t'' (discret), un vecteur d'entrée x est tiré aléatoirement selon la loi ''P'', afin d'être présenté à l'algorithme. Ensuite, les [[Analyse en composantes principales|vecteurs principaux]] sont classés du plus proche au plus lointain de ce vecteur x : ''i<sub>0</sub>'' sera l'indice du vecteur principal le plus proche de x, ''i<sub>1</sub>'' l'indice du second plus proche, etc, et ''i<sub>N-1</sub>'' représente l'indice du vecteur principal le plus éloigné de ''x''. Enfin, chaque vecteur principal (''k = 0, ..., N-1'') est adapté selon la règle, dépendante de ''k'', que voici :

<center><math> w_{i_k}^{t+1} = w_{i_k}^{t} + \varepsilon\cdot  e^{-k/\lambda}\cdot (x-w_{i_k}^{t}) </math></center>

avec ε le taux d'adaptation, et λ la taille du voisinage. Pour assurer la convergence, il est nécessaire que ε et λ soit décroissant en fonction de ''t'' (ie. décroisse quand ''t'' augmente). Après un nombre suffisant d'étapes d'adaptation, les [[Analyse en composantes principales|vecteurs principaux]] recouvrent (et représentent) l'espace de données avec une erreur de représentation minimum (ou presque minimale).

L'étape d'adaptation présente dans l'algorithme de gaz neuronal peut être interprétée comme une [[Algorithme du gradient|descente de gradient]] d'une [[Fonction objectif|fonction de coût]]. En adaptant tous les vecteurs, et pas seulement le plus proche des [[Analyse en composantes principales|vecteurs principaux]], avec un taux d'adaptation inversement proportionnel à la distance avec le vecteur x, l'algorithme parvient à obtenir une convergence bien plus robuste que son alternative, [[K-moyennes|l'algorithme des K-moyennes]] (même sa version en temps réel).

On peut remarquer que le modèle de gaz neuronal ne supprime jamais de nœud, mais n'en ajoute jamais non plus.

== Notes et références ==
{{Traduction/Référence|en|Neural_gas|667775797}}
{{Références}}

== Voir aussi ==
=== Lectures additionnelles ===
* {{article |auteur1=T. Martinetz |auteur2= S. Berkovich |auteur3= K. Schulten |langue=en |titre= "Neural-gas" Network for Vector Quantization and its Application to Time-Series Prediction |périodique= IEEE-Transactions on Neural Networks |volume= 4 |numéro=4 |pages=558-569 |année= 1993}}.
* {{article |auteur1= T. Martinetz |auteur2= K. Schulten |langue=en |titre= Topology representing networks 
|périodique= Neural Networks |volume=7 |numéro= 3 |pages=507-522 |année= 1994}}.

=== Articles connexes ===
* [[Carte autoadaptative]]
* [[Machine à état liquide]]
* [[Réseau de neurones artificiels]]

=== Liens externes ===
* [http://www.demogng.de DemoGNG] est un applet Java illustrant les algorithmes de gaz neuronal, de gaz neuronal croissant, ainsi que les cartes auto-adaptative et d'autres méthodes liées à l'apprentissage efficace.
* {{lien archive |horodatage archive= 20131002083809 |langue=en |titre=Neural gas
|url= http://wwwold.ini.rub.de/VDM/research/gsn/JavaPaper/node16.html |description= Algorithme de gaz neuronal}}.

{{Portail|Probabilités et statistiques|Informatique théorique}}

{{DEFAULTSORT:Reseau de neurones artificiels}}
[[Catégorie:Réseau de neurones artificiels]]
[[Catégorie:Apprentissage automatique]]
[[Catégorie:Exploration de données]]
[[Catégorie:Informatique théorique]]
[[Catégorie:Neurone]]