Réseaux antagonistes génératifs

En intelligence artificielle, les réseaux antagonistes génératifs (RAG) parfois aussi appelés réseaux adverses génératifs (en anglais Modèle:Lang ou GANs) sont une classe d'algorithmes d'apprentissage non supervisé. Ces algorithmes ont été introduits par Modèle:Harvsp. Ils permettent de générer des images avec un fort degré de réalisme.

Un GAN est un modèle génératif où deux réseaux de neurones sont placés en compétition dans un scénario de théorie des jeux. Le premier réseau est le générateur, il génère un échantillon (ex. une image), tandis que son adversaire, le discriminateur essaie de détecter si un échantillon est réel ou bien s'il est le résultat du générateur. Ainsi, le générateur est entraîné avec comme but de tromper le discriminateur. L'apprentissage peut être modélisé comme un jeu à somme nulleModèle:Sfn.

L'apprentissage de ces réseaux est difficile en pratique, avec des problèmes importants de non convergenceModèle:Sfn.

Histoire

L'invention du concept courant et son implémentation dans un prototype eurent lieu à Montréal, en 2014, lors d'une sortie au restaurant, par Ian Goodfellow. Ses confrères doctorants célébraient leur diplôme et lui demandèrent assistance pour résoudre un problème de synthèse d'image.

Schéma de comment un GAN fonctionne.

Mathématiques

Un GAN classique est basée sur un jeu à somme nulle entre 2 joueurs : générateur et discriminateur. Le jeu est défini sur un espace de probabilité $(\mathrm{\Omega },ℬ,{\mu }_r)$. L'ensemble de stratégies du générateur est l'ensemble de toutes les mesures de probabilité ${\mu }_G$ sur $(\mathrm{\Omega },ℬ)$, et l'ensemble de stratégies du discriminateur est l'ensemble des fonctions mesurables $D:\mathrm{\Omega }\to [0,1]$.

L'objectif du jeu est le suivant :$$L({\mu }_G,D):={𝔼}_{x\sim {\mu }_{ref}}[\ln D(x)]+{𝔼}_{x\sim {\mu }_G}[\ln (1-D(x))].$$ Le générateur vise à le minimiser, tandis que le discriminateur vise à le maximiser.

Un théorème de base du GAN stipule que :

Il suffit alors de répéter ce jeu plusieurs fois, à chaque fois avec le générateur se déplaçant en premier suivit par l discriminateur. Chaque fois que le générateur ${\mu }_G$ change, le discriminateur doit s'adapter en se rapprochant de l'idéal :$$D^{*}(x)=\frac{d{\mu }_r}{d({\mu }_r+{\mu }_G)}.$$Puisque nous sommes vraiment intéressés par ${\mu }_r$, la fonction discriminatrice $D$ est en soi plutôt inintéressante. Elle suit simplement le rapport de vraisemblance entre la distribution du générateur et la distribution de référence. À l'équilibre, le discriminateur ne fait que produire $\frac{1}{2}$ constamment, ayant renoncé à tenter de percevoir une quelconque différence. En pratique, le générateur ne pourrait jamais atteindre l'imitation parfaite, et le discriminateur serait donc motivé pour percevoir la différence, ce qui lui permet d'être utilisé pour d'autres tâches, telles que la classification d'ImageNet sans supervision.

Concrètement, dans un GAN, si on a un générateur ${\mu }_G$, et un discriminateur qu'on améliore pas à pas, dénoté pour l'étape $t$ ${\mu }_{D,t}$; alors nous avons (idéalement) que :$$L({\mu }_G,{\mu }_{D,1})\le L({\mu }_G,{\mu }_{D,2})\le \cdots \le \underset{{\mu }_D}{\max }L({\mu }_G,{\mu }_D)=2D_{JS}({\mu }_r\Vert {\mu }_G)-2\ln 2,$$ nous voyons donc que le discriminateur est en fait une limite inférieure $D_{JS}({\mu }_r\Vert {\mu }_G)$.

En art

A partir de 2016, l'artiste Grégory Chatonsky, utilise des GAN pour générer des peintures abstraites ainsi que des dessins qui seront exposés lors de l'exposition Drawing after Digital à la galerie XPO à Paris. Le collectif d'artistes français Obvious utilise les GANs comme outils de création artistiqueModèle:Référence nécessaire. Les GANs génèrent une image fictive à partir d'une sélection d'images présentant des caractéristiques visuelles communes. Par la suite, l'image est améliorée, redéfinie pour être imprimée. La signature de leurs œuvres se caractérise par une formule mathématique indiquant la collaboration entre la technologie (associée à l'intelligence artificielle) et le processus artistique humain. Une de leurs œuvres, intitulée Portrait d'Edmond de Belamy, possiblement en l'honneur de Ian Goodfellow (dont le nom peut se traduire par « Bon ami »), a été vendue Modèle:Unité en Modèle:Date-. Le directeur de l'Institut des Carrières Artistiques (ICART) en France, Nicolas Laugero Lasserre, commente : Modèle:Citation

Au Japon, la société DataGrid utilise les réseaux antagonistes génératifs afin de générer des images de corps humains entiers.

En Espagne, l'artiste et programmeur Mario Klingemann utilise lui aussi les GANs dans sa démarche de création artistique avec son projet My Artificial Muse.Modèle:,

De même, l'artiste Emmanuel Guez utilise les GANs pour alimenter une série de portraits pour son projet Photo_ID.Modèle:,

Le groupe allemand Lindemann utilise les GANs pour le clip vidéo de Ich weiß es nicht.

Pour la recherche

En Russie, l'Institut de physique et de technologie de Moscou développe des GANs qui seraient capables de découvrir de nouvelles structures moléculaires dans le cadre de la recherche pharmaceutique. Ils seraient employés pour exploiter au mieux les propriétés spécifiques de molécules utilisées pour la fabrication de médicaments. L'existence de cette technologie pourrait apporter pour la recherche un gain de temps et de coûts, et améliorer l'efficacité ou réduire les effets secondaires de certains médicaments comme l'aspirine. Sur le principe, les informations sur des composés aux propriétés médicinales reconnues sont intégrées dans le Generative Adversarial Autoencodeur, une extension du GAN, ajusté pour faire ressortir ces mêmes données.

Artur Kadurin, programmeur pour le groupe Mail.ru et conseiller indépendant chez Insilico Medecine, une entreprise américaine, annonce que : Modèle:Citation

Cependant, bien que des progrès aient été notés dans l'apprentissage de ces GANs et qu'ils puissent apporter une meilleure compréhension en biologie et chimie, leur utilisation dans des essais cliniques n'est pas encore fiable.$

Variantes

Il existe plusieurs variantes.

Wasserstein 

Modèle:Article détaillé Une des variantes plus populaire est celle utilisant la distance de Wasserstein pour donner les réseaux antagonistes génératifs de Wasserstein.

Bibliographie

• Modèle:Chapitre
• Modèle:Ancre Modèle:GoodfellowBengioCourville. Modèle:Plume