Noyau polynomial

Illustration de la cartographie $\phi$. À gauche, un ensemble d'échantillons dans l'espace d'entrée, à droite, les mêmes échantillons dans l'espace des caractéristiques où le noyau polynomial $K(x,y)$ (pour certaines valeurs des paramètres $c$ et $d$) est le produit intérieur. L'hyperplan appris dans l'espace des caractéristiques par un SVM est une ellipse dans l'espace d'entrée.

En apprentissage automatique, le noyau polynomial est une fonction noyau couramment utilisée avec les machines à vecteurs de support (SVMs) et d'autres modèles à noyaux. Il représente la similarité des vecteurs (échantillons d'apprentissage) dans un espace de degré polynomial plus grand que celui des variables d'origine, ce qui permet un apprentissage de modèles non-linéaires.

Intuitivement, le noyau polynomial ne tient pas compte uniquement des propriétés des échantillons d'entrée afin de déterminer leur similitude, mais aussi des combinaisons de ceux-ci. Dans le contexte de l'analyse de régression, de telles combinaisons sont connues comme les fonctionnalités d'interaction. L'espace caractéristique (implicite) d'un noyau polynomial est équivalent à celui de la régression polynomiale, mais sans l'explosion combinatoire du nombre de paramètres à apprendre. Lorsque les caractéristiques d'entrées sont des valeurs binaires (booléens), alors les caractéristiques correspondent à la  conjonction logique des caractéristiques d'entrée.

Définition

Pour un polynôme de degré Modèle:Mvar, le noyau polynomial est défini comme :

$K(x,y)=(x^{𝖳}y+c{)}^d$

où Modèle:Mvar et Modèle:Mvar sont des vecteurs dans l' espace d'entrée, c'est-à-dire des vecteurs de caractéristiques calculées à partir d'échantillons d'apprentissage ou de test, et Modèle:Math est un paramètre libre équilibrant l'influence des termes d'ordre supérieur par rapport aux termes d'ordre inférieur dans le polynôme. Lorsque Modèle:Math, le noyau est appelé homogène. (Un  noyau polynomial plus généralisé divise Modèle:Math par un paramètre scalaire Modèle:Mvar spécifié par l'utilisateur.)

Comme noyau, Modèle:Mvar correspond à un produit scalaire dans un espace caractéristique basée sur une certaine application Modèle:Mvar :

$K(x,y)=⟨\varphi (x),\varphi (y)⟩$

La nature de Modèle:Mvar peut être vue à partir d'un exemple. Soit Modèle:Math, nous obtenons donc le cas particulier du noyau quadratique. Après avoir utilisé le théorème multinôme de Newton (deux fois de l'application externe est le théorème du binôme de newton) et le regroupement,

$K(x,y)={(\sum _{i=1}^n{x}_i{y}_i+c)}^2=\sum _{i=1}^n\left(x_i^2\right)\left(y_i^2\right)+\sum _{i=2}^n\sum _{j=1}^{i-1}\left(\sqrt{2}{x}_i{x}_j\right)\left(\sqrt{2}{y}_i{y}_j\right)+\sum _{i=1}^n\left(\sqrt{2c}{x}_i\right)\left(\sqrt{2c}{y}_i\right)+c^2$

il resulte que la fonctionnalité de l'application est donnée par :

$\phi (x)=⟨x_n^2,\dots ,x_1^2,\sqrt{2}{x}_n{x}_{n-1},\dots ,\sqrt{2}{x}_n{x}_1,\sqrt{2}{x}_{n-1}{x}_{n-2},\dots ,\sqrt{2}{x}_{n-1}{x}_1,\dots ,\sqrt{2}{x}_2{x}_1,\sqrt{2c}{x}_n,\dots ,\sqrt{2c}{x}_1,c⟩$

Utilisation pratique

Bien que le noyau RBF soit plus populaire dans la classification SVM que le noyau polynomial, ce dernier est très populaire dans le traitement automatique du langage naturel (NLP)Modèle:,. Le degré le plus commun est Modèle:Math (quadratique), car les grands degrés tendent à surapprendre sur les problèmes de NLP.

Différentes manières de calculer le noyau polynomial (à la fois exacte et approchée) ont été conçues comme des alternatives à l'usage des algorithmes de formation SVM non-linéaire, y compris :

• la pleine expansion du noyau avant l'apprentissage/test avec un SVM linéaire, c'est-à-dire le calcul complet de l'application Modèle:Mvar comme dans la régression polynomiale ;
• Règle d'association (à l'aide d'une variante de  l'algorithme apriori) pour les plus fréquentes conjonctions de fonctionnalité en un ensemble de formation afin de produire une évaluation approximative de l'expansion ;
• Index inversé des vecteurs de supportModèle:,.

Un problème avec le noyau polynomial est qu'il peut souffrir d'instabilité numérique : lorsque Modèle:Math tend vers zéro avec l'augmentation de Modèle:Mvar, alors que quand Modèle:Math tend vers l'infini.