Voir la source de Pseudo-inverse

{{Homon|Inverse (homonymie)}}
En [[mathématiques]], et plus précisément en  [[algèbre linéaire]], la notion de '''pseudo-inverse''' (ou '''inverse généralisé''') généralise celle d’inverse d’une [[application linéaire]] ou d’une [[matrice (mathématiques)|matrice]]<ref name="IG2003">{{Ouvrage|langue=en|prénom1=Adi |nom1=Ben-Israel|prénom2=Thomas N. E.|nom2=Greville|titre=Generalized Inverses |sous-titre=Theory and Applications |numéro d'édition=2 <!--|éditeur=Springer Science+Business Media--> |éditeur=Springer-Verlag |année=2003 |année première édition=1974 |isbn=0-387-00293-6 }}</ref> aux cas non inversibles en lui supprimant certaines des propriétés demandées aux inverses, ou en l’étendant aux espaces non algébriques plus larges.

En général, il n’y a pas unicité du pseudo-inverse. Son existence, pour une application linéaire entre [[espace vectoriel|espaces]] de [[dimension d'un espace vectoriel|dimension]] éventuellement infinie, est équivalente à l'existence de [[sous-espace supplémentaire|supplémentaires]] du [[noyau (algèbre)|noyau]] et de l'image. Selon les propriétés demandées, le pseudo-inverse défini permet toutefois de généraliser la notion d'inverse en se restreignant au semi-groupe associatif multiplicatif seul, même s'il ne respecte pas les autres contraintes du corps ou de l'algèbre (en particulier les propriétés de distributivité ou de commutativité ne sont plus vraies dans le cas général, là où le véritable inverse peut les respecter).

Ont été étudiés en particulier les types de pseudo-inverses suivants :
* le pseudo-inverse de Moore-Penrose dans le cas des matrices carrées non inversibles, mais généralisable à toute algèbre de matrices à valeurs dans un corps.
* le pseudo-inverse de Drazin qui détermine la matrice qui constitue un point fixe dans la multiplication par l'exponentiation de matrices carrées au-delà d'un degré fini.
* le pseudo-inverse à gauche et le pseudo-inverse à droite, utiles dans le cas des matrices non carrées qui ne sont jamais inversibles pour déterminer la factorisation en valeurs singulières, et qui ne sont pas nécessairement égaux non plus dans le cas de transformées non commutatives comme les opérateurs fonctionnels et distributions non discrètes.

Le pseudo-inverse se calcule à l’aide d’une généralisation du [[théorème spectral]] aux matrices non carrées.

Il est notamment utile dans le calcul de régressions (méthode des moindres carrés) pour un système d'équations linéaires.

== Historique ==
Pour une matrice à coefficients [[nombre réel|réels]] ou [[nombre complexe|complexes]] (pas nécessairement [[matrice carrée|carrée]]), ou pour une application linéaire entre espaces [[espace euclidien|euclidiens]] ou [[espace hermitien|hermitiens]], en ajoutant certaines conditions supplémentaires, on a unicité du pseudo-inverse, appelé '''pseudo-inverse de Moore-Penrose''' (ou simplement « pseudo-inverse »), décrit par [[Eliakim Hastings Moore]]<ref name="Moore1920">{{Article|langue=en|auteur=[[Eliakim Hastings Moore]]|titre=On the reciprocal of the general algebraic matrix|périodique=Bull. AMS|volume=26|pages=394-395|année=1920|url=http://projecteuclid.org/euclid.bams/1183425340|consulté le=19 décembre 2010}}</ref> dès 1920 et redécouvert indépendamment par [[Roger Penrose]]<ref name="Penrose1955">{{article |langue=en |nom=Penrose | prénom=Roger | lien auteur=Roger Penrose | titre=A generalized inverse for matrices | journal=Proceedings of the Cambridge Philosophical Society| volume=51 | pages=406-413 | année=1955 }}</ref> en 1955. [[Erik Ivar Fredholm]] avait déjà introduit le concept de pseudo-inverse pour un [[opérateur intégral]] en 1903.

== Cas général pour une application linéaire ==
=== Définition et premières propriétés ===
Soient <math>f</math>  une [[application linéaire]] entre deux [[espace vectoriel|espaces vectoriels]] <math>E</math> et <math>F</math> et <math>g</math> une application linéaire de <math>F</math> dans <math>E</math>. Ces deux applications sont pseudo-inverses l'une de l'autre si les deux conditions suivantes sont satisfaites :
<center><math>f\circ g \circ f =f</math><span style="padding:4em"> et </span><math>g\circ f \circ g =g</math>.</center>

Dans ce cas, les propriétés suivantes sont vérifiées :
* l'espace <math>E</math> est la [[somme directe]] du noyau de <math>f</math> et de l'image de <math>g</math> ;
* l'espace <math>F</math> est la somme directe du noyau de <math>g</math> et de l'image de <math>f</math> ;
* les applications <math>f</math> et <math>g</math> induisent des [[isomorphisme]]s [[application réciproque|réciproques]] entre leurs images ;
* si l'application <math>f</math> est inversible, alors son inverse est l'application <math>g</math>.

Cette définition se traduit naturellement sous forme matricielle dans le cas d'espaces vectoriels de dimension finie.

=== Existence et construction ===
Réciproquement, soit <math>f</math> une application linéaire entre deux espaces vectoriels <math>E</math> et <math>F</math>, dont le noyau admette un supplémentaire <math>K</math> dans <math>E</math> et dont l'image admette un supplémentaire <math>N</math> dans <math>F</math>. Alors la restriction de <math>f</math> à <math>K</math> induit un isomorphisme entre <math>K</math> et son image. L'application réciproque de l'image de <math>f</math> vers <math>K</math> s'étend de façon unique par l'application nulle sur <math>N</math>, en une application linéaire <math>g</math> de <math>F</math> dans <math>E</math> qui est par construction pseudo-inverse de <math>f</math>.

Il y a donc [[correspondance biunivoque]] entre les pseudo-inverses d'une application linéaire et les couples de supplémentaires pour son noyau et son image.

Remarque : ceci s'applique évidemment aux cas où l'un des supplémentaires <math>K</math> et <math>N</math> est réduit à l'origine ou à l'espace vectoriel tout entier, ce qui a lieu en particulier lorsque <math>f</math> est inversible : <math>K</math> est alors égal à <math>E</math> et <math>N</math> est réduit à l'origine.

=== Choix des supplémentaires ===
Il n'y a pas de choix canonique d'un supplémentaire en général, mais une structure d'[[espace euclidien]] ou [[espace hermitien|hermitien]] sur les espaces vectoriels source et but permet d'en déterminer un par la définition de l'[[complément orthogonal|orthogonal]]. Cette définition du pseudo-inverse correspond au « pseudo-inverse de Moore-Penrose » pour les matrices.

== Cas matriciel ==
=== Définition ===
Étant donné une [[matrice (mathématiques)|matrice]] <math>A</math> à coefficients [[nombre réel|réels]] ou [[nombre complexe|complexes]] avec <math>n</math> lignes et <math>p</math> colonnes, son pseudo-inverse <math>A^+</math> est l'unique matrice à <math>p</math> lignes et <math>n</math> colonnes vérifiant les conditions suivantes :
# <math>A A^+A = A\,</math> ;
# <math>A^+A A^+ = A^+</math> &nbsp; &nbsp; &nbsp; (<math>A^+</math> est un inverse pour le semi-groupe multiplicatif) ;
# <math>(AA^+)^* = AA^+</math> &nbsp; &nbsp; &nbsp; (<math>AA^+</math> est une matrice hermitienne) ; 
# <math>(A^+A)^* = A^+A</math> &nbsp; &nbsp; &nbsp; (<math>A^+A</math> est également hermitienne).

Ici, la notation <math>M^*</math> désigne la [[matrice adjointe]] à <math>M</math>, donc la [[Matrice transposée|transposée]] pour le cas réel.

Cette matrice peut s'obtenir comme une [[limite (mathématiques)|limite]] :
:<math>A^+ = \lim_{\delta \to 0} (A^* A + \delta I)^{-1} A^*
          = \lim_{\delta \to 0} A^* (A A^* + \delta I)^{-1}</math>
qui existe même si les matrices produits (<math>A A^*</math>) et (<math>A^* A</math>) ne sont pas inversibles.

=== Propriétés ===
<div style="float:right;margin:0.2em;margin-rigth:0;border:1px solid #cfcfcf;padding:3px">
<div style="margin:0;border:1px solid #cfcfcf;padding:0.3em"><math>\begin{align}
(          A^+   )^+ & =           A      \\
(    {}^t\!A     )^+ & =    {}^t\!(A^+)   \\
(\overline{A}    )^+ & = \overline{A^+}   \\
(          A^*   )^+ & =          (A^+)^* \\
\end{align}</math></div>
<div style="margin:0.3em 0;text-align:center"><small>
''Identités valables pour toute matrice <math>A</math><br /> (à coefficients réels ou complexes)''
</small></div>
</div>

L’opération de pseudo-inversion :
* est [[Involution (mathématiques)|involutive]] ;
* commute avec la [[Matrice transposée|transposition]] et la [[matrice conjuguée|conjugaison]] ;
*est un [[antimorphisme]] sur le produit, sous certaines hypothèses : soient <math>A</math> et <math>B</math> deux matrices dont le produit <math>AB</math> existe. Si l’une au moins est [[matrice unitaire|unitaire]], ou si les deux matrices sont de rang égal à leur dimension commune, alors <math>(AB)^+ = B^+ A^+</math> ;
*n’est pas [[Continuité (mathématiques)|continue]] en 0 (la matrice nulle). En effet, elle est [[Fonction homogène|homogène]] de degré –1 : pour tout [[Scalaire (mathématiques)|scalaire]] <math>\alpha</math> non nul, <math>(\alpha A)^+ = \frac1\alpha A^+</math>. Plus généralement, elle n’est continue qu’au voisinage des matrices inversibles (ou de rang maximum pour des matrices non carrées<ref name="rakocevic1997">{{article|langue=En |prénom=Vladimir |nom=Rakočević |titre=On continuity of the Moore–Penrose and Drazin inverses |journal=Matematički Vesnik |volume=49 |année=1997 |date= |url=http://elib.mi.sanu.ac.rs/files/journals/mv/209/mv973404.pdf |pages=163-72 }}.</ref>).

==== Projections ====
Dans le cas matriciel, <math>P = AA^+</math> et <math>Q = A^+A</math> sont des [[Projection orthogonale|projecteurs orthogonaux]], c'est-à-dire des [[Matrice hermitienne|matrices hermitiennes]] (<math> P = P^*</math>, <math> Q = Q^*</math>) et [[Idempotence|idempotentes]] (<math> P^2 = P</math> et <math> Q^2 = Q</math>), et l'on a les résultats suivants<ref name="GvL1996">{{Ouvrage | langue=en |auteur2=[[Charles F. Van Loan]]|auteur1=[[Gene H. Golub]]| titre=Matrix Computations | lieu=Baltimore/London | éditeur=Johns Hopkins | année=1996 | numéro d'édition=3 | page=257-258 | isbn=0-8018-5414-8}}.</ref> :
*<math>PA=A=AQ</math> et <math>A^+P=A^+=QA^+</math> ;
*<math>P</math> est le projecteur orthogonal sur l'[[Image d'une application|image]] de <math>A</math> (égale à l'[[Complément orthogonal|orthogonal]] du [[Noyau (algèbre)|noyau]] de <math> A^*</math>) ;
*<math>Q</math> est le projecteur orthogonal sur l'image de <math>A^*</math> (égal à l'orthogonal du noyau de <math>A</math>) ;
*<math>I - P</math> est le projecteur orthogonal sur le noyau de <math>A^*</math> ;
*<math>I - Q</math> est le projecteur orthogonal sur le noyau de <math>A</math>.

=== Calcul effectif ===
Si la matrice <math>A</math>, avec <math>n</math> lignes et <math>p</math> colonnes, est de rang <math>k</math>, alors elle peut s'écrire comme un produit de matrices de même rang <math>A = BC</math>, où <math>B</math> possède <math>n</math> lignes et <math>k</math> colonnes et <math>C</math> possède <math>k</math> lignes et <math>p</math> colonnes. Dans ce cas les produits (<math>C C^*</math>) et (<math>B^*B</math>) sont inversibles et la relation suivante est vérifiée :
: <math>A^+ = C^*(CC^*)^{-1}(B^*B)^{-1}B^*</math>.

Des approches optimisées existent pour le calcul de pseudo-inverses de matrices par blocs.

Algorithmiquement, le pseudo-inverse s'obtient à partir de la [[décomposition en valeurs singulières]] : muni de cette décomposition <math>A = U\sigma V^*</math>, on calcule
: <math>A^+ = V \sigma^+U^*</math>, 
où <math>\sigma^+</math>est le pseudo-inverse de <math>\sigma</math>. La matrice <math>\sigma</math> est constituée de deux blocs : une [[matrice diagonale]] et une matrice nulle. Son pseudo-inverse est une matrice dont les éléments non nuls sont obtenus en inversant les éléments non nuls (de la diagonale) de <math>\sigma</math>, et en prenant le transposé de la matrice ainsi obtenue.

À partir d'une matrice dont le pseudo-inverse est connu, {{Lesquels|il existe des algorithmes spécialisés|motif=Le texte précédent n'en mentionne pas, ni la source fournie.|date=25 mars 2022}} qui effectuent le calcul plus rapidement pour des matrices en rapport avec la première. En particulier, si la différence n'est que d'une ligne ou colonne changée, supprimée ou ajoutée, des algorithmes itératifs peuvent exploiter cette relation.

=== Cas particuliers ===
<div style="float:right;margin:0.2em;margin-rigth:0;border:1px solid #cfcfcf;padding:3px">
<div style="margin:0;border:1px solid #cfcfcf;padding:0.3em"><math>
X^+ = \left\{\begin{array}
  {rl} 0                                 & \mbox{si}\ X=0\,\\
  \frac{1}{\left\Vert X\right\Vert^2}X^* & \mbox{sinon}.   \\
\end{array}\right.
</math></div>
<div style="margin:0.3em 0;text-align:center"><small>
''Pseudo-inverse d'un vecteur colonne''
</small></div></div>
* Le pseudo-inverse d’une [[matrice nulle]] est sa transposée (également nulle).
* Le pseudo-inverse d’un vecteur colonne non nul est son vecteur adjoint divisé par sa norme au carré.
*Plus généralement, si le [[rang (mathématiques)|rang]] de <math>A</math> est égal à son nombre de lignes<ref name="IG2003" />, la matrice <math>B</math> peut être choisie égale à l’identité et dans ce cas :
*: <math>A^+ = A^*(AA^*)^{-1}</math>.
* De même, si le rang de <math>A</math> est égal à son nombre de colonnes,
*: <math>A^+ = (A^*A)^{-1}A^*</math>.
* ''A fortiori'' si la matrice <math>A</math> est [[Matrice inversible|inversible]], son pseudo-inverse est son inverse.
* Si le pseudo-inverse de <math>A^*A</math> est connu, on peut en déduire <math>A^+</math> par l’égalité :
*: <math>A^+ = (A^*A)^+A^*</math> ;
* De même, si <math>(A A^*)^+</math> est connu, le pseudo-inverse de <math>A</math> est donné par :
*: <math>A^+ = A^*(AA^*)^+</math>.

== Exemple d’utilisation ==
{{article détaillé|Pseudo-solution}}
Le pseudo-inverse donne une solution approchée <math>A^+b</math> à un système <math>A x = b</math> d’équations linéaires : celle que donnerait la [[méthode des moindres carrés]]<ref name="Penrose1956">{{article|langue=en| nom=Penrose | prénom=Roger | titre=On best approximate solution of linear matrix equations | journal=Proceedings of the Cambridge Philosophical Society| volume=52 | pages=17-19 | année=1956 }}.</ref>.

Le système <math>Ax=b</math> a des solutions si et seulement si <math>AA^+b=b</math>, et les solutions sont alors<ref name=James>{{Article|langue=en|auteur=M. James|titre=The generalised inverse|journal=Mathematical Gazette|volume=62|numéro=420|date=1978|p.=109-114|doi=10.1017/S0025557200086460}}.</ref> tous les vecteurs de la forme
:<math>x = A^+ b + \left(I - A^+ A\right)w</math>, où le vecteur <math>w</math> est arbitraire (si ce n'est sa dimension). 

En effet {{supra|Projections}}, l'image de <math>A</math> est égale au noyau de <math>I-AA^+</math>, et le noyau de <math>A</math> est égal à l'image de <math>I - A^+ A</math>.

== Notes et références ==
{{Traduction/Référence|lang1=en|art1=Moore–Penrose inverse|id1=617188967|lang2=de|art2=Pseudoinverse|id2=27815222|type=n}}
{{Références}}

== Voir aussi ==
=== Article connexe ===
[[Régularisation Tychonoff]]

=== Liens externes ===
* {{Planetmath|titre=Pseudoinverse}}
* {{MathWorld|nom_url=Pseudoinverse|titre=Pseudoinverse}}
* {{MathWorld|nom_url=Moore-PenroseMatrixInverse|titre=Moore-Penrose Matrix Inverse}}
* {{en}} [http://www.uwlax.edu/faculty/will/svd/systems/index.html Systèmes linéaires & Pseudo-Inverse]

===Bibliographie===
* {{de}} W. Mackens et H. Voß , ''« Mathematik I für Studierende der Ingenieurwissenschaften »''
* {{de}} A. Kielbasinski et H.Schwetlick, ''« Numerische lineare Algebra »'', [[Deutscher Verlag der Wissenschaften]], 1988

{{Palette|Algèbre linéaire}}
{{Portail|mathématiques}}

[[Catégorie:Application linéaire]]
[[Catégorie:Matrice]]
[[Catégorie:Régression]]