Voir la source de Lemme de Schur

{{autre4|le cas particulier des [[Représentation de groupe|représentations de groupe]]|une version plus générale|Module simple#Lemme de Schur{{!}}le lemme de Schur pour les modules}}
En [[mathématiques]] et plus précisément en [[algèbre linéaire]], le '''lemme de Schur''' est un [[lemme (mathématiques)|lemme]] technique utilisé particulièrement dans la [[Théorie des représentations|théorie de la représentation]] des groupes.

Il a été démontré en [[1907 en science|1907]] par [[Issai Schur]] dans le cadre de ses travaux sur la théorie des [[représentations d'un groupe fini]]<ref>{{article|lang=de|nom=I. Schur|url=http://gdz.sub.uni-goettingen.de/dms/load/img/?PPN=PPN243919689_0132&DMDID=dmdlog10|titre=Untersuchungen über die Darstellung der endlichen Gruppen durch gebrochenen linearen Substitutionen|lien périodique=Journal für die reine und angewandte Mathematik|périodique=J. Reine. Angew. Math.|volume=132|année= 1907|pages=85-137}}</ref>.

Ce lemme est à la base de l'analyse d'un [[caractère d'une représentation d'un groupe fini]] ; il permet, par exemple, de caractériser les [[groupe abélien fini|groupes abéliens finis]].

== Contexte ==
{{Article détaillé|Représentation de groupe|Théorème de Maschke}}

Le '''lemme de Schur''' représente l'un des fondements de la théorie des [[représentations d'un groupe fini]] et de l'analyse de l'algèbre des [[module semi-simple|modules semi-simples]]. 

Une représentation d'un groupe ''G'' dans un espace vectoriel ''E'' de dimension finie ''n'' est la donnée d'un morphisme ρ de ''G'' dans le [[Groupe général linéaire|groupe linéaire]] GL(''E'') des [[automorphisme]]s de ''E''. Cette approche initiée par [[Ferdinand Georg Frobenius]] dans un article<ref>{{article|lang=de|nom=Von G. Frobenius|url=http://bibliothek.bbaw.de/bibliothek-digital/digitalequellen/schriften/anzeige?band=10-sitz/1896-2&seite:int=00000264|titre=Über Gruppencharaktere|périodique=Sitzungsber. [[Académie royale des sciences de Prusse|K. Pr. Akad. Wiss. Berlin]]|année=1896}}</ref> de [[1896 en science|1896]] s'avère fructueuse. 

Trois ans plus tard, [[Heinrich Maschke]] démontre<ref>{{article|lang=de|prénom=H.|nom=Maschke|titre=Beweis des Satzes, dass diejenigen endlichen linearen Substitutionesgruppen, in welchen einige durchgehends verschwindende Coefficienten auftenen intransitiv sind|périodique=Math. Ann.|volume=52|année=1899|p.=363-368}}</ref> que toute représentation est [[somme directe]] de représentations irréductibles.  Une représentation (''E'', ρ) est dite [[représentation irréductible|irréductible]] si les [[Sous-espace vectoriel|sous-espaces]] ''E'' et {0} sont distincts et sont les deux seuls [[Sous-espace stable|sous-espaces stables]] par les automorphismes ρ(g), g décrivant ''G''. Le [[théorème de Maschke]] énonce que, si la [[caractéristique d'un anneau|caractéristique]] de K ne divise pas l'ordre de ''G'', alors toute représentation de G est [[somme directe]] de représentations irréductibles. Connaître toutes les représentations d'un groupe fini revient donc à connaître ses représentations irréductibles, les autres s'obtiennent par somme directe.

Le lemme de Schur est un lemme technique essentiel pour la démonstration d'un résultat majeur : les représentations irréductibles s'identifient par leur [[caractère d'une représentation d'un groupe fini|caractère]], et ces caractères sont [[orthogonalité|orthogonaux]] deux à deux. Cette approche apporte des résultats importants pour la théorie des [[groupe fini|groupes finis]]. Elle a finalement permis la classification des [[groupe simple|groupes simples]], mais aussi la démonstration de résultats comme une [[conjecture]] de [[William Burnside]] stipulant que [[Théorème de Feit et Thompson|tout groupe fini d'ordre impair est résoluble]]. Ce résultat est à l'origine de la [[médaille Fields]] de [[John Griggs Thompson|Thompson]] en 1970.

Si ce lemme est aussi utilisé dans d'autres contextes, celui de la représentation est néanmoins le plus important.

== Le lemme de Schur ==
Soit ''U'' une partie de l'ensemble des [[Endomorphisme linéaire|endomorphismes]] ''L''(''E'') d'un espace vectoriel ''E''. On dit que ''U'' est '''irréductible''' si les deux seuls sous-espaces de ''E'' stables par tout élément de ''U'' sont ''E'' et {0}.

Le lemme de Schur s'énonce alors sous la forme suivante : 

{{Théorème|Lemme de Schur|''Soient E et F deux K espaces vectoriels et ϕ une [[application linéaire]] non [[Application nulle|nulle]] de E dans F.''
#''S'il existe une partie irréductible U de L''(''E'') ''telle que''<center><math>\forall u \in U \quad \exists v \in L(F) \quad \phi \circ u = v \circ \phi, </math></center>''alors ϕ est [[Injection (mathématiques)|injective]].''
#''S'il existe une partie irréductible V de L''(''F'') ''telle que''<center><math>\forall v \in V \quad \exists u \in L(E) \quad \phi \circ u = v\circ \phi, </math></center>''alors ϕ  est [[surjection|surjective]]''.}}
{{Démonstration|contenu=
#Soit ''N'' le [[Application linéaire#Noyau et image|noyau]] de ''ϕ''. Ce sous-espace n'est pas ''E'' tout entier car ''ϕ'' est non nulle. Il est stable par toute application ''u'' de ''U'' car<center><math>\forall u\in U\quad \exists v\in L(F)\quad \phi\circ u(N)=v\circ\phi (N)=\{0\} </math></center> donc ''u''(''N'') est inclus dans ''N''. Par irréductibilité de ''U'', ''N'' est donc réduit à {0}.
#Soit ''M'' l'[[Application linéaire#Noyau et image|image]] de ''ϕ''. Ce sous-espace de ''F'' n'est pas réduit à {0} car ''ϕ'' est non nulle. Il est stable par toute application ''v'' de ''V'' car<center><math>\forall v \in V \quad \exists u\in L(E)\quad  v\circ \phi (E) = \phi \circ u (E) \subset \phi (E) </math></center>donc ''v''(''M'') est inclus dans ''M''. Par irréductibilité de ''V'', ''M'' est donc égal à ''F''.
}}

== Corollaires ==
=== Corollaire 1 ===
''Soient E un [[espace vectoriel de dimension finie]] sur un corps K [[clôture algébrique|algébriquement clos]] et U une partie irréductible de L''(''E''). ''Si un endomorphisme ϕ de E commute avec tout élément de U, alors ϕ est une [[homothétie]].''
{{Démonstration|contenu=
Si Id désigne l'[[application identité]], on a :
:<math>\quad\forall\lambda\in K\quad\forall u\in U \quad (\phi -\lambda {\rm Id} )\circ u=u\circ (\phi-\lambda {\rm Id} ) . </math>
On en déduit par application du lemme de Schur que ''ϕ'' – λ Id est un automorphisme ou est nulle. Soit λ* une valeur propre de ''ϕ'', alors 
''ϕ'' – λ* Id n'est pas un automorphisme, donc est l'application nulle, ce qui démontre le corollaire.
}}

Dans le cas de la représentation d'un groupe d'[[Exposant d'un groupe|exposant]] fini ''e'', alors tout automorphisme de l'image possède pour [[polynôme formel|polynôme]] [[polynôme d'endomorphisme#Idéaux annulateurs|annulateur]] ''X<sup>e</sup>'' – 1. En conséquence, si ce polynôme est scindé sur ''K'', le corollaire s'applique encore.

=== Corollaire 2 ===
''Toute représentation irréductible d'un groupe abélien dans un espace de dimension finie sur un corps algébriquement clos est de degré'' 1.

En effet, soient (''E'', ρ) une telle représentation et ''D'' une droite de ''E''. Quel que soit l'élément ''s'' du groupe, ρ<sub>''s''</sub> commute avec tous les endomorphismes de la représentation. D'après le corollaire 1, ρ<sub>''s''</sub> est une homothétie. Ainsi, ''D'' est invariante donc égale à ''E''.

== Cas des groupes finis ==
=== Corollaire 3 ===
''Soient'' (''E'', ρ<sub>E</sub>) ''et'' (''F'', ρ<sub>F</sub>) ''deux représentations de G irréductibles sur un corps K dont la caractéristique ne divise pas l'ordre g du groupe et sur lequel le polynôme X<sup>g</sup>'' – 1 ''est scindé<ref>C'est le cas des corps de caractéristique nulle et algébriquement clos, tel le corps des nombres complexes.</ref>, et'' ψ ''une application linéaire de E dans F, on définit l'application linéaire'' φ ''de E dans F par :''
<center><math>\varphi=\frac1g\sum_{s\in G}\rho_F(s)\circ\psi\circ\rho_E(s)^{-1}.</math></center>
#''Si les représentations ne sont pas isomorphes, alors'' φ ''est nulle.''
#''Si les représentations sont égales, alors'' φ ''est une homothétie de rapport'' (1/''n'')Tr(ψ).
{{Démonstration|contenu=
Vérifions dans un premier temps que φ satisfait la propriété suivante :
:<math>\forall t \in G \quad \varphi \circ \rho_E(t)=\rho_F(t) \circ \varphi \quad \mathrm{ou~encore}\quad \varphi =\rho_F(t) \circ \varphi \circ \rho_E(t)^{-1} \;</math>
Remarquons tout d'abord que, si ''t'' est un élément de ''G'', l'application de ''G'' dans ''G'' qui à ''s'' associe ''ts'' est une permutation de ''G'', . On en déduit que :
:<math>\forall t \in G \quad \rho_F(t) \circ \varphi \circ \rho_E(t)^{-1} = \frac {1}{g} \sum_{s \in G} \rho_F(t) \circ \rho_F(s)\circ\psi\circ \rho_E(s)^{-1} \circ \rho_E(t)^{-1}=\frac {1}{g} \sum_{s \in G} \rho_F(ts) \circ\psi\circ \rho_E(ts)^{-1} = \varphi </math>
#Comme les représentations ne sont pas isomorphes, φ ne peut être à la fois injective et surjective. Le lemme de Schur montre que, comme φ n'est pas un automorphisme, φ est l'application nulle.
#Si (''E'', ρ<sub>E</sub>) = (''F'', ρ<sub>F</sub>), les hypothèses du corollaire 1 sont vérifiées, ce qui montre que φ est une homothétie. Dans ce cas, l'expression définissant φ est la moyenne de ''g'' applications toutes semblables à ψ et donc ayant la même [[trace (algèbre)|trace]] que ψ. Les traces de φ et ψ sont donc égales. En notant λ le rapport de l'homothétie φ on a donc : ''n''λ = Tr(φ) = Tr(ψ). En appliquant tout ceci à un ψ arbitraire de trace 1, on trouve de plus que ''n'' est inversible dans ''K''.
}}

;Remarque.
Si la caractéristique ''p'' de ''K'' est non nulle, la preuve de ce corollaire met en évidence que le nombre premier ''p'' ne divise pas ''n''. Comme on a supposé que ''p'' ne divise pas ''g'', ceci n'est pas surprenant quand on sait que {{refsou|date=octobre 2011|le degré ''n'' d'une représentation irréductible divise toujours l'ordre ''g'' du groupe.}}

=== Corollaire 4 ===
C'est un quatrième corollaire qui est utilisé dans la théorie des caractères. Il correspond à la traduction en termes de [[matrice (mathématiques)|matrices]] du corollaire précédent. Utilisons les notations suivantes : soient ''A'' et B deux représentations matricielles d'un groupe fini ''G'' d'ordre ''g'' sur un même corps ''K'' dont la caractéristique ne divise pas ''g'' et sur lequel le [[polynôme formel|polynôme]] ''X<sup>g</sup>'' – 1 soit scindé. Les dimensions respectives de ''E'' et ''F'' sont notées ''n'' et ''m''. L'image d'un élément ''s'' de ''G'' par ''A'' (resp. ''B'') est noté ''a<sub>ij</sub>''(''s'') (resp. ''b<sub>ij</sub>''(''s'')).

On a alors, sous les hypothèses du corollaire précédent :
#''Si les représentations A et B ne sont pas isomorphes, alors :''<center><math>\forall i,j \in [1,n] \; \forall k,l \in [1,m] \quad \sum_{s\in G} a_{ij}(s)b_{kl}(s^{-1})=0. </math></center>
#''En notant'' δ<sub>''ij''</sub> ''le [[symbole de Kronecker]], on a :''<center><math>\forall i,j,k,l \in [1,n] \quad \frac1g\sum_{s\in G} a_{ij}(s)a_{kl} (s^{-1})=\frac1n\delta_{il}\delta_{jk}. </math></center>
{{Démonstration|contenu=
#Si ''C'' une matrice de dimension ''m''x''n'' de coefficients (''c''<sub>jk</sub>), la traduction du point 1 du corollaire précédent montre que :<center><math>\sum_{s\in G} A(s)CB(s)^{-1} = 0</math></center> donc <center><math>\forall i\in [1,n] \; \forall l\in [1,m] \quad \sum_{jk} \sum_{s\in G} a_{ij}(s)c_{jk}b_{kl}(s^{-1})= \sum_{jk} \left(\sum_{s\in G} a_{ij}(s)b_{kl}(s^{-1})\right)c_{jk}=0. </math></center>Cette égalité est vraie pour toute matrice ''C'', donc pour toute valeur de ''c''<sub>jk</sub>, ce qui démontre le point 1.
#Avec les mêmes notations (maintenant ''B = A'' et ''m = n''), on obtient d'après le point 2 du corollaire précédent :<center><math>\frac1g\sum_{s\in G}A(s)CA(s)^{-1}=\frac1n{\rm Tr}(C){\rm Id}</math></center> donc <center><math>\forall i,j\in [1,n]\quad\frac1g\sum_{jk}\sum_{s\in G}a_{ij}(s)c_{jk}a_{kl}(s^{-1})=\frac1n\sum_k c_{kk}\delta_{il}. </math></center>On en déduit :<center><math>\forall i,j,k,l\in[1,n]\quad\frac1g\sum_{s\in G}a_{ij}(s)a_{kl}(s^{-1})=\frac1n\delta_{il}\delta_{jk}, </math></center>et le point 2 est démontré.
}}

== Applications ==
=== Caractère ===
{{Article détaillé|Caractère d'une représentation d'un groupe fini}}
C'est la première application historique du lemme. On suppose ici que ''K'' est le corps ℂ des [[nombre complexe|nombres complexes]] et on munit ℂ<sup>''G''</sup> (l'espace vectoriel – de dimension ''g'' – des applications de ''G'' dans ℂ) du [[Espace hermitien|produit hermitien]] 〈 , 〉 suivant :
<center><math> \forall f , h \in \Complex^G \quad \langle f , h \rangle = \frac1g \sum_{ s \in G } f ( s ) \overline{ h ( s ) }. </math></center>
(Si ''z'' désigne un nombre complexe, {{surligner|''z''}} désigne ici son [[conjugué]].)

''Les caractères irréductibles d'un groupe fini G forment une famille [[base orthonormale|orthonormale]] de'' ℂ<sup>''G''</sup>.
{{Démonstration|contenu=
C'est une conséquence directe du corollaire 4. L'article associé démontre que la trace de ρ(''s''{{-1}}) est égale au conjugué de la trace de ρ(''s''), pour tout élément ''s'' de ''G''. En utilisant les notations du paragraphe précédent, on obtient :
:<math>\langle \chi_1, \chi_2 \rangle = \frac1g \sum_{s\in G} \left( \sum_{i=1}^n a_{ii}(s) \right) \overline{\left( \sum_{j=1}^m b_{jj}(s) \right) } = \frac1g\sum_{s\in G} \left( \sum_{i=1}^na_{ii} ( s ) \right) \left(\sum_{j=1}^mb_{jj}(s^{-1}) \right) = \frac1g \sum_{ij} \left( \sum_{s\in G}a_{ii}(s)b_{jj}(s^{-1}) \right) . </math>

Si les deux représentations ne sont pas isomorphes, alors le point 1 du corollaire permet de conclure à l'orthogonalité.

D'après le point 2 on obtient :
:<math>\langle \chi_1, \chi_1 \rangle = \frac1n\sum_{ij}\delta_{ij} \delta_{ij}=1, </math>
ce qui démontre la proposition.
}}
Ce résultat est un des fondements de la théorie des caractères.

=== Groupe abélien fini ===
{{Article détaillé|Théorème de Kronecker}}
D'autres applications existent. Le lemme de Schur permet de démontrer directement que tout [[groupe abélien]] fini est un produit de [[groupe cyclique|cycles]]. La démonstration se fonde essentiellement sur l'[[algèbre linéaire]].

Ce résultat se démontre aussi directement (cf. article détaillé), ou par l'analyse des caractères.

== Notes et références ==
<references />

== Voir aussi ==
=== Article connexe ===
{{Lien|trad=Schur orthogonality relations|Relations d'orthogonalité de Schur}}
=== Liens externes ===
*{{Lien web|url=https://www.idpoisson.fr/beck/wp-content/uploads/sites/16/2018/06/td-repres-groupe-fini.pdf|titre=TD Représentation des groupes finis|auteur=Vincent Beck|date=2005-2006}} du cours de [[Master (France)|M2]] de [[Michel Broué]] ([[Université Paris VII - Diderot]]), et [https://www.idpoisson.fr/beck/wp-content/uploads/sites/16/2018/06/corrige-repres-groupe-fini.pdf corrigé]
* [[Pierre Colmez]], ''Eléments d'analyse et d'algèbre (et de théorie des nombres)'', Éditions de l'École polytechnique {{Lire en ligne|url=http://www.math.jussieu.fr/~colmez/poly-09.pdf}}
<!--lien mort[http://perso.univ-rennes1.fr/daniel.ferrand/RepFinal.pdf Représentation linéaire des groupes finis, une introduction] par D. Ferrand de l'université de Rennes-->

{{Palette|Représentations des groupes finis}}

{{Portail|algèbre}}

[[Catégorie:Théorie des représentations]]
[[Catégorie:Lemme de mathématiques|Schur]]