Voir la source de Adhérence, intérieur et frontière d'un convexe

Dans le cas particulier de parties '''[[ensemble convexe|convexes]]''' d'un [[espace vectoriel topologique]], les opérateurs topologiques élémentaires d''''[[adhérence (mathématiques)|adhérence]]''' ou '''[[intérieur (topologie)|intérieur]]''' préservent la convexité. Sous une réserve technique mineure (qui justifie l'introduction de concepts simples, ceux d''''intérieur relatif''' et de '''frontière relative''', qui sont l'intérieur ou la [[frontière (topologie)|frontière]] relativement à l'[[enveloppe affine]] du convexe), le remplacement d'un convexe par son adhérence ou son intérieur n'en modifie pas profondément la forme ; en particulier le bord du convexe reste discernable sur les nouveaux convexes ouvert ou fermé qu'on lui a substitués.

== Observation préalable : le cadre de cet article ==
Pour des raisons qui tiennent surtout à l'absence de vocabulaire usuel pour les espaces affines munis d'une topologie compatible avec leur structure géométrique, les résultats ci-dessous sont énoncés dans le contexte d'un espace vectoriel topologique. Dans les faits, c'est la structure [[espace affine|affine]] de l'espace sous-jacent qui a du sens et tout ce qui est énoncé est valable à l'identique sous l'hypothèse d'un « espace affine topologique » (c'est-à-dire un espace affine dont l'espace vectoriel sous-jacent est muni d'une structure d'espace vectoriel topologique).

En particulier, tout ce qui est écrit est valable dans le cadre des [[espace affine|espaces affines]] de [[dimension d'un espace affine|dimension]] finie. Le lecteur mal à l'aise en [[topologie générale]] mais au fait du vocabulaire de base concernant les [[espace métrique|espaces métriques]] pourra lire l'article en se restreignant mentalement à un tel cadre, suffisant pour survoler l'essentiel du contenu.

Les espaces sont toujours implicitement '''réels''' (il faudrait adapter certaines affirmations relatives aux dimensions dans le cas d'espaces vectoriels complexes).

== Adhérence d'un convexe ==
{{Théorème|Proposition|Dans un espace vectoriel topologique, l'[[adhérence (mathématiques)|adhérence]] d'un convexe est convexe.}}
L'adhérence de <math>C</math> est notée <math>\overline C</math><ref>{{Harvsp|Hiriart-Urruty|2009|p=xi}}.</ref> (ou <math>\operatorname{cl}C</math><ref>{{Harvsp|Hiriart-Urruty|Lemaréchal|2004|p=4}}.</ref>, de l'anglais ''{{Lang|en|closure}}'').

{{Démonstration/début}}
Notons ''C'' le convexe.

'''Version simplifiée de la démonstration, valable pour les seuls [[Espace séquentiel#Espace de Fréchet-Urysohn|espaces où l'adhérence s'exprime séquentiellement]]''' (ce qui est le cas si l'espace est [[Espace métrisable|métrisable]], en particulier s'il est [[Espace séparé|séparé]] et [[Topologie d'un espace vectoriel de dimension finie|de dimension finie]])

Soient ''x'' et ''y'' deux points de {{Surligner|''C''}}, et ''z'' un point du segment [''x'', ''y''], qui peut donc être écrit sous la forme ''z'' = λ''x'' + (1 – λ)''y'' pour un certain λ de [0, 1].

On peut écrire <math>x=\lim_{+\infty }x_k</math> et <math>y=\lim_{+\infty} y_k</math> pour deux suites <math>(x_k)</math>  et <math>(y_k)</math> de points de ''C''.

Alors <math>z=\lim_{+\infty} (\lambda x_k+(1-\lambda) y_k)</math> fournit une expression de ''z'' comme limite de points de ''C'', ce qui assure bien l'appartenance de ''z'' à {{Surligner|''C''}}.

'''Version valable dans tout espace vectoriel topologique'''

Considérons l'application ''f'', de [0, 1]×''E''×''E'' dans ''E'', définie par ''f''(λ, ''x'', ''y'') = λ''x'' + (1 – λ)''y''. Une partie ''C'' de ''E'' est convexe si et seulement si ''f''([0, 1]×''C''×''C'') ⊂ ''C''. Par [[Continuité (mathématiques)#Caractérisations globales|continuité]] de ''f'' (et puisque l'[[Adhérence (mathématiques)#Sous-espaces et espaces produits|adhérence d'un produit]] est le produit des adhérences), cette propriété se transmet de ''C'' à {{Surligner|''C''}}.

{{Démonstration/fin}}

== Intérieur et intérieur relatif d'un convexe ==
Après s'être intéressé à l'adhérence d'un convexe, il est naturel d'examiner son [[intérieur (topologie)|intérieur]]. Or il apparaît ici une désagréable dissymétrie : alors que le remplacement d'un convexe ''C'' par son adhérence conserve une partie significative de l'information sur la forme de celui-ci (ainsi, du moins en dimension finie, l'adhérence n'est qu'exceptionnellement l'espace ambiant ''E'' tout entier, en fait dans le seul cas dégénéré où ''C = E'') le remplacement par l'intérieur peut effacer toute information (l'intérieur étant souvent vide).

On a le choix entre deux solutions, plus ou moins adaptées selon le cas, pour contourner cet obstacle : l'une est de se restreindre dans les énoncés à des convexes dont l'[[enveloppe affine]] est l'espace ambiant tout entier<ref>C'est par exemple le choix fait dans {{Berger2}}, section 11.3.</ref> — mais dans certains contextes, ce n'est guère pratique, par exemple si on veut évoquer les faces d'un [[polyèdre convexe]] — ; l'autre est d'introduire un vocable supplémentaire :

{{Théorème|Définition|L''''intérieur relatif d'un convexe''' non vide ''C'' dans un espace vectoriel topologique ''E'' est l'intérieur de ''C'' relativement au [[sous-espace affine engendré]] par ''C''.}}

Pour le distinguer de l'intérieur de ''C'' dans ''E'', noté <math>\operatorname{int}C</math>, l'intérieur relatif de ''C'' est noté <math>\operatorname{ir}C</math><ref>{{Ouvrage|auteur=J.-B. Hiriart-Urruty|titre=Optimisation et analyse convexe|éditeur=[[EDP Sciences]]|année=2009|année première édition=1998, [[PUF]]|url={{Google Livres|Zvl_RSHhJoQC|page=241}}|page=241}}.</ref> ou <math>\operatorname{intr}C</math> (ou <math>\operatorname{ri}C</math>, de l'anglais ''{{Lang|en|relative interior}}'').

Par définition de la [[topologie induite]] sur <math>\operatorname{aff}C</math>, on a donc :
<center><math>\operatorname{ir}C=\{x\in C\,\mid\,</math>il existe un [[Voisinage (mathématiques)|voisinage]] <math>V</math> de <math>x</math> dans <math>E</math> tel que <math>(V\cap\operatorname{aff}C)\subset C\}.</math></center>

Par exemple, l'intérieur relatif d'un [[sous-espace affine]] est ce sous-espace lui-même.

En dimension finie tout au moins, et contrairement à l'intérieur, l'intérieur relatif d'un convexe non vide n'est jamais vide :

{{Théorème|Proposition|En dimension finie, l'intérieur relatif d'un convexe ''C'' non vide n'est pas vide, et a même [[enveloppe affine]] (donc même [[dimension d'un convexe|dimension]]) que ''C''.}}

{{Démonstration|
Notons ''F'' le sous-espace affine engendré par ''C'' et ''d'' sa dimension. Il existe alors ''d'' + 1 points de ''C'' [[Repère affine#Famille affinement libre|affinement indépendants]], {{nobr|''e''{{ind|0}}, … , ''e{{ind|d}}''.}} Le [[simplexe]] [[Ouvert (topologie)|ouvert]] de {{math|''F''}}{{Retrait|<math>\left\{\left.\sum_{i=0}^dt_ie_i~\right|~t_i>0,\sum t_i=1\right\}</math>}}est non vide et inclus dans {{math|''C''}}, et engendre encore affinement ''F''.
}}

En dimension quelconque, pour <math>x\in\operatorname{ir}C</math> on a évidemment : pour tout point <math>v\ne x</math> dans <math>\operatorname{aff}C</math>, il existe <math>u\in C</math> tel que <math>x\in\left]u,v\right[</math> (il suffit de choisir <math>u=x+\varepsilon(x-v)</math> pour un <math>\varepsilon>0</math> assez petit). Fait plus remarquable, la réciproque forte suivante fournit un critère d'intériorité relative : si <math>\operatorname{ir}C</math> est non vide — ce qui a lieu sous les hypothèses de la proposition précédente — alors, pour qu'un point <math>x</math> de <math>E</math> lui appartienne, il suffit que pour tout point <math>v\ne x</math> dans <math>\operatorname{ir}C</math>, il existe <math>u\in C</math> tel que <math>x\in\left]u,v\right[</math>. En effet :

{{Théorème|Lemme d'intériorité<ref>Pour une démonstration, voir par exemple {{Note autre projet|Wikiversité|Topologie générale/Exercices/Espaces topologiques#Exercice 2 : Mesurabilité des convexes|cet exercice|début=la solution de la question 2 de}}</ref>|Soit <math>C</math> un convexe d'un espace vectoriel topologique. Alors,
<math>\forall u\in\overline C\quad\forall v\in\operatorname{int}C\quad\left]u,v\right]\subset\operatorname{int}C.</math>|style=display:table}}

On déduit de ce lemme que (comme pour l'adhérence) on a : 

{{Théorème|Corollaire|Dans un espace vectoriel topologique, l'intérieur et l'intérieur relatif d'un convexe sont convexes.}}

En guise de résumé de cette section, on peut faire un bilan rapide, ''C'' désignant un convexe non vide d'un [[espace affine]] réel ''E'' de dimension finie, on a l'alternative suivante :
* ou bien dim''C'' = dim''E'', auquel cas intérieur et intérieur relatif sont un même convexe, qui engendre affinement ''E'' ;
* ou bien dim''C'' < dim''E'', auquel cas l'intérieur ordinaire est vide, mais l'intérieur relatif est lui un convexe non vide, qui engendre affinement le même sous-espace affine que ''C''.

== Frontière relative d'un convexe ==
La [[Frontière (topologie)|frontière]] d'un convexe est toujours [[Ensemble négligeable#Mesure de Lebesgue|Lebesgue-négligeable]] (voir « [[Mesure de Jordan]] »).

Mais, de même que l'intérieur « ordinaire », elle n'est pas toujours un objet pertinent pour l'étude d'un convexe. Ainsi, pour un terrain rectangulaire vivant dans l'espace à trois dimensions, elle est bien décevante puisque égale à toute l'étendue du territoire.

On utilisera plutôt la frontière relative, définie à partir de l'intérieur relatif :

{{Théorème|Définition|La '''frontière relative''' d'un convexe non vide dans un espace affine de dimension finie est le complémentaire de son intérieur relatif dans son adhérence.}}

Le concept est bien plus satisfaisant : dans l'exemple du terrain, il renvoie bien ce qu'évoque le mot « frontière » du langage courant.

On peut faire la remarque suivante<ref>Légèrement adaptée de la proposition 11.2.9 dans {{Harvsp|Berger|loc=tome 3, {{p.|29}}}} dans l'édition de 1978.</ref>, d'intérêt surtout anecdotique dès lors que le [[théorème de Krein-Milman]] en fournit une variante nettement plus puissante :

{{Théorème|Proposition|Un convexe [[compacité (mathématiques)|compact]] (non vide et non réduit à un point) est l'[[enveloppe convexe]] de sa frontière relative (et ''a fortiori'' de sa frontière)}}

{{Démonstration|
Soit ''z'' un point du convexe ''C''. Traçons, dans le sous-espace affine engendré par ''C'', une droite affine ''D'' passant par ''z''. L'intersection ''C''∩''D'' est un convexe compact non vide de ''D'', donc un segment [''x'', ''y'']. Les deux points ''x'' et ''y'' sont alors sur la frontière relative donc ''z'' est dans l'enveloppe convexe de cette frontière.

La frontière contenant toujours la frontière relative, l'affirmation ''a fortiori'' est alors une évidence.
}}

== Enchaînement d'opérations successives ==
On sait que, pour des parties quelconques d'un espace topologique (cf. [[Théorème de fermeture/complémentaire de Kuratowski|Théorème « 14 » de Kuratowski]]), il faut accumuler pas moins de quatre opérateurs pour arriver à des formules justes :
<center><math>\overline{\operatorname{int}\left({\overline{\operatorname{int} A}}\right)}=\overline{\operatorname{int}A}\text{ et }\operatorname{int}\left({\overline{\operatorname{int}{\overline A}}}\right)=\operatorname{int}{\overline A}.</math></center>

Les choses se stabilisent beaucoup plus vite pour des convexes, comme l'expriment le théorème ci-dessous et son corollaire :

{{Théorème|Théorème|Soit {{math|''C''}} un convexe dans un espace vectoriel topologique. On suppose en outre {{math|''C''}} d'intérieur non vide. Alors
<center><math>\operatorname{int}{\overline C}=\operatorname{int}C\text{ et }\overline{\operatorname{int}C}=\overline C.</math></center>}}

{{Démonstration/début}}
Fixons (d'après l'hypothèse de non-vacuité de {{math|int ''C''}}) un {{math|''v''}} auxiliaire lui appartenant.
*<math>\operatorname{int}{\overline C}\subset\operatorname{int} C~:</math><br />Pour tout {{math|''w'' ∈ int{{surligner|''C''}}}} et tout {{math|''t'' ∈ ]0, 1]}} suffisamment proche de {{math|1}}, le point {{math|''u''}} défini par {{math|1=''w = tu'' + (1 – ''t'')''v''}} appartient à {{math|{{surligner|''C''}}}} donc (d'après le lemme d'intériorité [[#Intérieur et intérieur relatif d'un convexe|ci-dessus]]) {{math|''w'' ∈ int ''C''}}.
*<math>\overline C\subset\overline{\operatorname{int}C}~:</math><br />Tout {{math|''u'' ∈ {{surligner|''C''}}}} est adhérent à {{math|]''u'', ''v'']}} donc (d'après le lemme) à {{math|int ''C''}}.
{{Démonstration/fin}}

{{Théorème|Corollaire|Pour un convexe non vide {{math|''C''}} en dimension finie,
<center><math>\operatorname{ir}{\overline C}=\operatorname{ir}C\text{ et }\overline{\operatorname{ir}C}=\overline C.</math></center>En particulier les trois convexes emboîtés {{math|ir ''C''}}, {{math|''C''}} et {{math|{{surligner|''C''}}}} ont la même frontière relative.}}

== Propriétés ==
<!--Si <math>E_1, E_2</math> sont deux espaces vectoriels topologiques et <math>C_1\subset E_1,C_2\subset E_2</math> deux convexes non vides, alors
<math>\operatorname{ir}{\left(C_1\times C_2\right)}=\operatorname{ir}{C_1}\times \operatorname{ir}{C_2}</math> (par simple compatibilité de l'[[enveloppe affine]] et de l'[[Intérieur (topologie)|intérieur]] avec le [[Produit cartésien|produit]], donc sans utiliser la convexité).
-->
{{Théorème|Calcul d'intérieur relatif de convexes|Soient <math>E</math>, <math>E_1</math>, <math>E_2</math> et <math>F</math> des espaces vectoriels de dimension finie et <math>A:E\to F</math> une application linéaire.
# Si <math>C_1</math> et <math>C_2</math> sont deux convexes non vides de <math>E</math>, alors<center><math>\operatorname{ir}{C_1}\cap\operatorname{ir}{C_2}\ne\varnothing\Rightarrow\operatorname{ir}{\left(C_1\cap C_2\right)}=\operatorname{ir}{C_1}\cap\operatorname{ir}{C_2}</math>.</center>En particulier, <math>C_1\subset C_2\Rightarrow\operatorname{ir}{C_1}\subset\operatorname{ir}{C_2}</math>.
#Si <math>C</math> est un convexe non vide de <math>E</math>, alors<center><math>\operatorname{ir}{A(C)}=A(\operatorname{ir}C)</math>.</center>En particulier, si <math>C_1</math> et <math>C_2</math> sont deux convexes non vides de <math>E</math>, alors <math>\operatorname{ir}{(C_1+C_2)}=\operatorname{ir}{C_1}+\operatorname{ir}{C_2}</math>.
# Si <math>C\subset F</math> est convexe non vide et si l'image réciproque <math>A^{-1}(\operatorname{ir}C)\ne\varnothing</math>, alors<center><math>\operatorname{ir}{A^{-1}(C)}=A^{-1}(\operatorname{ir}C)</math>.</center>
}}

== Annexes ==

=== Notes et références ===
*Sauf précision spécifique, l'ensemble de l'article a été élaboré à partir de {{Ouvrage|lang=en|auteur=Jean-Baptiste Hiriart-Urruty|auteur2=Claude Lemaréchal|titre=Fundamentals of Convex Analysis|lieu=Berlin|collection=Grundlehren Text Editions|éditeur=[[Springer Verlag|Springer]]|année=2004|année première édition=2001|url={{Google Livres|hIYKBwAAQBAJ|page=33}}|isbn=978-3-540-42205-1|page=33-36}}, complété par [[Jean Dieudonné]], ''[[Éléments d'analyse]]'', tome II, coll. « Cahiers scientifiques » fasc. XXXI, Gauthier-Villars, 1974, {{ISBN|978-2-87647-212-9}}, exercice 11 {{p.|70}} pour les énoncés valables dans tout espace vectoriel topologique.
{{Crédit d'auteurs|interne|Intérieur relatif|133348847}}
{{Références}}

=== Bibliographie ===
{{Ouvrage|lang=en|auteur=[[Ralph Tyrrell Rockafellar|R. Tyrrell Rockafellar]]|année=1970|titre=Convex Analysis|collection=Princeton Mathematical Series|numéro dans collection=28|éditeur=[[Princeton University Press]]|lieu=Princeton, New Jersey|url={{Google Livres|1TiOka9bx3sC}}}}

{{Palette|Convexité}}
{{portail|mathématiques}}

[[Catégorie:Analyse convexe]]
[[Catégorie:Géométrie convexe]]
[[Catégorie:Espace vectoriel topologique]]