Action de groupe (mathématiques)

Étant donné un ensemble E et un groupe G, dont la loi est notée multiplicativement et dont l'élément neutre est noté ${\displaystyle e}$, une action (ou opération) de G sur E est une application : ${\displaystyle G\times E\rightarrow E}$ ${\displaystyle (g,x)\mapsto g\cdot x}$ vérifiant les propriétés suivantes : ${\displaystyle \forall x\in E\quad e\cdot x=x}$ ; ${\displaystyle \forall (g,g')\in G^{2}\quad \forall x\in E\quad g'\cdot \underbrace {(g\cdot x)} _{\in E}=\underbrace {(g'g)} _{\in G}\cdot x}$.

On dit également que G opère (ou agit) sur l'ensemble E. Il est important de bien vérifier que l'ensemble E est stable sous l'action du groupe G.

Un point de vue équivalent consiste à dire que le groupe G opère sur l'ensemble E si l'on dispose d'un morphisme de groupes, dit associé à l'action, ${\displaystyle \phi :G\to {\rm {S}}_{E}}$, du groupe G dans le groupe symétrique S_E de l'ensemble E. Un tel morphisme est appelé une représentation du groupe G.

Ce morphisme est lié à l'action par ${\displaystyle g\cdot x=(\phi (g))(x)}$ pour tout ${\displaystyle g\in G,x\in E}$.

Dans le cas où l'ensemble E est muni d'une structure supplémentaire (algébrique, topologique, géométrique), on ne considère que les morphismes ${\displaystyle \phi }$ tels que ${\displaystyle \phi (g)}$ préserve cette structure pour tout ${\displaystyle g\in G}$. Par exemple, si E est un espace vectoriel, on exige que ${\displaystyle \phi }$ soit à valeurs dans GL(E).

• Un groupe opère sur lui-même de deux manières fondamentales :
  • par translations à gauche ; cette action est simplement transitive, c'est-à-dire libre et transitive :
    ${\displaystyle G\times G\rightarrow G,\ (g,x)\mapsto gx}$ ;
  • par automorphismes intérieurs, action aussi appelée par conjugaison :
    ${\displaystyle G\times G\rightarrow G,\ (g,x)\mapsto gxg^{-1}}$:
• Le groupe symétrique d'un ensemble E opère naturellement sur E ; cette action est fidèle et transitive :
  ${\displaystyle {\rm {S}}_{E}\times E\rightarrow E,\ (\sigma ,x)\mapsto \sigma (x)}$.
• Plus généralement, un groupe de permutations G d'un ensemble E (c'est-à-dire un sous-groupe du groupe symétrique de E) opère sur E par
  ${\displaystyle G\times E\rightarrow E,\ (\sigma ,x)\mapsto \sigma (x)}$. Cette opération est appelée l'opération naturelle du groupe de permutations G. Elle est fidèle mais pas forcément transitive.
• Tout groupe G agissant sur un ensemble E agit naturellement sur l'ensemble des parties de E, par
  ${\displaystyle G\times {\mathcal {P}}(E)\to {\mathcal {P}}(E),\ (g,A)\mapsto g\cdot A:=\{g\cdot x\mid x\in A\}}$[1].
• Le groupe orthogonal (resp. unitaire) d'un espace euclidien (resp. espace hermitien) E opère sur sa sphère unité :
  • ${\displaystyle O(E)\times S\rightarrow S,\ (u,x)\mapsto u(x)}$ ;
  • ${\displaystyle U(E)\times S\rightarrow S,\ (u,x)\mapsto u(x)}$.
• Le groupe linéaire d'un espace vectoriel E opère sur l'ensemble ${\displaystyle \eth }$ de ses bases ; cette action est simplement transitive :
  ${\displaystyle GL(E)\times \eth \to \eth ,\ (f,(e_{i})_{i\in I})\mapsto (f(e_{i}))_{i\in I}}$.
• Le groupe projectif linéaire (ou groupe des homographies) ${\displaystyle \mathbb {PGL} (E)}$ d'un espace projectif ℙ(E) opère sur l'ensemble ${\displaystyle {\mathcal {F}}}$ de ses faisceaux harmoniques :
  ${\displaystyle \mathbb {PGL} (E)\times {\mathcal {F}}\rightarrow {\mathcal {F}},\ (\phi ,F)\mapsto \phi (F)}$.
• Le groupe symétrique d'indice p opère sur l'ensemble des formes p-linéaires par :
  ${\displaystyle {\begin{array}{ccl}{\rm {S}}_{p}\times {\mathcal {L}}_{p}&\rightarrow &{\mathcal {L}}_{p}\\(\sigma ,\varphi )&\mapsto &\sigma \cdot \varphi$ :=(x_{1},\ldots ,x_{p})\mapsto \varphi (x_{\sigma (1)},\ldots ,x_{\sigma (p)}).\end{array}}}
• Le groupe de Galois d'un polynôme opère sur l'ensemble de ses racines.
• Tout groupe de type fini agit naturellement sur le graphe de Cayley associé à n'importe laquelle de ses parties génératrices finies.

Tous les exemples du paragraphe précédent sont des actions à gauche. Mais il est utile de considérer aussi les actions à droite. On aura une action à droite si ${\displaystyle \forall (g,g')\in G^{2}\quad \forall x\in E\quad (x\cdot g)\cdot g'=x\cdot (gg')}$. Ainsi, un groupe G opère sur lui-même à droite par translations à droite. Il est bien sûr naturel et commode de noter

une action à droite.

Le groupe opposé du groupe symétrique S_E est l'ensemble des permutations de E muni de la loi de composition ${\displaystyle \ (f,g)\mapsto f\star g=g\circ f}$. À une action à droite d'un groupe G sur un ensemble E, il correspond un homomorphisme de G dans l'opposé de S_E. Cet homomorphisme applique un élément g de G sur la permutation x ↦ x⋅g de E.

Commentaire. La notation fonctionnelle en usage aujourd'hui conduit naturellement à privilégier les actions à gauche. La notation exponentielle (utilisée par exemple par Emil Artin dans son livre sur les algèbres géométriques), où ce que nous notons ${\displaystyle \phi (x)}$ s'écrit ${\displaystyle x^{\phi }}$, conduirait à privilégier les actions à droite.

À travers les notions d'orbite et de stabilisateur, les actions de groupe sont un outil commode en combinatoire. D'autre part, un certain nombre de propriétés concernant la structure de certains groupes peuvent être démontrées par des arguments de dénombrement.

Deux identités reviennent fréquemment, en particulier lorsque le groupe G est fini.

• La formule des classes affirme (voir supra) que le cardinal de toute orbite ${\displaystyle \omega }$ est égal à l'indice dans G du stabilisateur de n'importe quel point x de ${\displaystyle \omega }$. En particulier, si G est fini :${\displaystyle \mathrm {card} ~O_{x}={\frac {\mathrm {card} ~G}{\mathrm {card} ~{\rm {St}}_{x}}}}$.Par suite, si l'on désigne par Ω l'ensemble des orbites et par ${\displaystyle c_{\omega }}$ l'ordre commun des stabilisateurs des éléments de l'orbite ${\displaystyle \omega }$, un corollaire de la formule des classes est (toujours sous l'hypothèse que G est fini) :${\displaystyle \mathrm {card} ~E=\sum _{\omega \in \Omega }\mathrm {card} ~\omega \ ={\mathrm {card} ~G}\ \sum _{\omega \in \Omega }{\frac {1}{c_{\omega }}}}$.
• La formule de Burnside[15]^,[16]^,[17] affirme pour sa part que ${\displaystyle \mathrm {card} ~\Omega \times \mathrm {card} ~G=\sum _{g\in G}\mathrm {card} ~\mathrm {Fix} _{g}}$. En particulier, si G est fini :
  • le nombre d'orbites est :${\displaystyle \mathrm {card} ~\Omega ={\frac {1}{\mathrm {card} ~G}}\sum _{g\in G}\mathrm {card} ~\mathrm {Fix} _{g}}$ ;
  • si G agit transitivement sur un ensemble non vide, alors la moyenne du nombre de points fixes des éléments du groupe G est égale à 1.

Soit G un groupe opérant (à gauche) sur un ensemble X et sur un ensemble Y. Nous dirons que ces deux opérations sont équivalentes[18] s'il existe une bijection f de X sur Y telle que, pour tout élément g de G et tout élément x de X, on ait

${\displaystyle f(g\cdot x)=g\cdot f(x)}$,

où les points représentent respectivement les opérations de G sur X et sur Y.

Soit maintenant G un groupe opérant (à gauche) sur un ensemble X, soit H un groupe opérant (à gauche) sur un ensemble Y. On dit que ces deux actions sont quasi équivalentes[19] ou encore isomorphes[20] s'il existe une bijection f de X sur Y et un isomorphisme de groupes σ de G sur H tels que, pour tout élément g de G et tout élément x de X, on ait

${\displaystyle f(g\cdot x)=\sigma (g)\cdot f(x)}$,

où les points représentent respectivement l'opération de G sur X et celle de H sur Y.

Cela revient à dire[21] que si f* désigne l'isomorphisme s ↦ f ∘ s ∘ f⁻¹ de S_X sur S_Y, si φ désigne l'homomorphisme de groupes de G dans S_X correspondant à l'action de G sur X, si ψ désigne l'homomorphisme de groupes de H dans S_Y correspondant à l'action de H sur Y, alors

${\displaystyle f^{\ast }\circ \varphi =\psi \circ \sigma }$.

Dans le cas particulier où G = H et où σ est l'isomorphisme identité de G, on retrouve l'équivalence de deux opérations d'un même groupe.

Si deux actions sont quasi équivalentes, l'ensemble des orbites de la première est équipotent à l'ensemble des orbites de la seconde. Plus précisément, on peut mettre les orbites de la première en correspondance biunivoque avec les orbites de la seconde de façon que deux orbites mises en correspondance aient toujours le même cardinal (à une orbite de la première action, faire correspondre son image par la bijection f considérée plus haut). En particulier, deux actions quasi équivalentes sont toutes deux transitives ou toutes deux non transitives. Il en est de même[22] des propriétés de transitivité multiple, de fidélité, etc.

Soient G et H deux groupes. Supposons qu'une action G × H → H : (g, h) ↦ g⋅h de G sur (l'ensemble sous-jacent de) H possède la propriété suivante :

pour tout élément g de G, pour tous éléments h, k de H, g⋅(h*k) = (g⋅h)∗(g⋅k),

où l'astérisque représente la loi du groupe H. Cela revient à dire que pour tout élément g de G, la permutation h ↦ g⋅h de H est un automorphisme du groupe H[23]. On dit alors que l'action de G sur H est une action par automorphismes[24]. Dans ce cas, l'homomorphisme de G dans S_H associé à l'action prend ses valeurs dans le groupe Aut(H) des automorphismes de H. Une action de G sur H par automorphismes peut donc être assimilée à un homomorphisme de G dans Aut(H).

Par exemple, l'action d'un groupe sur lui-même par conjugaison est une action par automorphismes (intérieurs).

Soit G un groupe opérant par automorphismes sur un groupe H, soit G₁ un groupe opérant par automorphismes sur un groupe H₁. On dit que ces deux actions sont quasi équivalentes[25] comme actions par automorphismes (et non seulement comme actions de groupes sur ensembles) s'il existe un isomorphisme (et non seulement une bijection) f de H sur H₁ et un isomorphisme de groupes σ de G sur G₁ tels que, pour tout élément g de G et tout élément x de X, on ait

${\displaystyle f(g\cdot x)=\sigma (g)\cdot f(x)}$,

où les points représentent respectivement l'opération de G sur H et celle de G₁ sur H₁.

Les actions de groupe sur groupe par automorphismes permettent de définir le produit semi-direct (externe) d'un groupe par un autre.