Ne doit pas être confondu avec Groupe de symétrie ou Groupe de permutations.

En mathématiques, plus particulièrement en algèbre, le groupe symétrique d'un ensemble E est le groupe des permutations de E, c'est-à-dire des bijections de E sur lui-même. N'est traité dans le présent article, à la suite de la définition générale, que le cas E fini.

Soit E un ensemble. On appelle groupe symétrique de E l'ensemble des applications bijectives de E sur E muni de la composition d'applications (la loi ∘). On le note S(E) ou ${\displaystyle {\mathfrak {S}}(E)}$ (ce caractère est un S gothique rappelant le rôle essentiel joué par les mathématiciens allemands dans le développement de l'algèbre entre 1850 et 1933^[1]).

Un cas particulier courant est le cas où E est l'ensemble fini {1, 2, … , n}, n étant un entier naturel ; on note alors ${\displaystyle {\mathfrak {S}}_{n}}$ ou S_n^[2] le groupe symétrique de cet ensemble. Les éléments de ${\displaystyle {\mathfrak {S}}_{n}}$ sont appelés permutations et ${\displaystyle {\mathfrak {S}}_{n}}$ est appelé groupe des permutations de degré n ou groupe symétrique d'indice n (un sous-groupe du groupe symétrique est appelé un groupe de permutations).

Si deux ensembles sont équipotents alors leurs groupes symétriques sont isomorphes. En effet, si f est une bijection de E dans F, alors l'application de S(E) dans S(F) qui à σ associe f∘σ∘f⁻¹ est un isomorphisme. En particulier si E est un ensemble fini à n éléments, alors ${\displaystyle {\mathfrak {S}}(E)}$ est isomorphe à ${\displaystyle {\mathfrak {S}}_{n}}$. En conséquence, il suffit de connaître les propriétés du groupe ${\displaystyle {\mathfrak {S}}_{n}}$ pour en déduire celles du groupe ${\displaystyle {\mathfrak {S}}(E)}$. C'est pourquoi la suite de cet article ne portera que sur ${\displaystyle {\mathfrak {S}}_{n}}$.

Les six isométries du groupe de symétrie d'un triangle équilatéral ABC sont les trois symétries par rapport aux médianes ${\displaystyle d_{x}}$, ${\displaystyle d_{y}}$ et ${\displaystyle d_{z}}$ issues de respectivement les sommets A, B et C, deux rotations d'un tiers de tour dans le sens horaire ou anti-horaire et l'application identité. Elles se restreignent en six permutations des trois sommets, constituant le groupe S({A, B, C}) :

id, x = (B C), y = (A C), z = (A B), r = (A B C) et r⁻¹ = (C B A).

La table de Cayley de ce groupe est :

${\displaystyle \circ }$	id	r	r−1	x	y	z
id	id	r	r−1	x	y	z
r	r	r−1	id	z	x	y
r−1	r−1	id	r	y	z	x
x	x	y	z	id	r	r−1
y	y	z	x	r−1	id	r
z	z	x	y	r	r−1	id

Historiquement, l'étude du groupe des permutations des racines d'un polynôme par Évariste Galois est à l'origine du concept de groupe.

Un théorème de Cayley assure que tout groupe est isomorphe à un sous-groupe d'un groupe symétrique.

Le groupe ${\displaystyle {\mathfrak {S}}_{n}}$ est d'ordre n!^[3].

Une transposition est un 2-cycle, c'est-à-dire une permutation qui échange deux éléments et laisse les autres inchangés. On note (i, j) la transposition qui échange l'élément i avec l'élément j.

Il existe un algorithme permettant de décomposer une permutation en produit de transpositions. Ainsi l'ensemble des transpositions forme un système de générateurs de ${\displaystyle {\mathfrak {S}}_{n}}$.

On peut se limiter aux transpositions de la forme τ_i = (i, i + 1) puisque, pour i < j, il est possible de décomposer ${\displaystyle (i,j)=(i,i+1)(i+1,i+2)\dots (j-2,j-1)(j-1,j)(j-2,j-1)\dots (i+1,i+2)(i,i+1).}$

Ces n – 1 générateurs permettent de donner une présentation du groupe symétrique, avec les n(n + 1)/2 relations^[4] :

• ${\displaystyle {\tau _{i}}^{2}=1,}$
• ${\displaystyle \tau _{i}\tau _{j}=\tau _{j}\tau _{i}\qquad {\mbox{si }}|j-i|>1,}$
• ${\displaystyle {(\tau _{i}\tau _{i+1}})^{3}=1.}$

Il s'agit donc d'un cas particulier de groupe de Coxeter et même d'un groupe de réflexions (en) (ce qui, pour un groupe fini, est en fait équivalent).

Il est possible également de prendre n – 1 générateurs — les transpositions s_i = (i, n) pour i < n — et (n – 1)² relations^[5] :

${\displaystyle s_{i}^{2}=(s_{i}s_{i+1})^{3}=(s_{i}s_{i+1}s_{i}s_{j})^{2}=1\quad (1\leq i,j\leq n-1,\quad j\neq i,i+1,\quad s_{n}:=s_{1}).}$

Enfin, on peut se contenter de 2 générateurs — la transposition τ₁ = (1, 2) et le cycle r = (1, 2, … , n) — et n + 1 relations^[6] :

${\displaystyle r^{n}=\tau _{1}^{2}=(r\tau _{1})^{n-1}=(\tau _{1}r^{-1}\tau _{1}r)^{3}=(\tau _{1}r^{-j}\tau _{1}r^{j})^{2}=1\quad (2\leq j\leq n-2).}$

On suppose dans cette section que l'entier n est supérieur ou égal à 2.

Toute permutation se décompose en un produit de transpositions. Ce produit n'est pas unique, mais la parité du nombre de termes d'un tel produit ne dépend que de la permutation. On parle alors de permutation paire ou impaire.

La signature d'une permutation σ, notée sgn(σ) ou ε(σ), est définie par :

${\displaystyle \operatorname {sgn} (\sigma )=\varepsilon (\sigma )=\left\{{\begin{array}{cl}+1&{\mbox{si }}\sigma {\mbox{ est paire }}\\-1&{\mbox{si }}\sigma {\mbox{ est impaire }}\end{array}}\right.}$

L'application signature est un morphisme de groupes de ${\displaystyle ({\mathfrak {S}}_{n},\circ )}$ dans ({–1, 1}, ×). Le noyau de ce morphisme, c’est-à-dire l'ensemble des permutations paires, est appelé le groupe alterné de degré n, noté ${\displaystyle {\mathfrak {A}}_{n}}$ (ce caractère est un A gothique). ${\displaystyle {\mathfrak {A}}_{n}}$ est donc un sous-groupe normal de ${\displaystyle {\mathfrak {S}}_{n}}$ et le groupe quotient ${\displaystyle {\mathfrak {S}}_{n}/{\mathfrak {A}}_{n}}$ est isomorphe à l'image {–1, 1} du morphisme signature. Par conséquent, ${\displaystyle {\mathfrak {A}}_{n}}$ est d'indice 2 dans ${\displaystyle {\mathfrak {S}}_{n}}$, donc d'ordre n!/2. (Ou plus concrètement : ${\displaystyle {\mathfrak {A}}_{n}}$ et son complémentaire dans ${\displaystyle {\mathfrak {S}}_{n}}$ sont de même cardinal car pour t transposition de ${\displaystyle {\mathfrak {S}}_{n}}$, l'application σ ↦ t∘σ est une bijection de ${\displaystyle {\mathfrak {A}}_{n}}$ dans son complémentaire.)

De plus, la suite exacte courte

${\displaystyle 1\to {\mathfrak {A}}_{n}\to {\mathfrak {S}}_{n}\to \{-1,1\}\to 1}$

est scindée à droite, donc ${\displaystyle {\mathfrak {S}}_{n}}$ est un produit semi-direct de ${\displaystyle {\mathfrak {A}}_{n}}$ par le groupe cyclique à deux éléments.

La classe de conjugaison d'une permutation σ est l'ensemble de ses conjuguées : ${\displaystyle C(\sigma )=\{\tau \circ \sigma \circ \tau ^{-1}\mid \tau \in {\mathfrak {S}}_{n}\}.}$

Les conjuguées de σ sont les permutations dont la décomposition en produit de cycles à supports disjoints a la même structure que celle de σ : même nombre de cycles de chaque longueur^[7].

Exemple

Si l'on considère dans ${\displaystyle {\mathfrak {S}}_{5}}$ les différentes classes de conjugaison, on trouve celle de l'identité, des transpositions (ab), les permutations composées de deux transpositions de supports disjoints (ab)(cd), les cycles d'ordre 3 (abc), les permutations composées d'un cycle d'ordre 3 et d'un d'ordre 2 : (abc)(de), puis les cycles d'ordres 4 : (abcd) et 5 : (abcde).

Les permutations (1 2 3)(4 5) et (1 3 4)(2 5) sont dans la même classe de conjugaison contrairement à la permutation (1 3)(2 5).

Le nombre de classes de conjugaison est donc égal au nombre de « partages » de l'entier n, et si la décomposition d'une permutation contient k₁ « 1-cycles » (les points fixes), k₂ 2-cycles, … , k_m m-cycles, alors le nombre de ses conjuguées vaut^[8] :

${\displaystyle {\frac {n!}{1^{k_{1}}k_{1}!\ldots m^{k_{m}}k_{m}!}}.}$

(On voit apparaître un coefficient multinomial.)

Le résultat fondamental dans l'étude du groupe alterné ${\displaystyle {\mathfrak {A}}_{n}}$ est que celui-ci est un groupe simple pour n différent de 4.

D'autre part, le groupe dérivé de ${\displaystyle {\mathfrak {S}}_{n}}$ est ${\displaystyle {\mathfrak {A}}_{n}}$^[9]. Pour n ≥ 5, c'est là le seul sous-groupe distingué propre de ${\displaystyle {\mathfrak {S}}_{n}}$.

${\displaystyle {\mathfrak {S}}_{n}}$ est résoluble si et seulement si n ≤ 4, ce qui a d'importantes conséquences sur la résolubilité par radicaux des équations polynomiales.

• Si n > 4, ${\displaystyle {\mathfrak {S}}_{n}}$ n'a aucun sous-groupe d'indice strictement compris entre 2 et n^[10].
• Tout sous-groupe d'indice n de ${\displaystyle {\mathfrak {S}}_{n}}$ est isomorphe à ${\displaystyle {\mathfrak {S}}_{n-1}}$^[11]. Si n est différent de 6, un tel sous-groupe est forcément le stabilisateur d'un élément de {1, … , n}.
• En revanche, ${\displaystyle {\mathfrak {S}}_{6}}$ possède un sous-groupe d'indice 6 transitif donc sans point fixe^[12].
• ${\displaystyle {\mathfrak {S}}_{n}}$ est complet pour tout n différent de 2 et de 6. En effet :
  • le centre de ${\displaystyle {\mathfrak {S}}_{n}}$ est trivial si n ≠ 2 ;
  • ${\displaystyle {\mathfrak {S}}_{6}}$ est le seul groupe symétrique dont le groupe d'automorphismes extérieurs est non trivial^[13] : il est^[14] d'ordre 2.
• ${\displaystyle {\mathfrak {S}}_{n}}$ se plonge dans ${\displaystyle {\mathfrak {A}}_{n+2}}$, mais pas dans ${\displaystyle {\mathfrak {A}}_{n+1}}$ si n ≥ 2^[15].

• Automorphismes des groupes symétriques et alternés (en)
• Fonction de Landau
• Groupe symétrique généralisé
• Groupe de tresses
• Matrice de permutation
• Permutation
• Permutation aléatoire
• Représentations du groupe symétrique
• Tableau de Young

Daniel Perrin, Cours d'algèbre [détail des éditions]

• Portail de l’algèbre