Soient \(G\) un groupe et \(H\) un sous-groupe d’indice fini dans \(G\). On définit sur \(G\) la relation \(xRy\) si et seulement si \(x\in HyH\).
(a) Montrer que \(R\) est une relation d’équivalence et que toute classe d’équivalence pour la relation \(R\) est une union finie disjointe de classes à gauche modulo \(H\).
Soit \(HxH=\bigcup _{1\leq i\leq d(x)} x_i H\) la partition de la classe \(HxH\) en classes à gauche distinctes.
(b) Soit \(h\in H\) et \(i\) un entier compris entre \(1\) et \(d(x)\); posons \(h\hskip 2pt \ast \hskip 2pt x_iH= hx_iH\). Montrer que cette formule définit une action transitive de \(H\) sur l’ensemble des classes \(x_1H, \dots, x_{d(x)} H\) et que le fixateur de \(x_i H\) dans cette action est \(H\cap x_i Hx_i ^{-1}\). En déduire que
\[d(x)=[H:H\cap x Hx ^{-1}]\]
et qu’en particulier \(d(x)\) divise l’ordre de \(G\).
(c) Montrer que \(H\) est distingué dans \(G\) si et seulement si \(d(x)=1\) pour tout \(x\in G\).
(d) On suppose que \(G\) est fini et que \([G:H]=p\), où \(p\) est le plus petit nombre premier divisant l’ordre de \(G\). Le but de cette question est de montrer que \(H\) est distingué dans \(G\).
(i) Montrer que pour tout \(x\in G\) , \(d(x)\leq p\). En déduire que \(d(x)=1\) ou \(d(x)=p\).
(ii) Montrer que si \(H\) n’est pas distingué dans \(G\), il existe une unique classe d’équivalence pour la relation \(R\) et que \(G=H\), ce qui contredit l’hypothèse \([G:H ]=p\).