SMF

Sur la théorie spectrale des groupes de transformations affines des nilvariétés compactes

On the spectral theory of groups of affine transformations of compact nilmanifolds

Bachir BEKKA, Yves GUIVARC'H
Sur la théorie spectrale des groupes de transformations affines des nilvariétés compactes
  • Consulter un extrait
  •  
                
  • Année : 2015
  • Fascicule : 3
  • Tome : 48
  • Format : Électronique
  • Langue de l'ouvrage :
    Anglais
  • Class. Math. : 37A05, 22F30, 60B15, 60G50
  • Pages : 607-645
  • DOI : 10.24033/asens.2253

Soit $N$ un groupe de Lie nilpotent, connexe et simplement connexe ; soient $\Lambda $ un réseau dans $N$ et $\Lambda \setminus N $ la nilvariété correspondante. Nous donnons une caractérisation des sous-groupes dénombrables du groupe $\mathrm {Aff}(\Lambda \setminus N) $ des transformations affines de $\Lambda \setminus N $ dont l'action sur $L^2(\Lambda \setminus N)$ possède un trou spectral : ce sont les groupes $H$ pour lesquels le tore quotient maximal $T$ de $\Lambda \setminus N $ ne possède aucun sous-tore propre et $H$-invariant $S$ tel que la projection de $H$ sur $\mathrm {Aut} (T/S)$ soit un groupe virtuellement abélien. Les outils principaux de la preuve sont la théorie de Kirillov des représentations unitaires des groupes de Lie nilpotents et l'étude du comportement asymptotique des coefficients matriciels de la représentation métaplectique du groupe symplectique qui permettent de ramener le cas général à celui des tores dont l'étude est préalablement menée. Nos méthodes montrent que l'action de $H\subset \mathrm {Aff}(\Lambda \setminus N) $ sur $\Lambda \setminus N $ est ergodique (ou celle de $H\subset \mathrm {Aut}(\Lambda \setminus N)$ sur $\Lambda \setminus N$ est fortement mélangeante) si et seulement si l'action induite de $H$ sur $T$ possède la même propriété.

Let $N$ be a connected and simply connected nilpotent Lie group, $\Lambda $ a lattice in $N$, and $\Lambda \setminus N$ the corresponding nilmanifold. We characterize the countable subgroups of the group $\mathrm {Aff}(\Lambda \setminus N)$ of affine transformations of $\Lambda \setminus N$ whose action on $L^2(\Lambda \setminus N )$ has a spectral gap : these are the groups $H$ for which there exists no proper $H$-invariant subtorus $S$ of the maximal torus factor $T$ of $\Lambda \setminus N$ such that the projection of $H$ on $\mathrm {Aut} (T/S)$ is a virtually abelian group. The result is first established when $\Lambda \setminus N $ is a torus. The problem for a general nilmanifold is reduced to the torus case, using Kirillov's theory of unitary representations of nilpotent Lie groups and decay properties of the metaplectic representation of the symplectic group. Our methods show that the action of $H\subset \mathrm {Aff}(\Lambda \setminus N) $ on $\Lambda \setminus N$ is ergodic (or the action of $H\subset \mathrm {Aut}(\Lambda \setminus N) $ on $\Lambda \setminus N$ is strongly mixing) if and only if the corresponding action of $H$ on $T$ has the same property.

Nilvariétés, groupes de transformations affines, trou spectral, ergodicité forte, marches aléatoires sur les espaces homogènes, représentation métaplectique.
Nilmanifolds, groups of affine transformations, spectral gap, strong ergodicity, random walks on homogeneous spaces, metaplectic representation.