SMF

Involutions complexes et vecteurs sphériques associés pour les groupes de Lie nilpotents réels

Complex involutions and associated spherical vectors for real nilpotent Lie groups

Bernard MAGNERON
  • Année : 1999
  • Tome : 253
  • Format : Papier
  • Langue de l'ouvrage :
    Français
  • Class. Math. : 22E27, 17B30, 43A85, 17B01, 26C99
  • Nb. de pages : 124
  • ISSN : 0303-1179
  • DOI : 10.24033/ast.431
Les représentations monomiales d'un groupe de Lie nilpotent $G$ dans un espace de Hilbert, obtenues par induction à partir d'un caractère unitaire d'un sous–groupe ont été bien étudiées ces dernières années. Par exemple par Grélaud, Corwin et Greenleaf, Fujiwara et Lipsman. La construction d'une représentation induite holomorphe à partir d'une sous– algèbre $\mathfrak {k}$ de la complexifiée $\mathfrak {g}^\mathbb {C} $ de l'algèbre de Lie $\mathfrak {g}$ de $G$, subordonnée à une forme $f$ sur $\mathfrak {g}^*$ fournit un autre procédé pour obtenir des représentations unitaires qui généralise le précédent. Ce procédé a été utilisé lorsque $\mathfrak {k}$ est une polarisation positive par Auslander et Kostant en 1971, afin d'obtenir des représentations unitaires irréductibles pour les groupes de Lie résolubles généraux. Depuis lors, l'étude des cas où cette induction conduit à une représentation unitaire non irréductible ne semble pas avoir été abordée. Dans ce qui suit, une première tentative est faite pour combler cette lacune. En 1985, un travail de Benoist sur la représentation monomiale obtenue à partir du caractère trivial du sous–groupe des points fixes d'une involution de $G$ avaient montré qu'il s'agissait là d'un bon exemple de départ pour étudier les représentations monomiales plus générales. Reprenant la même démarche, on considère maintenant la représentation induite holomorphe $(\rho ,\mathcal {H} )$ construite à partir de la forme nulle sur la sous-algèbre $\mathfrak {k}$ des points fixes d'une involution de $\mathfrak {g}^\mathbb {C} $. Pour cela, on utilise les vecteurs “ sphériques” ou vecteurs– distributions annulés par $\mathfrak {k}$, pour chaque représentation unitaire irréductible $\pi $ de $G$ associée à une $G$-orbite $\Omega $ dans $\mathfrak {g}^*$ par la bijection de Kirillov. On constate qu'ils forment un sous-espace $(\mathcal {H} ^{-\infty }_\pi )^{\mathfrak k}$ de dimension au plus $1$. Ce résultat implique que $\rho $ est sans multiplicité. On met en évidence un cône $\Theta $ de $\mathfrak {g}^*$ tel que l'équivalence $\Omega \cap \Theta \not =\emptyset \ \Longleftrightarrow \ \dim {(\mathcal {H} ^{-\infty }_\pi )^{\mathfrak k}} =1 $ est vérifiée. Notons $\overset {\circ }\Theta $ l'intérieur de $\Theta $ dans le sous-espace $(\mathfrak {k}\cap \mathfrak {g})^\perp $. On démontre alors l'équivalence $ \mathcal {H} \not =\{0\} \ \Longleftrightarrow \ {\overset {\circ }\Theta }\not =\emptyset . $
Monomial representations of a nilpotent Lie group $G$ have beenstudied successfully during the last few years by several people,including Grélaud, Corwin and Greenleaf, Fujiwara and Lipsman. They are constructed by induction, starting from a unitary character of a $G$-subgroup. Starting from a subalgebra $\mathfrak {k}$ of the complexification $\mathfrak {g}^\mathbb {C} $ of the Lie algebra $\mathfrak {g}$ of $G$, and from a form $f$ of $\mathfrak {g}^*$ such that $f([\mathfrak {k}, \mathfrak {k}]) = \{0\}\cdotv $ one can also construct the associated holomorphically induced representation. This gives another way to obtain unitary representations for $G$. It generalizes the previous one, as can easily be seen. This construction was used by Auslander and Kostant in 1971, assuming that $\mathfrak {k}$ is a so-called positive polarization. Their goal was to study irreducible unitary representations of general solvable groups. Since then, no attempts seems to have been made to use this method to consider non irreducible unitary representations. This work is a first attempt to fill in this gap. Benoist's study of the monomial representation associated to the trivial character of the fixed points subgroup for an involution of $G$, which was carried out in 1985, showed it was a good starting example for studying more general monomial representations. In the same way, we study here the holomorphically induced representation $(\rho ,\mathcal {H} )$ associated to the trivial functional on the fixed points for an involution of $\mathfrak {g}^\mathbb {C} $, hoping it will give some insight of what might happen in more general instances. First, we consider the space $(\mathcal {H} ^{-\infty }_\pi )^{\mathfrak k}$ of “spherical”, or $\mathfrak {k}$-annihilated, vectors for each irreducible unitary representation $\pi $ of $G$, associated to the $G$-orbit $\Omega $ in $\mathfrak {g}^*$ by the Kirillov bijection. We prove that this space is of dimension at most one, and find a suitable cone $\Theta $ such that the equivalence $\Omega \cap \Theta \not =\emptyset \ \Longleftrightarrow \ \dim {(\mathcal {H} ^{-\infty }_\pi )^{\mathfrak k}} =1 $ holds. These results imply that $\rho $ is always multiplicity free. We then prove the equivalence $ \mathcal {H} \not =\{0\} \ \Longleftrightarrow \ {\overset {\circ }\Theta }\not =\emptyset $, where $\overset {\circ }\Theta $ is the interior of $\Theta $ in the subspace $(\mathfrak {k}\cap \mathfrak {g})^\perp $ of ${\mathfrak g}^*$.
Groupes de Lie nilpotents réels. Algèbres de Lie nilpotentes réelles. Représentations induites holomorphes. Involutions complexes. Vecteurs sphériques. Propriétés asymptotiques des fonctions polynomiales. Fonctions polynomiales réelles minorées. Formule de Campbell-Hausdorff
Prix
Adhérent 17 €
Non-Adhérent 24 €
Quantité
- +