Transformation de Cayley et modèles de Whittaker généralisés pour les modules irréductibles de plus haut poids
Cayley transform and generalized Whittaker models for irreducible highest weight modules
Anglais
Soit $G$ un groupe de Lie connexe simple de type hermitien. On considère les $G$-modules irréductibles admissibles $L(\tau )$ de plus haut poids. Dans cet article, nous étudions les modèles de Whittaker généralisés pour $L(\tau )$ en utilisant certains opérateurs différentiels de type gradient $\mathcal {D}_{\tau ^{\ast }}$ sur l'espace hermitien symétrique $K\backslash G$. Il est montré que chaque $L(\tau )$ apparaît, avec une multiplicité finie et non nulle, dans la représentation de Gelfand-Graev généralisée $\Gamma _{m(\tau )}$ qui est attachée à l'unique orbite ouverte $\mathcal {O}_{m(\tau )}$ (par la correspondance de Kostant-Sekiguchi) dans la variété $\mathcal {V}(L(\tau ))$ associée à $L(\tau )$. On peut analyser intrinsèquement les isomorphismes de $L(\tau )$ dans $\Gamma _{m(\tau )}$ au moyen de la transformation de Cayley qui donne un rapport entre la réalisation de $K\backslash G$ comme domaine borné et celle comme domaine non borné. Si $L(\tau )$ est unitarisable, l'espace $\mathcal {Y}(\tau )$ des homomorphismes infinitésimaux de $L(\tau )$ dans $\Gamma _{m(\tau )}$ s'exprime par le symbole principal à l'origine de l'opérateur différentiel $\mathcal {D}_{\tau ^{\ast }}$. Pour les groupes iques $G=SU(p,q)$, $Sp(n,\mathbb {R})$ et $SO^{\ast }(2n)$, on peut comprendre l'espace $\mathcal {Y}(\tau )$ en utilisant les représentations oscillateur pour les paires duales réductives.