Le but principal de cet article est de donner une nouvelle méthode pour construire des exemples d'espaces homogènes $G/H$ qui n'admettent pas de quotients compacts où $G$ est un groupe de Lie et $H$ est un sous-groupe fermé non compact. Cette méthode est basée sur l'étude de la restriction à $H$ des coefficients matriciels de représentations unitaires de $G$. Une méthode similaire donne un critère pour que la restriction à $H$ d'une action de $G$ sur un espace localement compact $X$ qui admet une mesure $G$-invariante infinie soit mesurablement propre, ce qui veut dire que l'application naturelle $H\to Hx$, $h\mapsto hx$, est propre pour presque tout $x\in X$.