Formule des traces de Selberg

Toute surface X compacte à courbure négative constante peut se représenter comme l'espace quotient du demi-plan de Poincaré ℍ par un sous-groupe discret Γ du groupe PSL(2, ℝ) des isométries :

${\displaystyle X=\Gamma \backslash \mathbb {H} }$.

Considérons l'opérateur de Laplace-Beltrami sur X :

${\displaystyle \Delta u(x,y)=y^{2}\left({\frac {\partial ^{2}u}{\partial x^{2}}}+{\frac {\partial ^{2}u}{\partial y^{2}}}\right)}$.

On peut démontrer que, la surface étant compacte, son spectre est discret, c’est-à-dire que les valeurs propres λ_n, solutions de l'équation aux valeurs propres

${\displaystyle -\Delta u_{n}(x,y)=\lambda _{n}u_{n}(x,y)}$,

forment une suite infinie qu'on peut ranger par ordre croissant :

${\displaystyle 0=\lambda _{0}<\lambda _{1}\leq \lambda _{2}\leq \cdots }$

Les fonctions propres sont dans ${\displaystyle u_{n}(x,y)\in C^{\infty }(\mathbb {H} )}$ et vérifient la condition de périodicité :

${\displaystyle \forall \gamma \in \Gamma \quad u_{n}(\gamma z)=u_{n}(z)}$.

En introduisant le changement de variable :

${\displaystyle \lambda =s(1-s),\quad s={\frac {1}{2}}+{\rm {i}}r}$,

les valeurs propres sont indexées par

${\displaystyle r_{n},\quad n\geq 0}$.

Cette formule s'écrit :

${\displaystyle \sum _{n=0}^{\infty }h(r_{n})={\frac {\mu (F)}{4\pi }}\int _{-\infty }^{\infty }r\,h(r)\,\tanh(\pi r)~\mathrm {d} r\ +\ \sum _{\{T\}}{\frac {\log N(T_{0})}{N(T)^{1/2}-N(T)^{-1/2}}}\ g(\log N(T))}$.

La somme ${\displaystyle \{T\}}$ est prise sur toutes les classes de conjugaison hyperboliques distinctes. La fonction h doit être :

• analytique dans la bande ${\displaystyle \vert {\rm {Im}}(r)\vert \leq 1/2+\delta }$, où δ est une constante positive ;
• être paire : h(–r) = h(r) ;
• satisfaire la majoration : ${\displaystyle \vert h(r)\vert \leq M\ \left(1+\vert {\rm {Re}}(r)\vert ^{-2-\delta }\ \right)}$, où M est une autre constante positive.

La fonction g est la transformée de Fourier de h, c’est-à-dire :

${\displaystyle h(r)=\int _{-\infty }^{\infty }g(u)\ {\rm {e}}^{{\rm {i}}ru}~\mathrm {d} u}$.