The Grothendieck Festschrift, Volume II: A Collection of Articles Written in Honor of the 60th Birthday of Alexander Grothendieck (Progress in Mathematics Modern Birkhäuser Classics)

Modern Birkhauser Classics Many of the original research and survey monographs in pure and applied mathematics published by Birkhauser in recent decades have been groundbreaking and have come to be regarded as foundational to the subject. Through the MBC Series, a select number of these modern classics, entirely uncorrected, are being re-released in paperback (and as eBooks) to ensure that these treasures remain accessible to new generations of students, scholars, and researchers.

The Grothendieck Festschrift Volume II A Collection of Articles Written in Honor of the 60th Birthday of Alexander Grothendieck P. Cartier L. lUusie N.M. Katz G. Laumon Yu.I. Manin K.A. Ribet Editors

Reprint of the 1990 Edition Birkhauser Boston • Basel • Berlin

Pierre Cartier Institut des Hautes Etudes Scientifiques F-91440 Bures-sur-Yvette France

Luc lUusie Universite de Paris-Sud Departement de Mathematiques F-91405 Orsay France Gerard Laumon Universite de Paris-Sud Departement de Math6matiques F-91405 Orsay France

Nicholas M. Katz Princeton University Department of Mathematics Princeton, NJ 08544 U.S.A. Yuri I. Manin Max-Planck Institut ftir Mathematik D-53111 Bonn Germany

Kenneth A. Ribet University of California Department of Mathematics Berkeley, CA 94720 U.S.A.

Originally published as Volume 87 in the series Progress in

Mathematics

Cover design by Alex Gerasev. Mathematics Subject Classification (2000): 00B15, 00B30, 01A60, 01A75 (primary); 11F37, 11F72, 11G05,11G40,11M41,11R29,11R34,11S23,11S31,11S37,12H05,13K05,13N10,14A99,14B15, 14C17, 14D05, 14E20, 14F05, 14F20, 14F30, 14F32, 14F35, 14F40, 14F99, 14G05, 14G10, 14H25, 14H40,14L05,14L15,14M10,14M15,17B10,17B67,18A99,18B40,18E30,18F20,20F34,20F36, 20L05, 22E35, 22E50, 32C15, 32C38, 32S50, 32S60, 57M07, 58G25. 58G26, 58J50, 58J52 (secondary) Library of Congress Control Number: 2006936966 ISBN-10: 0-8176-4567-5 ISBN-13: 978-0-8176-4567-0

e-ISBN-10: 0-8176-4575-6 e-ISBN-13: 978-0-8176-4575-5

Printed on acid-free paper. ©2001 Birkhauser Boston BirkhdUSCr All rights reserved. This work may not be translated or copied in whole or in part without the written permission of the pubUsher (Birkhauser Boston, c/o Springer Science-f Business Media LLC, 233 Spnng Street, New York, NY 10013, USA), except for brief excerpts m connection with reviews or scholarly analysis. Use in connection with any form of information storage and retrieval, electronic adaptation, computer software, or by similar or dissimilar methodology now known or hereafter developed is forbidden. The use in this publication of trade names, trademarks, service marks and similar terms, even if they are not identified as such, is not to be taken as an expression of opinion as to whether or not they are subject to proprietary rights. 9 8 7 6 5 4 3 2 1 www. birkhauser. com

(IBT)

p. Cartier L. Illusie N.M. Katz G. Laumon Y. Manin K.A. Ribet Editors

The Grothendieck Festschrift A Collection of Articles Written in Honor of the 60th Birthday of Alexander Grothendieck Volume II

1990

Birkhauser Boston • Basel • Berlin

Pierre Cartier Institut des Hautes Etudes Scientifiques 91440 Bures-sur-Yvette France

Luc Illusie Departement de Mathematiques Universite de Paris-Sud Centre d'Orsay 91405 Orsay Cedex France

Nicholas M. Katz Department of Mathematics Princeton University Princeton, NJ 08544 USA

Gerard Laumon Departement de Mathematiques Universite de Paris-Sud Centre d'Orsay 91405 Orsay Cedex France

Yuri Manin Steklov Institute Vavilova 42 Moscow, 117966-GSPl USSR

Kenneth A. Ribet Department of Mathematics University of California Berkeley, CA 94720 USA

Printed on acid-free paper. © Birkhauser Boston, 1990. All rights reserved. No part of this publication may be reproduced, stored in a retrieval system, or transmitted, in any form or by any means, electronic, mechanical, photocopying, recording or otherwise, without prior permission of the copyright owner. Permission to photocopy for internal or personal use, or the internal or personal use of specific clients, is granted by Birkhauser Boston, for libraries and other users registered with the Copyright Clearance Center (CCC), provided that the base fee of $0.00 per copy, plus $0 20 per page is paid directly to CCC, 21 Congress Street, Salem, MA 01970, U.S.A. Special requests should be addressed directly to Birkhauser Boston, 675 Massachusetts Avenue, Cambridge, MA 02139, U.S.A. 3428-2/90 $0.00 + .20 ISBN 0-8176-3428-2 ISBN 3-7643-3428-2

ISBN 0-8176-3429-0 ISBN 3-7643-3429-0

Three-volume set Three-volume set

Printed and bound by Edwards Brothers, Inc., Ann Arbor, Michigan. Pnnted in the U.S.A. 9 8 7 6 5 4 3 2 1

CONTENTS

VOLUME II Une nouvelle interpretation de la formule des traces de Selberg

1

PIERRE CARTIER et ANDRE VOROS

Jacobiennes generalisees globales relatives

69

C. CONTOU-CARRERE

Categories tannakiennes

Ill

P. DELIGNE

On The Adic Formalism

197

TORSTEN E K E D A H L

F-Isocrystals on Open Varieties: Results and Conjectures

219

GERD FALTINGS

Representations p-adiques des corps locaux

249

JEAN-MARC FONTAINE

Rectified Homotopical Depth and Grothendieck Conjectures

311

HELMUT A. HAMM and LE DUNG TRANG

Automorphisms of Pure Sphere Braid Groups and Galois Representations

353

YASUTAKA IHARA

Ordinarite des intersections completes generales Luc ILLUSIE V

375

vi

CONTENTS

Kazhdan-Lusztig Conjecture for a Symmetrizable Kac-Moody Lie Algebra

407

MASAKI KASHIWARA

Euler Systems V.A. KOLYVAGIN

435

Descent for Transfer Factors

485

R. LANGLANDS and D. SHELSTAD

VOLUME I Bibliographie D'Alexander Grothendieck De L'Analyse Fonctionnelle aux Fondements de la Geometrie Algebrique JEAN DIEUDONNE

The presentation functor and the compactified Jacobian ALLEN B . ALTMAN and STEVEN L. KLEIMAN

Some Algebras Associated to Automorphisms of Elliptic Curves M. ARTIN, J. TATE, and M. VAN DEN BERGH

Cohomology of a Moduli Space of Vector Bundles V. BALAJI and C.S. SESHADRI

Sur les hypersurfaces dont les sections hyperplanes sont a module constant ARNAUD BEAUVILLE

Aomoto Dilogarithms, Mixed Hodge Structures, and Motivic Cohomology of Pairs of Triangles on the Plane A.A. BEILINSON, A . B . GONCHAROV, V . V . SCHECHTMAN, and A.N. VARCHENKO

Theorie de Dieudonne cristalline IIL theoremes d'equivalence et de pleine fidelite PIERRE BERTHELOT and WILLIAM MESSING

Complex Immersions and Arakelov Geometry JEAN-MICHEL BISMUT, HENRI GILLET, and CHRISTOPHE SOULE

CONTENTS L-Functions and Tamagawa Numbers of Motives S P E N C E R BLOCK and KAZUYA K A T O

Bitorseurs et Cohomologie Non Abelienne LAWRENCE B R E E N

Non-commutative Ruelle-SuUivan type currents J E A N - L U C BRYLINSKI

VOLUME III Anneau de Grothendieck de la variete de drapeaux ALAIN LASCOUX

New Results on Weight-Two Motivic Cohomology S. LICHTENBAUM Symmetric Spaces Over a Finite Field GEORGE LUSZTIG

Le theoreme de positivite de Tirregularite pour les 2);j^-modules ZOGHMAN M E B K H O U T The Convergent Topos in Characteristic p ARTHUR O G U S

Finiteness Theorems and Hyperbolic Manifolds A.N.

PARSHIN

p-groupes et reduction semi-stable des courbes M I C H E L RAYNAUD

Drawing Curves Over Number Fields G.B. SHABAT and V.A. VOEVODSKY

Sur les proprietes numeriques du dualisant relatif d'une surface arithmetique L. SZPIRO Higher Algebraic K-Theory of Schemes and of Derived Categories R.W. THOMASON and THOMAS TROBAUGH

vii

viii

CONTENTS

Solitons elliptiques A. TREIBICH and J.-L. VERDIER, with an Appendix by J. OESTERLE Linear Simple Lie Algebras and Ranks of Operators Yu G. ZARHIN

line nouvelle interpretation de la formule des traces de Selberg PIERRE CARTIER ET ANDRE VOROS A Alexander

Grothendieck^

pour son 60e

anniversaire

SOMMAIRE 1. 2. 3. 4. 5. 6.

Introduction La formule sommatoire de Poisson Enonce de la formule des traces de Selberg Determinants d'operateurs Une extension de la formule des traces de Selberg Une nouvelle interpretation de la formule des traces Fonction zeta de deux variables. Bibliographie

Introduction La formule des traces de Selberg, pour une surface de Riemann compacte, a courbure constante negative, est presentee habituellement comme une relation p o r t a n t sur la transformee de Fourier des distributions liees aux longueurs des geodesiques periodiques, et aux valeurs propres du laplacien. De maniere plus precise, soit X une telle surface de genre ^f > 2, munie d'une metrique riemannienne, avec une courbure constante normalisee par K = — 1 . On note V Tensemble des geodesiques periodiques orientees primitives sur X , et r ( p ) la longueur d'une telle geodesique p. On note aussi A x I'operateur de Laplace-Beltrami sur X , et la suite des valeurs propres de —Ax est representee sous la forme 0 = Ao < Ai < A2 < • • • < A„ < An+i < •. •. Pour tout n > 0, on choisit une des racines carrees pn de A^^ — ;|. Sous forme symbolique, on peut ecrire comme suit la formule de Selberg (1)

cosh r / 2 ^cosr/?„ = - | ( 5 f - l ) sinh^ r/2 n=0 T{P)

\5S*™MI".MP)/2)'

— 27rm/c

m =^l

et done obtenir un developpement en serie d'exponentielles qui converge dans le demi-plan Re K > 0. Par symetrie, la fonction impaire Tr/tanhTTK a un developpement analogue dans le demi-plan iie K < 0. En un sens, la demonstration de la formule de Poisson que Ton obtient n'est autre que celle que Cauchy donnait par le calcul des residus. Dans la deuxieme partie, on explicite completement diverses formes de la formule de Selberg. Parmi les points moins classiques, notons les deux formes donnees au terme intermediaire

(8)

j^,,,,^.,Hip)dp=-[^^.

On introduit aussi la fonction zeta de Selberg, par le produit infini

(9)

oo

2x(s)=nn(i-^~'^'^^'"'*^) p£V

k=Q

4

CARTIER ET VOROS

qui converge absolument dans le demi-plan Re s > 1. On conclut cette partie par Tenonce de Tune des formes de la formule de Selberg

(10) E ^ ( ^ T T ^ ) = (2 - ^9)^^ih n=0

+ «) + i^)'

log Zxil + «)•

'^^

La fonction 1/5(5) est egale a T'{s)/T{s). Dans la troisieme pariie, nous montrons comment nous debarrasser des derivees en AC^ dans la formule precedente. Nous nous appuyons sur la theorie des determmanis infinis regularises par la methode de la fonction zeta, due a Ray et Singer [RS]. II s'agit d'obtenir un produit infini a la Hadamard pour la fonction entiere Zx{s), portant sur ses zeros. De delicates questions de constantes de normalisation se posent. La formule suivante a ete obtenue precedemment par Tun d'entre nous [V2] (11) 2 ; , ( i + K ) = { e « ' d e t ( ( - A s . + ^ ) ^ / ' + K ) } ' ^ - 2 d e t ( ( - A x - i ) + K'); il faut prendre les determinants au sens regularise. Notre resultat fondamental est contenu dans la quatrieme partie. Au lieu de considerer une fonction paire h{p) holomorphe dans une bande horizontale |/m p\ < c^ nous considerons cette fois une fonction holomorphe dans un secteur \Arg p\ < f- + £, contenant I'axe imaginaire. On pose /.^x

,

(12)

h.(K) = -^

/ X

h(—iK) —

h(iK)

L •

pour

K>Q.

Voici notre version de la formule des traces (13) Y^h{pn)

= {2g-2)

/

pUnh7rph{p)dp-i-

/

/i_ («:)dlog 2:^(1 + «:).

Pour la premiere fois, le choix des racines carrees pn n'est pas indifferent; nous distinguerons deux cas : — si An > ^, on prendra pour pn la racine carree positive de A„ — ;|; — si 0 < An < ;|, on prend Tune ou I'autre des racines carrees de A^ — :^; alors \pn\ est un pole de Z'^(^-\-K)/Zx{^ + K,), et le chemin d'integration dans /»oo

(14)

/ Jo

/i_(Ac)^^(i + f^)Zx{^ -f f^y^dK

contourne \pn\ vers la droite ou la gauche selon que Ton a Arg pn —

LA FORMULE DES TRACES DE SELBERG "2"

ou Arg pn = -f f. On a suppose que le cas A„ = ;^ ne se presentait pas, pour simplifier. Le point essentiel est que Tintegrale (14) represente un procede de resommation du terme hyperbolique

i:i:4si„h(l'(p)ffl'* 0^ ei definii une fonction holomorphe Q{t) dans ce demi-plan. b) La fonction Q{t) se prolonge en une fonction meromorphe dans le plan C des nombres complexes. c) On a Vequation fonctionnelle Q{t) + Q{—t) = 0. d) Les poles de la fonction Q{t) sont situes aux points 27rin, pour n parcourant Z; ils sont simples, avec un residu egal a 1. 1.6. Depuis rinvention des distributions, on salt reformuler la formule sommatoire de Poisson dans ce cadre. En effet, la formule de Poisson est

LA FORMULE DES TRACES DE SELBERG

11

valable pour toute fonction h{p) dans Tespace de Schwartz S{R) (et la fonction /i(r) appartient necessairement au meme espace). Or, on a

(1.21)

Yl /»(") = E / °° ''(p'>^(p - ")'^^

par definition de la distribution 6 de Dirac, et + 00

/ d'apres la formule de transformation de Fourier (1.2). On pent done ecrire de maniere symbolique la formule de Poisson comme suit

(1.23)

2ximp.

Y,Sip-n)=Yl neZ

les deux membres representent des series convergentes dans Tespace S'{R) des distributions temperees. Explicitons le lien entre la theorie des distributions et celle des fonctions holomorphes. Notons Pi{p) la distribution de Poisson ICneZ ^(^ ~ ^ ) ' c'est la forme lineaire h \-^ Yln^Z '^C^) '^^^ I'espace 5(R). Cherchons a la representer sous la forme microlocale^ c'est-a-dire comme la difference entre les valeurs au bord d'une fonction H^{ip) holomorphe dans le demi-plan inferieur Im p < 0 et d'une fonction H~(ip) holomorphe dans le demi-plan superieur Im p > 0. Utilisons la notation classique (1.24)

F{p ± iO) = lim F{p ± is)

{e>0).

On a alors la representation microlocale du 6 de Dirac (1.25)

S{p) = {27ri)-'[(p-i0)-'

- (/> + iO)-^].

Autrement dit, pour toute fonction h{p) dans I'espace S{R)j on a

h{p)[{p-ie)-^-{p-\-is)-^]dp. •oo

On obtient la representation microlocale (1.27)

P,ip) = H+iiip - iO)) - H-{i{p + iO))

12

CARTIER ET VOROS

pour Pi{p) = Ylne^ ^{p~''^) ^^ sommant sur n la formule deduite de (1.25) en remplaQant p par p — n. Explicitement, on a (1.28)

H-^{K)

= (27r)-^ X l ('^ ~ ^^)~^ neZ

P^^^

Re K>0

(1.29)

i7-(/c) = (27r)-^ ^ ( / c - f i n ) - ^ neZ

pour

Re K < 0

(sommation symetrique sur n). Posons

(1.30)

P2{p) = J2 «'"'"''• rngZ

On pent resommer cela en oo

(1.31)

oo

P^ip) = V^+Y1 e-'"""'} + (i + E «'""'>• m=l

fn = l

Compte tenu des definitions (1.15) et (1.16), on obtient immediatement la forme microlocale de P2{p) (1.32)

p^ip) = G+{iip - m

- G-{i{p+m.

La formule sommatoire de Poisson a ete traduite dans (1.23) sous la forme Pi{p) = P2{p)' Compte tenu des representations microlocales (1.27) et (1.32), elle equivaut done a (1.33)

G + ( K ) = i/+(/c)

,

G-{K) =

H-{I^).

En utilisant les relations de symetrie (1.34)

G+(/c) = -G-{-K)

,

H^{K) = - i f - ( - K ) ,

tout est ramene a la relation G^{K) = H^{K). En derniere analyse, tout repose sur le fait que la fonction (2tanh7r«)~^ admet dans le demi-plan Re K > 0 les deux developpements en serie l+^e-^^^'^ m=l

et

{2n)-^ ^{K

-

„g2

On retrouve la formule (1.8) et la boucle est bouclee.

in)-\

LA FORMULE DES TRACES DE SELBERG

13

2. Enonce de la formule des traces de Selberg 2.1. Fixons les notations generales. On note X une surface hyperholique^ c'est-a-dire une variete compacte de dimension 2, munie d'une metrique riemannienne de courhure constante negative K. La courhure K, le genre g et Vaire A de X sont lies par la formule de Gauss-Bonnet (2.1)

A\K\ =

Ai:{g-l).

Comme A et |A'| sont des nombres positifs, on a ^f > 2. Pour simplifier, on normalisera la metrique de sorte qu^on ait K = —1, sauf eventuellement pour quelques remarques. 2.2. A la surface X est associe le spectre de I'operateur de LaplaceBeltrami Ax- Comme X est compacte, cet operateur elliptique autoadjoint possede un spectre discret. Nous enumererons les valeurs propres de —Ax sous forme d'une suite de nombres reels 0 zz Ao < Ai < A2 < • • • < A„ < . . . avec lim A„ = +00; chaque valeur propre est repetee un nombre de fois egal a sa multiplicite. La valeur propre AQ = 0 correspond aux fonctions const antes sur X, qui sont les seules solutions de I'equation A x / = 0 (principe du maximum). On note Af{X) le nombre de valeurs propres A^^ telles que A„ < A; c'est la fonction s-pectrale. EUe satisfait a Vestimee de Courant et Weyl[C]S\ [BGM] (2.2)

^ ( A ) - ^ A = (^ - 1)A pour A ^ -f-00. 47r On associe a X la fonction zeta Zx{s) de Minakshisundaram-Pleijel; dans le demi-plan Re s > 1, elle est donnee par la serie de Dirichlet Yl^=i ^n^ On a done la representation integrale (2.3)

Zx{s) = r Jo

X-'dM{\) = s r Jo

^^^l~^X-'dX X

dans ce demi-plan. II est connu que Zx{s) se prolonge en une fonction meromorphe dans le plan C des nombres complexes. Le seul pole est 5 = 1, et le residu de Zxis) pour 5 = 1 se deduit facilement des formules (2.2) et (2.3); il vaut ^ - 1 . 2.3. Nous met tons maintenant en place les constituants de la formule des traces de Selberg.

14

CARTIER ET VOROS

Definissons une suite auxiliaire (pn) par la relation An = \ + Pnl pour le moment, pn est Tune des deux racines carrees de An — ^. Par exemple, po est egal a | ou a - - | , et les />n sont situes sur Taxe reel, ou sur le segment d'extremites ~ | et j -

ti/2 SL Re

f -i/2

Figure 2 Choisissons une fonction h(p) satisfaisant aux proprietes suivantes: a) // exisie une consiantee > 0 telle que la fonction h{p) soit holomorphe dans la bande definie par \Im p\ < ^ -{- s. b) Dans cette bande, on a une majoration h{p) = 0{\p\~'^~^) pour \p\ tendant vers Vinfini (avec une constante S > 0). c) La fonction est paire : h{p) = h{—p). Comme la fonction h est paire, on a /i(pn) — h{~Pn) ^^ 1^ choix de la racine carree pn est sans importance. D'apres Testimee de Courant et Weyl, on a Yl^=i ^n^ < +^^ si 5 > 1 est reel; on en deduit que Yl'nzzo |Pn|~^~* est fini. D'apres Thypothese b), la serie J2^=o ^{pn) converge absolument. On pose (2.4)

Q{h) = Y,KPn)\ n=0

LA FORMULE DES TRACES DE SELBERG

16

comme les valeurs propres A^ de — A ^ s'interpretent comme des niveaux d'energie en Mecanique quantique, on pourra appeler Q{h) le "terme quantique". 2.4. Definissons le spectre des periodes de X. Soit c une courbe fermee sur X, parametree par c{t) pour 0 < / < 1; on note c{t) le vecteur Vitesse correspondant et T(C) la longueur JQ |c(/)|c?t de la courbe c. Notons V I'ensemble des geodesiques fermees orientees p, qui sont primitives (parcourues une seule fois, la fonction t h-> p{t) est injective sur Tintervalle [0,1[). Bien entendu, on ne distingue pas deux geodesiques qui ne different que par la parametrisation. Toute geodesique periodique 7 est un multiple (d'ordre m > 1) d'une geodesique primitive p, et Ton a T(J) = mT(p). On appelle spectre des periodes de X I'ensemble des nombres mT(p)j ou p parcourt "P, et m I'ensemble des entiers 1,2, La fonction de repartition Q{T) est definie ainsi : c'est le nombre de geodesiques periodiques 7 telles que T{J) < r. Le flot geodesique est hyperbolique, et Ton en deduit [HU] que G{T) satisfait a revaluation asymptotique (2.5)

S{T) ^ e^/r

pour

r -^ +00.

Par utilisation de la transformation d'Abel (qui revient a une integration par parties comme dans la formule (2.3)), on prouve facilement que la serie J2pev S m = i e"^'^^^^) converge absolument pour toute constante c > 1. Faisons maintenant les hypotheses suivantes sur la transformee de Fourier A(r) de h{p) : a') La fonction /i(r) est definie et continue sur la droite reelle R. b') On a une condition de croissance h{T) = 0(e~^'^') pour \T\ tendant vers Vinfini, avec une constante c > ^. c') La fonction est paire : h{T) — h{—r). De la discussion precedente, on deduit la convergence absolue de la serie 00

(2.6)

H{h) = J2Y1 Kp,mh{mTip)) peVm=l

ou la constante Kp^m est egale a r(p)/2sinh(mr(p)/2). On dit que H(h) est le "terme hyperboUque". 2.5. II nous reste a definir le "terme intermediaire". Auparavant, nous etablirons la formule suivante +00

/

r+00

f(p)ta.nhTrpdp= -00

/ J — 00

(sinhf ) - V > ) d r ,

16

CARTIER ET VOROS

ou /(/>) et / ( r ) forment une paire de fonctions reciproques; elles sont supposees continues, integrables et impaires. De plus, on suppose que I'integrale f_ ^ \p\\f{p)\dp est finie, ce qui assure que f{r)/T a une limite pour r tendant vers 0, et done que Tintegrale au second membre de (2.7) est convergente. Comme f{p) est impaire, on a (2.8)

/(r)-— /

msmrpdp;

d'apres le theoreme de Fubini, on a (sinh § ) - V ( r ) d r = -oo

/

fip)dp / - ^ d r .

^^ J-oo

J-oo Sinn J

II s'agit done d'etablir la relation /»oo

/

(2.10)

/ 7o

s m TO

-T-r^dr sinh ^

= TrtanhTrp.

Pour cela, on remarque que (sinh ^)~^ est la somme de la serie oo

2y^e-(n+l/2)T^ n=0

Le theoreme de convergence dominee de Lebesgue montre qu'on peut integrer terme a terme, en vertu des majorations (*) /•oo

|sinr/>| < lr/>|

,

/ Jo

^

. , _ dr < +oo. smh Y

On obtient done, en utilisant la formule (1.8): /•GO

/

•

sin Tp

Jo0 sinh^ sinhf

CO

j

f>.

^

^ ~ ±n£:=r.0;. 2

2p

+ („+i/2)2

=E /? - 272 - in tanh(7r/? — 7rz72) ^TTtanhTT/?. (*) Ces majorations montrent que la fonction / ( p ) sin r/?/sinh ^ des variables r, p est integrable dans R , ce qui justifie I'utilisation du theoreme de Fubini dans (2.9).

LA FORMULE DES TRACES DE SELBERG

17

2.6. Resumons les hypotheses a faire sur les fonctions h(p) et ^ ( T ) : a) On a une paire de fonctions reciproques h{p) et ^(r). b) Les fonctions h{p) et /i(r) sont continues et paires. c) La fonctton h(p) s'eiend en une fonction holomorphe dans une bande \Im p\ < c et satisfait a la majoration h{p) = 0{\p\~^) pour une constante a > 3, lorsque \p\ tend vers Vinfim dans la bande. d) On a une majoration ft(r) = 0(e~^l^l) pour \T\ tendant vers Vinfim dans R. Dans les hypotheses c) et d), la constante c est la meme, et Ton suppose qu'on a c > | . Noter que les hypotheses faites ne sont pas completement independantes; elles assurent rintegrabilite des fonctions h{p) et h{T) sur Taxe reel R. En fait, la fonction /(/)) = ph{p) est integrable et continue sur R, et sa transformee de Fourier est / ( r ) = —idh{r)/dT. L'hypothese a > 3 entraine meme que pf{p) = p'^h{p) est une fonction integrable de p et done que /i(r) est deux fois continuement derivable. Nous introduisons deux nouvelles fonctionnelles : (2.11)

I{h) =z (2g - 2) / Jo

/?tanh7r/> h{p)dp

(2.12)

,(A, = ( 2 - 2 , ) / ° ° | a .

La formule (2.7) s'ecrit alors simplement I{h) — J(h). Apres tons ces preliminaires, la formule des traces de Selberg s'ecrit sous la forme generale (2.13a)

Q{h) =

J{h)^H{h),

ou encore (2.136)

Q{h)-L{h)

= H{h).

De maniere explicite, on a OO

(2.13c)

^ n=0

y.00

h{pn) = {2g - 2) / •'0

ptanh irp h{p)dp , V^ V-" P€

^(P)

If

( ^^

-^^2sinh(mr(p)/2)

2.7. Au chapitre 1, nous avons montre comment deduire la formule sommatoire de Poisson du cas particulier suivant : (2.14)

h{p) = {p^ + «2)-i

,

h{T) = e-'=l^l/2/c

18

CARTIER ET VOROS

(la constante /c satisfait k Re K > 0). Pour la formule des traces de Selberg, les fonctions h(p) et h{T) doivent satisfaire aux hypotheses c) et d) du no 2.6, qui ne sont pas remplies dans le cas particulier (2.14). Par contre, si Ton suppose que Ton a (2.15)

Re

K>^,

la fonction /i^ (/?) definie par (2.16)

h,{p) =

^

(/>2 + /C2)2

satisfait a la condition 2.6, c). EUe se deduit de h{p) = (p^ + K^)~^ par application de Toperateur difFerentiel (—l/2/ 0 (2.18)

^ * +T = / JQ

1 , dx = - - + 2 ] ( - - —rz^ i —X

s

^^

n

5+ n

Remarquons que la derivee de hK,{T) par rapport a r est egale a ~:^^""'^'^ J on en deduit (2.20)

,(Sj = ( 2 , - 2 ) ^ ' ° j ^ . . .

Faisant le changement de variable x = e""^, et utilisant la formule (2.19), on obtient finalement (2.21)

j(ft^) = ( 2 < , - 2 ) ^ V ( | + «);

LA FORMULE DES TRACES DE SELBERG

19

nous ecrivons, ici et dans la suite, d/dK^ pour Toperateur differentiel {l/2K)d/dK (noter qu'on a d/c^ = 2K,dK). 2.8. Pour evaluer de maniere analogue le terme hyperbolique H{h^), il convient d'introduire la fonciion zeia de Selberg Zx{s), a ne pas confondre avec la fonction Zx{s) introduite au n° 2.2. On sait que le nombre G(T) de geodesiques periodiques de longueur < r satisfait a revaluation asymptotique G{T) ^ e^'/r. II est facile de deduire de la que le produit infini oo

(2.22)

Zxis)

= n 11(1 - e-^(P)('+*)) pev k=o

converge dans le demi-plan Re s > 1, et definit dans ce demi-plan une fonction holomorphe sans zeros. Le logarithme de Zx{s) est une fonction holomorphe dans ce demi-plan. On choisira la branche qui est reelle sur Tintervalle ]l,4-oo[ de R. Alors log Zx{s) tend vers 0 lorsque s tend vers -hoc; de maniere plus precise, on a (2.23)

\ogZx{s)

= 0{s-^)

pour

5-^+00

quel que soit Tentier N > 0. La. formule de produit infini se traduit sous forme de la serie

p£Vm = l

La fonction A(T) = e"'^'^' satisfait aux conditions a'), b') et c') du n° 2.4, pourvu qu'on ait iie K > | . La formule (2.24) s'ecrit aussi sous la forme (2.25)

A —logZx{^-{-K) dK

= H{h)

pour

ReK>^.

Compte tenu de la formule (2.17), on obtient immediatement (2.26)

i f ( / i ^ ) ^ _ ( _A - ) 2 i o g Z x ( | + K) pour

Re K > ^

2.9. Ecrivons maintenant la formule des traces de Selberg sous la forme Qihn) = J(/i«) + i^(^At) pour le cas particulier h^{p) = (/?^-f-K^)"^. Si Ton prend en compte les relations (2.21) et (2.26), on obtient la formule 1

d

d

20

CARTIER E T VOROS

Cette relation est valable pour Re K > ^ et sert de base a toute la suite de ce travail. On pourrait I'obtenir directement en considerant la resolvante de I'operateur elliptique —Ax (voir par exemple [EL], [HE2] ou [MK]).

3. D e t e r m i n a n t s d ' o p e r a t e u r s 3.1. A titre d'orientation, considerons le cas elementaire des operateurs en dimension finie. Soient done V un espace vectoriel complexe de dimension finie d, L un operateur lineaire agissant dans F , et 5 son spectre (ensemble des valeurs propres). On note D{\) le determinant de I'operateur L -\- X (pour A dans C). On a (3.1)

D{\)^l[{X + ar^''\

ou la multiplicite m(cr) de la valeur propre a est la dimension de I'espace des vecteurs annules par une puissance convenable de L — a. Par consequent, les zeros du polynome D(X) sont les nombres — Oj 6 > 0 sont des constantes reelles, et N un entier positif Avant d'enoncer la condition (C), introduisons de nouvelles fonctions Lm(A). Pour tout entier positif m, on note Lm(A) la derivee m-ieme de log A, d'ou (3.8)

(3.9)

X,(A) = logA

Lm{X) = ( - l ) " ' - ^ ( m - 1)!A-^

pour m > 1.

Par ailleurs, pour tout entier m > 1, il y a une primitive L_m(A) d'ordre m de log A, et une seule, qui soit de la forme X^{a. log A-{-6); on a explicitement (3.10)

L_^(A) = ( l o g A - ( l + | + .-. + ;^))A^/m!

pour

m > 1.

On note Q le plan complexe C coupe le long des demi-droites horizontales joignant — o o a O , e t — o c a Tun des nombres — cr, pour a dans S. Vu la position des zeros de la fonction -D(A), on pent definir \ogD{X) comme fonction holomorphe dans fi; les diverses branches different par un multiple entier de 27ri. De meme, on choisit la branche principale de log A dans fl, telle que log A soit reel pour A reel strictement positif, et les fonctions L-mW sont definies en consequence dans Q.

LA FORMULE DES TRACES DE SELBERG

23

(C) Lorsque A tend vers +00, on a un developpement asymptotique (avec

M>0) 00

(3.11)

logD(A)~ Yl 0, il existe un nombre reel c tel que le demt-plan Re X > c soit contenu dans fi, et que la fonctton r

m = —M

soit bornee dans ce demi-plan. Autrement dit, le reste du developpement asymptotique est du meme ordre de grandeur que le premier terme neglige ar+i^r-fi(A), qui est proportionnel a A"''"^. Noter que la relation (3.11) n'est valable que pour Tune des branches du logarithme de D{X). Dans le developpement asymptotique (3.11), la partie qui diverge pour A tendant vers +oo est egale a Ylm=-M ^mLmi^)- Les fonctions de ce type sont les fonctions F{X) qui ont la propriete que leurs derivees dTF{X)/dX^ pour r = 0 , 1 , . . . sont de la forme Pr(A).log A + Qr(A), ou Pr{X) et Qr{X) sont des polynomes, avec Qr{X) sans terme constant De plus, si G(A) est une fonction de la forme P(A).logA -f (5(A), ou P{X) et Q{X) sont des polynomes, il existe un polynome i2(A), et un seul, tel que la fonction G{X) — R{X) soit combinaison lineaire des fonctions I/o(A), L_i(A),.... 3.3. Demontrons d'abord que, si le determinant caracteristique existe, il est unique. C'est une simple consequence de la theorie de Hadamard sur la factorisation des fonctions entieres [T]. Introduisons les facteurs de Weierstrass

(3.12)

^".(A;/^) = ( l - ^ ) e x p { A + l ^ + ... + _ L _ ^ } ,

OU m > 1 est entier, A et // sont complexes et ;/ ^ 0. Soit m un entier, tel que m > m^; la serie Xl^=i l-^nl"^ converge done, et par suite le produit infini oo

(3.13)

£»„(A) = A - W n £ ^ m ( A ; - A „ ) n= l

24

CARTIER ET VOROS

converge absolument pour tout nombre complexe A. Alors Dm(^) est Tunique fonction entiere de la variable complexe A, qui admette pour zeros les nombres —a (pour cr £ S) avec les multiplicites m(cr) imposees, qui satisfasse a une majoration de la forme |£)rri(A)| < exp{a + ^|A|"^} (avec a > 0,6 > 0), et dont le developpement de Taylor a Torigine soit de la forme

A^(o)(i + (-l)^-4^A^/m + ..•)• Si une fonction i^(A) satisfait aux conditions (A) et (B), elle est necessairement de la forme (3.14)

D(A) = D^(A).expP(A),

ou P(A) est un polynome de degre < A^. En particulier, on a (3.15)

Dm+i{X) =

Dm{X).exp{{-irtmX^/m},

Supposons alors qu'on ait deux fonctions D{X) et Di{X) satisfaisant aux conditions (A), (B) et (C). II existe un polynome P(A) tel que (3.16)

log Di(A) = P(A) -f log D{X).

Mais si Ton considere la partie divergente dans les developpements asymptotiques de logD(A) et logDi(A), on conclut que le polynome P(A) est combinaison lineaire finie des fonctions LQ{X), L _ I ( A ) , • • •; ceci n'est manifestement possible que si Ton a P{X) — 0^ c'est-a-dire i^(A) — Di(A). On a prouve I'unicite du determinant caracteristique D{X) et montre qu'il est de la forme Dmo{X)e^^^\ ou P(A) est un polynome; cette derniere propriete signifie qu'aw voisinage de X = 0, on a le developpement en serie (3.17)

logD(A) = m(0)logA-f6o+ X ^ ( - l ) " ^ - ^ 6 ^ A ^ / m , m=l

OU le coefficient bm est egal a tm — ^ ^ i X~^ pour tout entier m assez grand. Le cas ou L agit dans un espace de dimension finie est contenu dans la discussion precedente. Dans ce cas particulier, on a mo — 1, M = 0; dans le developpement asymptotique logD(A) ^ Yl^=Q^^^rn{X) (pour A tendant vers +oo), on a alors am = Tr{U^)/m\ pour tout entier m > 0. Si 0 n'est pas valeur propre de L, on a, pour A voisin de 0, le developpement de Taylor oo

logL»(A) = 6o + ^ ( - i r - i 6 ^ A ' " / m

LA FORMULE DES TRACES DE SELBERG

25

avec bm egal, pour tout entier m > I, k tm = Tr(L~^). Dans le cas d'un operateur dans un espace de dimension infinie, on pourra par analogie concevoir le coefficient bm dans (3.17) comme une trace renormalisee de L~"^ (pour m > 1), et m\am (avec les notations de (3.11)) comme une trace renormalisee de L^ (pour m > 0). 3.4. Voici un coroUaire de Tunicite du determinant caracteristique. Nous allons montrer que, si // est un nombre complexe fixe, et si Voperateur L admet un determinant caracteristique D{X)^ alors Voperateur L -\- fi admet un determinant caracteristique egal a D{X-\- fi). Posons Li = L -{- jj, et Di{X) = D{X -h //). Les valeurs propres de Li sont les nombres cri de la forme (T + p, ou cr est une valeur propre de L, et la multiplicite de ci comme valeur propre de Li est egale a la multiplicite m{a) de a comme valeur propre de L. II en resulte que la fonction entiere Di{X) a bien pour zeros les nombres — (TI, ou ai parcourt les valeurs propres de Li, avec les multiplicites requises. Si D{X) satisfait a la majoration (3.18)

|D(A)|<exp{a + 6|A|^},

il existe des const antes reelles ai > 0 et 6i > 0 telles que (3.19)

|£»i(A)|<exp{ai+&i|Ar}.

II reste a prouver que si D{X) admet, pour A tendant vers +co, un developpement asymptotique du type J2m=-M ^rnLm{X)y alors Di{X) = D{X-\- /i) a un developpement asymptotique analogue. Or, pour tout entier m, la derivee de Lm{X) est egale a Lm+i{X)] pour A fixe, le developpement de Taylor de Lm(X -f //) s'ecrit done oo

(3.20)

Lm{X + //) - ^

Lm+r{X)fi''/r\

r=0

et ceci pent etre interprete (pour // fixe) comme un developpement asymptotique de la fonction A i-> Lm{X -f fJ') selon Techelle des fonctions L„(A). II est alors facile d'obtenir le developpement asymptotique (3.21)

DiX + fi)-^

"£

a'^Lm{\)

m——M

avec les constantes m-\-M (3.22)

«m =

E r=0

'^rn-rli'Irl

26

CARTIER ET VOROS

On a bien prouve que Di(X) est le determinant caracteristique de I'operateur Li. Si un operateur L admet un determinant caracteristique D{X), le nombre D{0) sera appele le determinant (renormalise) de L, et note detL. Le resultat precedent entraine alors que, pour tout nombre complexe //, le determinant de Toperateur L + /i est defini, et qu'on a (3.23)

D(/i) = det(L + /i).

3.5. Pour demontrer Vexistence du determinant caracteristique, nous ferons les deux hypotheses supplementaires suivantes : (TiJi) Pour tout nombre reelt > 0, la serie theta (3.24)

OLit) =

^m{(T)e-'''

converge absolument, et la fonction 9L est continue swr ]0,+oo[. {TH2) Au voisinage de 0, la fonction OL{t) admet un developpement asymptotique selon les puissances entieres de t, de la forme

(3.25)

e^it)^

Yl

(-ir^^m*'".

m>-mo

L'entier mo est le meme que precedemment. Remarquez que Ton pent ecrire ^ L ( 0 ^^^^ ^^ forme m(0) + X ^ ^ i e~^^*, et que ce n'est autre que la trace de e~*^. En dimension finie, on a un developpement convergent 00

(3.26)

OLit) = Tr{e-'^)

= J2

{-lTTr{L'^)t'^/m\

d'ou mo =:l,dm= Tr{L'^)/m\. Si A (A) est une fonction entiere de la variable complexe A, de derivee A'(A), la derivee de log A(A) est la fonction meromorphe A'(A)/A(A). II en resulte que, pour tout entier r > 1, on definit une fonction meromorphe Tr{X) par la formule (3.27)

TriX) = y z j ^ i ^ y

log DmoW.

En derivant Texpression de Dmo{X) comme produit infini (formule (3.13)), on obtient les developpements en serie 00

mo-r-l

•

(3.28) r,(A) = m(0)A-'- + ^{(A + A„)-^- J ] n=l

5=0

V

"/r'/^"^'^ ^

^

LA FORMULE DES TRACES DE SELBERG

27

OO

(3.29)

Tr{X) = m(0)A-'- + ] ^ ( A + A „ ) - ^ n= l

Le premier cas a lieu pour r = 1,. •., mo — 1, et le second lorsque r > mo. On pent encore ecrire (3.30)

Tr{X) = Y^ m{(T){X + (T)"'* aes

pour

r > mo-

De plus, par definition, les fonctions Tr{X) satisfont a la relation de recurrence (3.31)

4^Tr{X) =-rTr+iiX) dX

pour

r > 1.

Etudions d'abord le comporiemeni asympioiique de Tr{X) pour X iendani vers I'infini. Des formules (3.24) et (3.30), on deduit la formule integrale (3.32)

Tr{X) =

—/

fe-^'0L{t)dt,

pour tout entier r > mo. D'apres la formule (3.25), la fonction V'^Oiii) a, au voisinage de 0, un developpement asymptotique commengant par un terme proportionnel a t"^"^^ et elle est done continue en t = 0 pour r > mo; Tintegrale dans (3.32) converge done au voisinage de 0, et le comportement a Tinfini ne pose pas de probleme lorsque Re X est assez grand. D'apres les methodes courantes de la transformation de Laplace, on deduit, du developpement asymptotique (3.25) de ^ L ( 0 pour t petit, un developpement asymptotique de Tr{X) pour Re X grand, a savoir

(3.33)

T.(A)~ Y. (-l)'"^^ + "~^)'rf^/A'"+'-. m>-mo

^

^'

Compte tenu de la definition des fonctions Lm{X) (formules (3.8) a (3.10)), on pent reecrire ceci sous la forme (3.34)

(^)'-l0gD„„(A)~

Y. m> —mo

drnLm+rW

(pour tout entier r > mo). De maniere generale, soit F{X) une fonction holomorphe dans le plan coupe fi, admettant un developpement asymptotique

(3.35)

F(A)~ Yl emLm(A) m>-M

CARTIER ET VOROS

28

pour A tendant vers -foo. La relation dLm{^)/dX comme suit, lorsqu'on a m > I:

= Z/m-fi(A) se precise

f + OO

L„,+i(/i)d/i,

(3.36)

ou le chemin d'integration est la demi-droite horizontale dessinee (cidessous).

-I •

t

•^ -•

-I /?e"»

Figure 4 Par suite, il existe une primitive ^{X) de F{X), holomorphe dans le plan coupe fi, et telle que Ton ait (3.37) $ ( A ) -

Yl -M<m<s

e'nim-i(A) = /

{F{fi)-

Yl — M<m<s

emL,ni(^)}dfi

LA FORMULE DES TRACES DE SELBERG

29

pour tout entier s > 2. Cette primitive est aussi caracterisee par le developpement asymptotique

(3.38)

$(A)~ J2 emim-i(A). m>-M

Bien entendu, toute autre primitive de F{X) est de la forme ^(A) + a, ou a est une constante. Partons du cas r = mo de la formule (3.34) et remontons de proche en proche jusqu'au developpement asymptotique de \ogD^^{X). Comme deux fonctions qui ont la meme derivee d'ordre mo different par un polynome de degre au plus egal a m.o — 1, il existe un polynome P(A), de degre au plus egal a mo — 1, et tel que

(3.39)

log DmoW + P{X)~

Y.

m > —mo

pour A tendant vers +cx). Si Ton pose D{X) = DmoWe^^^\ une fonction satisfaisant aux conditions (A), (B) et (C).

on a obtenu

3.6. Resumons les resuliais obtenus. Soit L un operateur ayant un ensemble discret S de valeurs propres cr, avec une multiplicite finie m{a) pour chaque a. On suppose que, pour tout nombre reel ^ > 0, la serie

(3.40)

OL{t)= ]^m((7)e-^' aeS

converge absolument. On suppose de plus qu'il existe un entier mo > 1, tel que la serie tm = Yla^o '^{