Fatou, Julia, Montel, le grand prix des sciences mathématiques de 1918, et après…,
par Michèle Audin.

Éditions Springer, 2009.

276 pages en 15,5 × 24 ; illustrées de photographies en noir et blanc et de figures, dont certaines en couleurs.

ISBN : 978-3-642-00445-2.

Cet ouvrage comporte une introduction, six chapitres, des annexes (correspondances des protagonistes), une volumineuse bibliographie, un index.

Le nom de Gaston Julia est surtout connu à travers les ensembles de Julia, qui, au début du 20° siècle, furent les premiers exemples de ce qu’on devait nommer fractales quelques décennies plus tard. Leur invention ne visait en rien la création des beaux dessins multicolores dont nous abreuvent les magazines de vulgarisation (les textes mathématiques originaux sont exempts de toute figure !) : ils répondaient à un problème d’analyse, sujet du Grand Prix des Sciences Mathématiques organisé en 1918 par l’Académie des Sciences : « Étude des puissances successives d’une même substitution (comprendre : application de $\mathbb{C}$ dans $\mathbb{C}$), l’exposant augmentant indéfiniment », en se bornant au cas des fractions rationnelles. Pierre Fatou, comme Julia brillant normalien, avait dès 1906 publié une note sur ce sujet ; en 1917, Julia et Fatou déposent à tour de rôle des résultats proches les uns des autres ; tous deux s’appuient sur les travaux de Paul Montel, utilisant la notion de famille normale de fonctions qu’il a créée. C’est Julia qui obtient le Grand Prix, Fatou n’ayant pas concouru, pour des raisons non élucidées. Michèle Audin nous relate en détail les étapes de ces découvertes majeures, premiers exemples de « courbes  » n’ayant de tangente nulle part qui n’aient pas été « fabriquées exprès », comme la courbe de Von Koch ; notions qui, curieusement mises en sommeil pendant 40 ans, seront remises en lumière par Mandelbrot dans les années 80. Elle évoque aussi la rivalité entre Julia et Fatou, puis Julia et Montel, jusque dans les années 60.

Ce texte est un curieux patchwork de chapitres (ou sous-chapitres) de recherche historique pure et approfondie (citation systématique des sources, souci du détail) et d’exposés mathématiques de haut niveau, où les démonstrations sont parfois esquissées, parfois absentes, usant d’un vocabulaire savant (à lire avec un dictionnaire des mathématiques à portée de main !) ; avec aussi un beau portrait de Pierre Fatou, neurasthénique musicien et danseur de tango, astronome-adjoint à l’Observatoire de Paris jusqu’à sa mort prématurée à 51 ans ; sans oublier le contexte historique de la guerre, puis de l’entre-deux guerres.
L’auteur, si elle recherche l’objectivité des faits, ne cache pas qu’elle défend une thèse : Fatou a été injustement sous-estimé, parce que Julia était une « gueule cassée », héros de la Grande Guerre. Elle ne dissimule guère ses sympathies pour Fatou et Montel, plutôt de gauche, tandis que Julia sera suspecté de collaboration. Elle souligne aussi la mesquinerie des querelles de priorité et de pouvoir, au sein d’institutions prestigieuses, et l’intrusion de la politique dans ce qui aurait dû n’être qu’un débat scientifique.

Pas toujours facile à lire, de par l’abondance des notes et renvois, et le niveau élevé des parties mathématiques, ce livre est néanmoins un superbe travail qui apporte à son lecteur autant de connaissances historiques que de savoirs mathématiques, et le fait réfléchir sur l’irruption du contexte historique dans le développement des sciences.

Marc ROUX