Pour un mathématicien, calculer c’est raisonner, c’est analyser plus profondément les faits géométriques sous-jacents ; pour un jeune élève, calculer c’est laisser aux symboles le soin de raisonner à sa place, c’est oublier tout fait géométrique pour ne plus voir que des symboles

Dans une suite d’articles parus de 1931 à 1935, Henri LEBESGUE propose une réflexion sur l’enseignement de la mesure des grandeurs, qui se fonde sur une "étude comparative critique des divers modes d’exposition". Il se donne ainsi la possibilité de dénoncer les habitudes pédagogiques, et sa principale critique porte "sur ce qu’on dit, ou plutôt sur ce que l’on ne dit pas, au sujet des nombres irrationnels". En effet, Lebesgue reproche à l’enseignement secondaire de ne parler des nombres irrationnels que par prétérition "on le rencontre partout ; partout on évite d’en parler nettement", et de se livrer ainsi à un vrai tour de passe-passe à l’occasion des valeurs approchées des irrationnels puisque, ceux-ci n’existant pas, "on va parler de valeurs approchées qui ne seront approchées de rien". Il fustige alors un enseignement hypocrite et fourbe :

Il y a là une véritable hypocrisie, fréquente dans l’enseignement des mathématiques : le professeur prend des précautions verbales, efficaces quand elles ont le sens qu’il leur donne, mais que les élèves ne comprendront certainement pas de la même manière. Les examens et les concours incitent malheureusement à commettre souvent cette petite fourberie ; les professeurs doivent dresser leurs élèves à de petites questions fragmentaires, ils leurs donnent des modèles de réponses, qui sont souvent de véritables petits chefs d’œuvre et qui ne donnent prise à aucune critique. Pour y parvenir, les professeurs isolent la question de l’ensemble des mathématiques, ils créent pour ce qui la concerne, un langage parfait sans s’occuper du raccord avec les autres questions. Les mathématiques cessent d’être un monument, elles ne sont plus qu’un tas. J’insiste sur ce point bien qu’il ne s’agisse que d’un fait connu de tous les professeurs, qui disent volontiers avec ironie : « La mode veut qu’à tel endroit du cours on soit précis, qu’à tel autre ont ait toutes les libertés », et dont les bons élèves se sont aperçus assez pour être sceptiques, eux aussi, au lieu d’être enthousiastes.

Je cite longuement LEBESGUE parce que ses propos me semblent toujours d’actualité. Rien n’a changé : les élèves du secondaire calculent toujours avec des irrationnels qui ne sont "rien", qui ne sont pas saisis, et les professeurs doivent toujours les "dresser" à ces calculs. A l’époque de LEBESGUE, les étudiants construisaient les réels avec les coupures de DEDEKIND, mais aujourd’hui les jeunes professeurs ont des difficultés à se souvenir les avoir vus construire à l’aide de suites de CAUCHY, et ils sont fort surpris d’apprendre que dire "racine de deux" ne revient qu’à prononcer une périphrase qui ne dit rien sur ce qu’est ce nombre, et en particulier, sur ce qui le relie aux "vrais" nombres. Les propos de Lebesgue peuvent paraître aujourd’hui brutaux dans les pages d’une revue destinée à des enseignants de mathématiques, pourtant ils sont parus dans la revue L’enseignement mathématique.

Partant des mêmes constats que LEBESGUE sur l’enseignement des irrationnels, je proposerais ici une réflexion historique et épistémologique sur les irrationnels qui nous conduira d’EUCLIDE à LEBESGUE. Cette réflexion a comme horizon toujours présent la question : "qu’est-ce que faire des mathématiques ?" Mais si nous avançons d’abord que faire des mathématiques c’est en fabriquer, alors il faut bien dire ce que l’on fabrique, et nous avons donc choisi les nombres irrationnels, et ce avec quoi l’on fabrique, et nous dirons des mots, des figures, et des symboles. Faire des mathématiques c’est aussi agir pour résoudre des problèmes : dire avec des mots, montrer avec des figures, faire toucher avec des symboles, bâtir avec les mots, les figures et les symboles.

Le dire et le montrer

Dans le dialogue du Ménon de PLATON, SOCRATE veut montrer qu’il n’y a pas d’enseignement mais seulement un ressouvenir [1] . Il demande à MÉNON de faire venir un esclave, qu’il doit se borner à questionner, sans lui donner aucun enseignement. SOCRATE demande à l’esclave d’examiner un carré dont la longueur du côté est de deux pieds, il lui fait mesurer l’espace de ce carré, puis il lui demande s’il est possible d’avoir un carré qui soit double. L’esclave admet sans difficulté qu’il peut exister un carré de huit pieds, et SOCRATE lui pose alors la question suivante :
"Essaie de me dire quelle sera la grandeur de chacune des lignes de ce nouvel espace".

La situation géométrique proposée par SOCRATE est à la fois géométrique, il faut doubler un carré, et numérique, puisque le carré donné mesure quatre pieds. Il s’agit de dire la longueur du côté du carré double, et donc d’user de mots désignant des nombres. L’esclave répond en disant quatre, et SOCRATE lui fait constater que l’espace obtenu, seize, est trop grand. La réponse étant entre deux et quatre, l’esclave dit ensuite trois, et SOCRATE lui fait de nouveau constater que l’espace obtenu, neuf, est encore trop grand. Arrivé à ce point de la lecture du dialogue, nous pouvons nous demander ce que l’esclave peut bien dire d’autre, puisqu’aucun disable, aucun nombre grec — c’est-à-dire aucun nombre entier, ne peut satisfaire à la question.

Mais Socrate va alors modifier sa question en demandant : "Essaie de nous répondre avec exactitude. Et si tu ne veux pas dire le nombre, fais nous voir cependant à partir de laquelle". Il ne s’agit plus maintenant de dire, mais de faire voir, de montrer, de construire la figure géométrique exacte qui mesure huit pieds. SOCRATE donne, une à une, les étapes de la construction géométrique. Pour chacune, il demande à l’esclave s’il est possible de procéder ainsi, et l’esclave répond toujours "oui" (fig.1). La dernière étape consiste à construire les quatre diagonales, et l’esclave admet que le carré compris entre les quatre diagonales a pour mesure la moitié de celle du grand carré puisque chaque diagonale coupe un carré en deux "espaces" égaux.

Cet échange peut susciter beaucoup de commentaires, mais nous en retiendrons deux pour notre propos. Le premier concerne le choix de la situation. La première question porte sur des aires numérisées, mais SOCRATE ne demande pas d’emblée de dire la longueur du côté d’un carré de mesure huit pieds. Il fait le choix de présenter un problème géométrique de duplication. Ce choix prépare bien sûr la construction finale, mais pourquoi alors passer par du numérique ? SOCRATE explique à MÉNON que la première question a pour but d’embarrasser l’esclave afin de lui donner l’envie de chercher à découvrir. En effet, l’esclave éprouve un "malaise" en constatant que le numérique est insuffisant pour dire exactement la solution, et il va donc apprécier la construction géométrique qui montre exactement la solution. Le choix géométrique est celui de l’exactitude, à condition de préciser encore ce qu’on appelle une construction géométrique exacte, et nous savons que la géométrie grecque demande l’usage exclusif de la règle et du compas. Chercher à découvrir, c’est avoir "envie de savoir" par la géométrie. Le problème devient alors strictement géométrique puisque la solution est générale, que le côté du carré initial soit numérisé ou non.

Le second concerne la portée du questionnement socratique. En effet, lorsque SOCRATE affirme à MÉNON que l’esclave n’a exprimé que "des pensées venues de lui", nous sommes tentés d’ironiser. Examinons cependant de plus près ce que Socrate demande à l’esclave d’acquiescer. L’esclave doit admettre de lui-même que la mesure du grand carré, obtenu par accolement de quatre autres, est la somme de leurs mesures, et que les deux triangles formant un carré ont même mesure -c’est-à-dire que par un mouvement ils conservent leurs mesures en coïncidant l’un sur l’autre. Or, ces deux assertions sont nécessaires pour comparer des aires polygonales par découpages, à la manière des livres I et VI des Éléments d’Euclide.

Le lecteur .contemporain pourra être éventuellement surpris par la facilité avec laquelle il peut répondre à la première question de Socrate, en disant "racine de huit". Dans le contexte de la science grecque, cette réponse ne veut rien dire, alors que la construction géométrique constitue un discours raisonné, une réponse exacte qui a une signification précise. En grec ancien, l’irrationnel désigne ce qui n’a pas de "logos", et le "logos" signifie à la fois la parole et la raison.

L’irrationnel, l’indicible

Dans le dialogue du Théétète de PLATON, SOCRATE demande à Théétète de définir ce qu’est la connaissance, et remarque que l’énoncé de cas particuliers de connaissances ne peut pas constituer une définition générale. Théétète relate alors un entretien avec le géomètre Théodore : "Théodore nous avait expliqué, avec les figures, quelque chose de ce qui concerne les puissances, nous faisant voir, à propos de celles de trois pieds et de cinq pieds, que, en longueur, elles ne sont point commensurables avec celles de un pied, les prenant ainsi une à une jusqu’à celle de dix-sept pieds. Mais, je ne sais pas comment cela se fit, il s’arrêta à cette dernière. Là-dessus, il nous vint, comme cela, une idée ; puisque les puissances sont évidemment en nombre infini, l’idée de les rassembler en un genre unique, par le nom duquel nous désignerons les puissances" [2]. Il s’agissait donc de rassembler, sous un terme unique, une infinité de cas particuliers de longueurs incommensurables (c’est-à-dire qui n’ont pas de mesure commune) avec une longueur d’un pied, de dire l’indicible.

La solution de Théodore est approuvée par SOCRATE : "Le nombre, dans sa totalité, a été par nous partagé en deux classes : celui qui peut être le produit de facteurs égaux, et comme nous en représentions la figure par le carré, nous l’avons intitulé nombre ’carré’ [ … ]. Quant au nombre, maintenant, qui est mitoyen de celui là, ainsi trois, cinq, et de même tout nombre incapable d’être le produit de facteurs égaux, [ ... ] comme nous le figurions, cette fois par un rectangle, nous l’avons nommé nombre ’rectangle’. [ … ] Toutes les lignes qui, portées au carré, donnent le nombre équilatéral et plan, nous les avons définies : ’longueurs ; et ’puissances’, d’autre part, toutes celles qui donnent le nombre oblong [rectangulaire], attendu que, si en longueur ces lignes ne sont pas commensurables avec les premières, elles le sont par les surfaces dont elles sont puissances. Et le cas de solides est un autre cas analogue" [3] . Le côté d’un carré de trois pieds sera dit "puissance", parce que la
surface de ce carré est commensurable avec la surface du carré d’un pied. Cependant, cette formulation ne se résume pas à la périphrase : "c’est en puissance un carré de surface de trois pieds". En effet, THÉODORE a fait voir les côtés des carrés de surfaces trois, cinq pieds, etc., c’est-à-dire qu’il a construit géométriquement ces côtés. Plus précisément, il a montré comment rendre équivalents géométriquement un rectangle de côtés numérisés et un carré de surface numérisée : le terme "puissance" recouvre un discours raisonné, une opération de quadrature.

Comment THÉODORE a-t-il montré ce qui maintenant peut être dit ? Les côtés des carrés de surfaces deux (Théétète ne mentionne pas ce cas), trois, cinq pieds, etc., se construisent à la règle et au compas en application du théorème de Pythagore (fig.2). Ce théorème constitue la proposition XL VII du livre I des Éléments d’Euclide, il est la conséquence ultime de toutes les propositions d’équivalences d’aires démontrées dans ce livre par découpages (cas d’égalité des triangles, qui sont aussi des cas d’égalité d’aires, égalité des aires de deux triangles de même base et de hauteurs égales et de celles de deux parallélogrammes de même base compris entre deux mêmes parallèles).

Le problème général de la quadrature d’un rectangle se ramène à la construction à la règle et au compas de la moyenne proportionnelle BD de deux segments AB et BC (fig.3).

Cette construction est donnée par Euclide dans la proposition XIII du Livre VI, en conséquence du "théorème de Thalès" énoncé dans la proposition II du livre VI. Or, la démonstration de ce théorème nécessite d’avoir établi l’égalité du rapport des aires de deux triangles ABC et ACD de même hauteur avec le rapport de leurs bases BC et CD (fig 4) [4].

Ce dernier résultat constitue la première proposition du même livre, et il nécessite lui-même la "théorie eudoxienne des grandeurs" présentée au livre V. Cette théorie des grandeurs est essentielle, puisqu’elle permet de comparer et d’égaliser des rapports de segments ou d’aires, que ces rapports soit rationnels ou non. Elle permet de travailler géométriquement avec l’irrationnel, sans aucune notion numérique, elle montre géométriquement l’irrationnel par construction géométrique.

Le livre des grandeurs

La théorie des grandeurs exposée au livre V est attribuée au géomètre Eudoxe. Ce livre commence par une série de vingt définitions, dont les plus fondamentales sont les définitions 4 et 5. La définition 4 énonce que "des grandeurs sont dites avoir un rapport l’une relativement à l’autre quand elles sont capables, étant multipliées, de se dépasser l’une l’autre" [5]. En notations modernes, nous dirons que A et B ont un rapport entre elles s’il existe m et n tels que mA > B et nB > A. Cette définition permet à Euclide de démontrer, dans la proposition 1 du Livre X, que deux grandeurs inégales étant données, en retranchant de la plus grande une partie plus grande que sa moitié, et en recommençant autant de fois qu’il le faut, on aboutira à une grandeur plus petite que la plus petite des deux grandeurs données. Il s’agit de la propriété archimédienne des grandeurs, l’adjectif étant justifié par l’usage intensif qu’Archimède fait de cette proposition dans ses quadratures.

La définition 6 énonce que "Des grandeurs sont dites dans le même rapport, une première relativement à une deuxième et une troisième relativement à une quatrième quand des équimultiples de la première et de la troisième ou simultanément dépassent, ou sont simultanément égaux ou simultanément inférieurs, à des équimultiples de la deuxième et de la quatrième, chacun à chacun, [et] pris de manière correspondante" [6] . En notations modernes, nous pouvons écrire que le rapport de A à B est égal au rapport de C à D, si pour tout m et n, on a :

nA > mB et nC > mD

ou nA = mB et nC = mD

ou nA<mB et nC< mD

Ces notations risquent de donner une interprétation numérique de cette définition, alors que l’équimultiple d’un segment de grandeur A est un segment obtenu par juxtaposition de ce segment. Ainsi, pour être conforme à l’esprit grec, il vaut mieux montrer la définition 5 en observant que l’égalité du rapport de deux grandeurs A et B avec le rapport de deux grandeurs C et D se voit dans la répartition de leurs équimultiples (fig.6, nous avons choisi le cas où il y a égalité d’équimultiples, c’est-à-dire le cas d’un rapport rationnel).

Cette définition a pour conséquence le "théorème de Thalès", qui donne une signification géométrique à l’égalité de deux rapports de segments. Ce théorème est essentiel dans l’étude des figures semblables faite au Livre VI. EUCLIDE y résoud complètement, dans la proposition XXV, le problème des aires qui consiste à construire à la règle et au compas une figure rectiligne semblable à une figure donnée et égale (en grandeur) à une autre figure rectiligne donnée. La teneur de cet énoncé indique bien que, dans la géométrie grecque, une figure est à la fois une forme et une grandeur. Le "théorème de Thalès" offre également la possibilité de relier fondamentalement le numérique au géométrique. Euclide ne la saisit pas, mais nous verrons plus loin comment Descartes la saisit. Pourtant, la proposition V du livre X énonce que des grandeurs commensurables ont entre elles la raison d’un nombre à un autre. Mais le livre X, consacré spécifiquement aux grandeurs commensurables et incommensurables, reste géométrique.

Les livres qui concernent les grandeurs géométriques sont dissociés des livres proprement arithmétiques, qui traitent des nombres (conçus comme assemblages d’unités). Euclide n’associe pas un nombre à une longueur ou à une aire, il compare des grandeurs de segments ou d’aires : il les égalise dans le Livre I, et il considère leurs rapports dans le Livre VI. Une aire ne peut pas être dite ; ainsi, il ne peut pas être dit que l’aire d’un rectangle est le produit des longueurs des côtés, mais on montre que le rapport des aires de deux rectangles, ayant deux cotés respectivement égaux, est égal au rapport des deux autres côtés. D’ailleurs, on ne parle pas du produit de deux longueurs, mais on montre le rectangle de deux segments en le construisant. Ainsi, dans le Livre II, Euclide énonce que si "une certaine droite AB est coupée en deux parties égales au point C, et qu’une certaine droite BD, lui soit ajoutée en alignement, alors le rectangle contenu par AD, BD [égal à DM], pris avec le carré sur CB, est égal au carré sur CD " [7] (fig.7). Ce résultat lui permet de résoudre un problème de construction : celle du point H d’un segment AB tel que le carré construit sur AH soit égal au rectangle construit sur HB et sur BD égal à AB (fig.8).

Nous pouvons traduire la proposition par une formule algébrique et le problème par une équation algébrique. Mais cela ne doit pas nous faire oublier le contexte des propositions d’EUCLIDE : s’il y a bien une inconnue dans le problème, cette inconnue est géométrique, le problème est géométrique (c’est une procédure de construction qui est cherchée) et la démonstration qui justifie la construction est bien sûr géométrique. Nous allons voir comment le contexte change dans l’algèbre des mathématiciens arabes, et pourquoi nombre et géométrie vont se trouver mêlés, de sorte à donner un statut commun au nombre et à l’irrationnel : celui d’être l’inconnue d’une équation.

L’irrationnel comme inconnue algébrique

L’algèbre a pour signification originelle d’être la science de l’inconnue, de regrouper sous un même corpus toutes sortes de problèmes où l’on cherche une inconnue. Dans son Kitab al-gabr wa’l-muqabalah du IX^e siècle, Al-KHWARIZMI écrit : "Quand je considérais ce dont les gens ont normalement besoin dans le domaine du calcul, je trouvai que c’était toujours un nombre" [8]. Cette inconnue va donc être désignée par un mot, elle sera dite "racine", et comme les problèmes l’englobent, l’inconnue multipliée par elle-même sera désignée par le terme de "trésor". Il n’y a pas de symbolisme dans l’algèbre arabe, mais la terminologie permet d’indiquer la généralité des problèmes traités. Ainsi, "Racines et trésors égalent nombres" désigne toutes les équations que nous notons \(x^2 + ax = b\).

Le traitement de ce type d’équation est présenté sur un cas numérique particulier, mais il y a bien conscience de la généralité de la résolution. Ainsi, Al-Khwarizmi prend comme cas particulier : "un trésor et dix racines du même égalent trente-neuf dirhems". Le traitement commence par la donnée de l’algorithme de résolution ; diviser dix par deux : cinq ; multiplier le résultat par lui-même : vingt-cinq ; ajouter à ceci trente-neuf dirhems : soixante-quatre ; en prendre la racine : huit ; lui retrancher cinq : trois est la solution. Puis vient la démonstration géométrique qui va "expliquer" l’algorithme

 : "La figure pour expliquer ceci est un carré, dont les côtés sont inconnus. Il représente le trésor, lequel, et la racine duquel, tu demandes à connaître" [9]. Le carré AB figure le trésor, son côté figure la racine, les rectangles G et D de côtés cinq et la racine figurent les dix racines ajoutées au trésor. La surface totale de la figure obtenue est trente-neuf et la surface du carré qu’il faut lui ajouter pour obtenir un carré est vingt-cinq (fig.9). Par conséquent le grand carré a pour surface soixante-quatre et pour côté huit. Ainsi, la justification de l’algorithme est montrée par la figure. L’algèbre d’Al-Khwarizmi englobe à la fois du numérique, puisque l’inconnue est un nombre, et du géométrique, puisque la démonstration est géométrique. Le segment qui figure l’inconnue représente un nombre, et le carré qui figure le trésor représente un nombre multiplié par lui-même.

Dans son Magala al-gabr wa’l-muqabalah, OMAR KHAYYAM s’intéresse à des problèmes géométriques légués par les Grecs, comme celui de la sphère d’Archimède (couper une sphère dans un rapport donné), qui correspondent à des équations du troisième degré. L’algèbre est cette fois conçue comme une science où l’on cherche une inconnue, numérique ou géométrique : "Une des notions mathématiques dont on a besoin dans la partie du savoir connue sous le nom de mathématiques est l’art de l’algèbre et de l’almuqabala, destiné à déterminer les inconnues numériques et géométriques" [10] . Nombre et grandeur mesurable acquièrent un statut commun car "L’art de l’algèbre et de l’al-muqabala est un art scientifique dont l’objet est le nombre entier et les grandeurs mesurables, en tant qu’inconnus mais rapportés à une chose connue par laquelle on peut les déterminer ; et cette chose est soit une quantité, soit un rapport de manière que rien d’autre qu’elle ne leur soit commensurable, ainsi que te l’indique leur examen attentif. OMARK HAYYAM classe les équations de degré trois et les résout géométriquement par intersection de coniques.

Dans les deux traités évoqués, il s’agit de résoudre des problèmes algébriques (c’est-à-dire conçus comme recherches d’une inconnue), l’inconnue est numérique ou géométrique, et la démonstration est géométrique. Les algébristes de la Renaissance continuent sur la voie tracée par les mathématiciens arabes. La chose (l’inconnue) intervient dans des problèmes numériques ou géométriques, elle garde une figuration géométrique, puisque les justifications des algorithmes restent géométriques, mais la création du symbolisme va permettre de la représenter de façon symbolique. C’est ainsi que les irrationnels vont devenir les choses de l’algèbre symbolique.

L’irrationnel comme symbole : le prononcer et le toucher

Dans L’Algèbre du XVI^e siècle de Jacques PELETIER DU MANS, les irrationnels prennent une place prépondérante. En effet, l’algèbre y est définie comme :

un art de parfaitement et précisément nombrer, et de résoudre toutes questions arithmétiques et géométriques de possible solution, par nombres rationnaux et irrationnaux. La grande singularité d’elle consiste en l’invention de toutes sortes de lignes et superficies, où l’aide des nombres rationnaux nous [fait] défaut

La géométrie grecque était le lieu des grandeurs incommensurables, l’algèbre de PELETIER est celui des nombres irrationnaux, conçus comme des cas spéciaux de "nombres de l’algèbre".

La terminologie et le symbolisme de Peletier vont nous permettre de comprendre pourquoi :

• les "nombres radicaux" sont les puissances de la racine (de l’inconnue)\(R_1\) ; ils sont désignés par les termes de cense (carré), cube, censicense, etc. et représentés par des symboles ç, C, çç, etc ;
• les premiers nombres de l’algèbre sont les "nombres cossiques" : les nombres absolus auxquels sont "postposés" les nombres radicaux, comme \(6 ç\) qui se prononce "six censes" ;
• les seconds nombres de l’algèbre sont les "nombres irrationnaux" : ceux auxquels est "préposé" le signe cossique, comme \(\sqrt{çç20}\) qui se prononce "racine censicensique de 20" ;
• les troisièmes nombres de l’algèbre sont ceux qui ont un signe préposé et l’autre postposé.

En notations modernes, \(6 ç\) s’écrit \(6 x^{2}\) et \(\sqrt{çç20}\) s’écrit \(\sqrt[4]{20}\).

Ainsi, par leur terminologie et leur symbolisme, les irrationnels se confondent et se mêlent aux puissances de l’inconnue. Nous serions tentés de dire que le signe v représente une autre inconnue. Le grammairien PELETIER explique comment "discourir" avec les "nombres de l’algèbre", c’est-à-dire comment calculer avec eux : additionner, retrancher, multiplier, diviser, extraire. Il n’aborde qu’ensuite les équations proprement dites et la résolution de problèmes numériques ou géométriques. Puis, dans le livre II du traité, consacré aux "nombres irrationnaux" (définis comme les "racines sourdes des rationnaux"), il pose une question essentielle sur la nature des nombres irrationnels, à savoir "s’ils sont vrais nombres ou feints". Etant donnée la conception purement symbolique qui a été donnée jusqu’ici de l’irrationnel et l’insistance sur les aspects prononciatif et grammatical, il est intéressant de lire sa réponse. PELETIER écrit :

Non sans propos se fait un doute sur les nombres irrationnaux, s’ils sont nombre ou non. Car d’une part il est certain, qu’ils sont quelque chose : vu que par leur aide on parvient, non seulement à la preuve, mais aussi à la précision de plusieurs théorèmes, dont les nombres rationnaux ne font qu’approcher. Comme sont les démonstrations de tant de sortes de figures géométriques : qui nous sont faites certaines et déterminées, par le moyen des nombres irrationnaux, en quoi les rationnaux nous défaillent. Davantage ils ont leur algorithme, leur ordre et règles infaillibles, tout ainsi que les rationnaux, comme nous avons à voir. En somme, nous connaissons ci-après, que les irrationnaux nous apportent beaucoup de connaissances : lesquelles, sans eux, nous seraient impossibles. De l’autre part, nous ne pouvons bonnement approuver leur certaineté : car s’ils en avaient aucune, elle se verrait. Mais quelque règlement que nous leur puissions donner, si ne pouvons nous ni en eux, ni par eux affleurer aucune proportion, sinon cachée comme en perpétuelle ténèbre. [...] Et pouvons dire, le nombre irrationnel n’est nombre, non plus que le nombre infini. Car il n’y a non plus de proportionnel du rationnel à l’irrationnel : qu’il n’y a du fini à l’infini (idem, p. 124).

Les deux arguments en faveur des irrationnels sont la nécessité de faire appel à eux et l’existence d’algorithmes précis pour effectuer les calculs. Ce dernier argument n’a pu être avancé que grâce à la possibilité offerte par le symbolisme de manipuler aisément les irrationnels. Les symboles permettent de toucher les irrationnels, de discourir sur eux, mais PELETIER n’oublie pas qu’ils ne se prononcent que "par circonlocution" et qu’ils sont nommés racines sourdes "parce qu’en les prononçant on n’entend point ce qu’ils sont".

La liberté de manipuler les irrationnels par leurs symboles leur fait perdre tout caractère particulier. En 1585, dans son Traité des incommensurables grandeurs, Stevin va plus loin que Peletier en se demandant pourquoi les grandeurs incommensurables sont tenues en suspicion par les mathématiciens :
"Certes je ne vois autre raison, sinon qu’ils ne les tenaient pas pour des nombres, ainsi pour quantités irrationnelles, irrégulières, inexplicables, sourdes et absurdes, et pas dignes d’être citées en propositions mathématiques : mais parce que nous avons réfuté en son lieu cette irrationnelle, irrégulière, inexplicable, sourde et absurde opinion, et que nous espérons en temps opportun d’affirmer [...] que ces nombres sont en perfection et excellence, un des grands Mystères de la Nature à la perfection duquel elle n’a voulu faire capable tout entendement" . Pour lui, "les nombres arithmétiques sont si peu différents d’iceux radicaux", que l’on peut mêler les uns et les autres dans la même perfection. Dans le problème I de son Livre II, il mêle entier, irrationnel et segment, et il utilise librement la proposition XIII du Livre VI d’EUCLIDE(fig.3), pour trouver : un segment BD qui ait avec un segment donné AB la même raison que \(\sqrt5\) avec 3.

Peletier mentionne également l’infini à propos de la nature des irrationnels. Nous devons rapprocher ceci de l’existence d’autres algorithmes, connus depuis l’Antiquité, pour approcher les irrationnels par des rationnels [11]. Au XVI^e siècle, la mention de l’infini ne plaide pas en faveur d’un statut numérique de l’irrationnel, car il faudrait s’enfoncer dans des "perpétuelles ténèbres" pour "affleurer" l’irrationnel. Il en sera autrement au siècle suivant, lorsque les mathématiciens oseront affronter l’infini et travailler avec lui. Au XVII^e siècle, la numérisation et l’algébrisation de la géométrie vont également renforcer le statut de l’irrationnel, qui va devenir un objet usuel de l’analyse du XVIII^e siècle.

La numérisation et l’algébrisation de la géométrie

Dans La géométrie de 1636, Descartes explique d’abord que "le calcul d’arithmétique se rapporte aux opérations de la géométrie" [12] : il suffit d’introduire un segment nommé unité "pour la rapporter d’autant mieux au nombre". Ainsi, la multiplication de deux segments BD et BC devient un autre segment BE, en introduisant le segment unité AB et en appliquant le "théorème de Thalès" (fig.10). De même, la racine carrée de GH est le segment GI, en introduisant le segment unité FG et en appliquant la proposition XIII du Livre VI d’Euclide (fig.11). Ces conceptions sont en rupture complète avec la tradition grecque, puisque selon celle-ci le produit de deux segments et le carré d’un segment sont des aires, et qu’ici ce sont de simples segments.

L’homogénéisation dimensionnelle de DESCARTES lui permet d’expliquer "comment on peut user de chiffres en géométrie", anéantissant ainsi radicalement la distinction grandeur géométrique et nombre dans la pratique du géomètre. Ceci d’autant plus que les segments du géomètre seront manipulés à l’aide de symboles littéraux : DESCARTES donne à toucher ce qui est montré. Les constructions géométriques deviennent des expressions littérales utilisant des lettres et des signes arithmétiques, y compris les signes racines carrée et cubique (l’extraction des racines étant aux yeux de DESCARTES"une sorte de division"). Toutes ces expressions doivent être conçues comme de simples segments, en vertu de l’homogénéisation dimensionnelle. Descartes explique à son lecteur, qui risque sinon d’en être fort choqué, qu’une expression comme \(\sqrt{C.a ^{2} -b ^{2}} +abb\) qui n’avait aucun sens géométrique jusqu’alors (comment considérer le côté d’un cube qui soit un carré et lui ajouter un solide), devient licite une fois l’unité déterminée, puisque l’on peut à loisir multiplier ou diviser les diverses expressions par cette unité pour rétablir une expression homogène.

Ces conceptions sont nécessaires pour appliquer la méthode cartésienne de résolution des problèmes géométriques. Il s’agit d’une méthode qui procède par l’analyse -c’est-à-dire qui va de l’inconnu au connu : supposer le problème résolu, donner des noms aux segments connus (a, b, etc.) et aux segments inconnus (x, y, etc.), traduire le problème de sorte à obtenir des équations, résoudre les équations pour obtenir les inconnus. DESCARTES étend la pensée algébrique (qui est aussi une pensée analytique) à la géométrie, mais ce faisant il renverse la dialectique traditionnelle entre géométrie et algèbre. En effet, selon la tradition arabe, la géométrie permet de démontrer les algorithmes de l’algèbre, alors que dans la méthode cartésienne l’algèbre permet de démontrer des problèmes géométriques. Ces problèmes concernent également les courbes, que DESCARTES assimile à des équations, ouvrant ainsi la voie à l’analyse.

Dans la "période héroïque" qui suit les travaux de DESCARTES, la "nature" des irrationnels semble peu tourmenter les mathématiciens. Lors de leurs recherches algébriques et analytiques, ils apprennent à manipuler sous formes symbolique des êtres, dont certains peuvent paraître encore plus mystérieux que les irrationnels : imaginaires ou infinitésimaux. La théorie des grandeurs du Livre V constitue un fondement solide pour la géométrie, mais elle est lourde et compliquée, aussi va-t-elle être mise de côté par les auteurs. Cependant, nous avons vu que la définition 5 du livre V, si complexe soit-elle, sert à démontrer que les aires de deux triangles de même hauteur sont comme leurs bases, ce qui permet d’établir le "théorème de Thalès". Ce théorème est inévitable, alors comment les auteurs s’y prennent-ils pour le démontrer en l’absence d’une théorie des grandeurs ? Nous allons examiner brièvement cette question en consultant quelques ouvrages des XVII^e, XVIII^e et XIX^e siècles [13]

Du côté de Thalès : irrationnel et infini

Dans ses Nouveaux éléments de géométrie de 1657, ARNAULD inaugure une nouvelle façon de démontrer le théorème de Thalès sans s’encombrer d’une théorie des irrationnels. Il donne "une preuve très naturelle, dont je ne crois pas que jamais personne se soit avisé". Le théorème découle du résultat suivant : "lorsque deux lignes sont également inclinées en deux différents espaces parallèles, elles sont entre elles comme les perpendiculaires de ces espaces" [14], et aborder ainsi les relations entre irrationel et infini. Etant données, dans deux "espaces parallèles" A et E, deux perpendiculaires p et P, et deux obliques c et C ’ également inclinées" (fig.12), il faut prouver que la raison de p à P est égale à celle de c à C, ou, avec le symbolisme de l’époque, que p : P : : c : C.

ARNAULD suppose que p est divisée en 10, 20, 500, 10000, etc. parties égales x. Les parallèles, menées par les points de division de p, couperont c en autant de parties égales entre elles. Puis x est pris comme mesure pour P, et ici se pose le problème de l’incommensurabilité. Arnauld écrit : "elle s’y trouvera précisément tant de fois, ou tant de fois plus quelque reste, c’est-à-dire plus une portion moindre qu’x". Les parallèles, menées des points de division de P, couperont C en parties égales entre elles et égales aux parties obtenues dans c, puisque c et C sont "également inclinées". Le raisonnement qui conclut la preuve n’est pas clair, mais Arnauld semble admettre que la petitesse du reste donne bien l’égalité des raisons. En tous les cas, c’est bien la possibilité de diviser en autant de parties que l’on veut p qui assurera un reste aussi petit que l’on veut.

Clairaut, dans ses Eléments de géométrie de 1758 est plus explicite, lorsqu’il veut établir que deux triangles semblables ABC et abc ont leurs côtés proportionnels. Le résultat est d’abord démontré dans le cas où les côtés sont commensurables. Pour le prouver dans le cas où ils sont incommensurables, Clairaut suppose que ab est divisé en 100 parties et que AB contient entre 141 et 142 de ces parties, alors, si on néglige le reste, AC contiendra encore 141 parties de ac. Puis il recommence le même raisonnement en supposant ab divisé en 1000 parties, alors le reste négligé sera encore plus petit. Il conclut :

Ces restes comme nous venons de l’observer, seront de part et d’autre d’autant plus petits, que le nombre de parties de ab sera plus grand. Donc il sera permis de les négliger, si on imagine la division de ab poussée jusqu’à l’infini ; Donc on pourra dire alors que le nombre de parties de ac que contiendra AC égalera le nombre de parties de ab que contiendra AB, et qu’ainsi AC sera à ac, comme AB à ab.

La fin de la citation montre comment le mathématicien se heurte à l’infini lorsqu’il doit traiter l’incommensurabilité. Nous sommes au XVIII^e siècle, et un habitué des indivisibles, comme CLAIRAUT, ne sourcille pas. Les géomètres grecs avaient eux bien d’autres scrupules, évitant l’infini sous toutes ses formes [15].

Au début du XIX^e siècle, dans leurs Éléments de géométrie, LACROIX [16] et LEGENDRE [17] évitent l’infini, en procédant par l’absurde.

Examinons, par exemple, le raisonnement de LEGENDRE pour démontrer que deux rectangles de même hauteur ABCD et AEFD sont entre eux comme leurs bases, résultat duquel est déduit le "théorème de Thalès". LEGENDRE résout d’abord le cas où AB et AE sont commensurables

(fig.13).

Puis il considère le cas incommensurable, et il suppose que ABCD : AEFD : : AB : AO, avec AO plus grand que AB. Alors il existe un point I tel que AB et AI sont commensurables et tel que El soit plus petit que EO. Puisque le cas commensurable a été résolu, nous avons ABCD : AIKD : : AB : AI, d’où AIKD : AEFD : : AI : AO.

Or ceci est absurde car, AO étant plus grand que AI, il en résulterait que AEFD serait plus grand que AIKD. Le cas où AO est plus petit que AE conduit également à une absurdité, le résultat cherché est donc démontré.

LACROIX, qui procède de manière identique, accompagne la démonstration d’une note :

On éprouvera peut-être quelque difficulté à transporter aux parties de l’étendue la notion de rapport, telle qu’on la conçoit à l’égard des nombres, surtout lorsqu’il s’agira de lignes incommensurables entre elles. Mais l’obscurité disparaîtra, si l’on fait attention qu’on ne peut comparer deux lignes qu’en les supposant rapportées à une commune mesure, et qu’alors leur rapport est vraiment un nombre ou une fraction [...]. Quoique cette fraction cesse d’être rigoureusement assignable dans le cas où le rapport est incommensurable, elle n’en existe pas moins, puisqu’on peut en approcher d’aussi près qu’on voudra ; et deux rapports incommensurables devront être regardés comme égaux, dès qu’on prouvera que, quelque loin que soit poussée l’approximation pour l’un et pour l’autre, leur différence demeurera toujours nulle.

Lacroix se livre ici à des considérations sur les irrationnels qui indiquent que l’approximation par les rationnels reste, trois siècles après PELETIER,ténébreuse, et qu’elle ne suffit pas à attribuer à l’irrationnel le statut de "vrai" nombre. Pour que cet attribut soit possible, il faudrait pouvoir relier et articuler l’irrationnel aux "vrais" nombres. Cette exigence va être remplie avec les constructions des des nombres réels : relier l’irrationnel au rationnel, c’est peut-être enfin le tenir.

Tenir l’irrationnel

CASSIRER écrit, en 1910 dans Substance et fonction, que deux pistes s’offrent pour déduire le nombre irrationnel : "Nous pouvons partir, soit des rapports qu’entretiennent des segments géométriques données, soit de certaines équations algébriques qu’il devient urgent de résoudre" [18].La première piste est celle de la géométrie grecque, où l’on montre l’irrationnel, la seconde est celle de l’algèbre, où l’on touche l’irrationnel par un symbole. La seconde est insuffisante, car écrire le symbole qui est la solution de l’ équation \(x^2 - 2 = 0\), ne dit rien sur ce qu’il recouvre. La première devient insatisfaisante aux yeux de certains mathématiciens du XIX^e siècle. En effet, depuis le début de ce siècle, des analystes comme BOLZANO, CAUCHY ou WEIERSTRASS tentent de débarrasser l’analyse de toute référence géométrique, de sorte à lui donner un fondement purement arithmétique. Cette volonté motive la construction des irrationnels donnée de DEDEKIND.

DEDEKIND explique, au début de son ouvrage de 1872, Continuité et nombres irrationnels, que, professeur à l’Ecole Polytechnique de Zurich en 1858, il avait eu à enseigner les éléments du calcul différentiel et qu’il avait été alors gêné d’avoir eu à recourir aux évidences géométriques. II écrit : "Ce sentiment d’insatisfaction était pour moi-même tellement accablant que je pris la résolution de réfléchir à ce sujet jusqu’à ce que je trouve un fondement purement arithmétique et parfaitement rigoureux des principes de l’analyse infinitésimale" [19]. DEDEKIND est particulièrement soucieux de donner une "réelle définition de l’essence de la continuité", sans faire appel aux notions géométriques. Son étude commence par une réflexion sur la continuité de la ligne droite, et il trouve l’essence de la continuité dans le principe suivant : "Si tous les points d’une ligne droite sont séparés en deux classes telles que chaque point de la première est à gauche de chaque point de la seconde, alors il existe un et un seul point qui produit cette séparation de tous les points en deux classes" [20]. Ce principe va fournir le procédé de construction des irrationnels.

En effet, selon ce principe, l’ensemble des nombres rationnels n’est pas continu, il contient des lacunes. Considérons, par exemple, la séparation des rationnels en deux classes, la première classe contiendra tous les rationnels dont le carré est plus petit que 2, et la seconde classe contiendra tous les rationnels dont le carré est plus grand que 2, alors aucun rationnel ne produit cette division. Cette séparation, appelée coupure, définit un irrationnel, celui qui permet de combler la lacune. Dans ses Leçons d’arithmétique, TANNERY écrit : "On dira qu’on a défini un nombre irrationnel toutes les fois qu’on aura défini un moyen de partager tous les nombres rationnels en deux catégories jouissant des propriétés suivantes : 1. II y a des nombres dans chaque catégorie ; chaque nombre de la première catégorie est plus petit que chaque nombre de la seconde. II. Dans la première catégorie, il n’y a pas de nombre plus grand que tous les autres nombres de la même catégorie ; dans la seconde catégorie, il n’y a pas de nombre plus petit que tous les autres" [21].

Comment justifier qu’une coupure puisse être appelée un nombre ?

Cassirer commente la construction de DEDEKIND en écrivant : "les coupures sont des nombres parce qu’elles informent une multiplicité rigoureusement articulée et telle qu’une règle conceptuelle y détermine la position relative des éléments qu’elles contiennent" [22]. En effet, le nouveau système de nombres englobe et s’articule à l’ancien, puisqu’une séparation en deux qui ne vérifie pas la seconde propriété de Tannery définit un nombre rationnel, et qu’ainsi, nous pouvons déterminer la situation réciproque entre les nouveaux nombres et les anciens. De plus, il y a identité entre la fonction du nouveau nombre et son mode de définition : il relie entre eux les nombres de l’ancien système pour assurer une continuité, et il est relation. Autrement dit, le nouveau nombre tient les anciens nombres et nous pouvons ainsi le tenir. La difficulté est qu’il faut avoir en mains la totalité de l’ancien système pour tenir un seul nouveau.

La construction proposée par CANTOR en 1872, où un irrationnel est défini à partir de suites de rationnels, amoindrit cette difficulté [23]. Dans De l’infini mathématique, COUTURAT estime qu’elle est "moins générale que la précédente (celle de DEDEKIND], et par là même plus commode, car elle dispense de considérer chaque fois la totalité des nombres rationnels, et permet de définir exactement le nombre irrationnel aux moyens de certains nombres rationnels choisis et déterminés, qui, bien qu’en nombre infini, ne sont qu’une infime minorité dans l’ensemble des nombres rationnels" [24]. Dans un échange épistolaire, DEDEKIND et CANTOR confrontent leurs définitions qui, si elles sont équivalentes mathématiquement, ne recouvrent pas la même idée de la continuité [25]. En effet, même si les deux mathématiciens ont débarrassé la définition de la continuité de toute notion géométrique, leurs définitions correspondent à deux idées différentes du continu géométrique : pour DEDEKIND, le point est une séparation de la droite, et pour CANTOR, il en limite un parcours d’icelle.

Se défaire du géométrique présente au moins deux inconvénients. D’une part, rien n’assure comme le remarque DEDEKIND [26], que la continuité conceptuelle soit "réellement" celle de la droite géométrique, ni même, comme le remarque CANTOR, qu’à tout nombre irrationnel corresponde un point de la droite ayant ce nombre pour abscisse [27].Cet inconvénient ne peut être surmonté qu’en posant une thèse sur le monde. D’autre part, comme l’écrit POINCARÉ, dans La science et hypothèse, c’est trop oublier l’origine de l’irrationnel : "il reste à expliquer comment on a été conduit à lui attribuer une sorte d’existence concrète" POINCARÉ [28]. Cette dernière remarque nous ramène aux préoccupations pédagogiques de LEBESGUE, car il est difficile d’arriver à toucher ou à tenir ce qui échappe à notre vision, ce qui n’est pas montré.

Dans La mesure des grandeurs, LEBESGUE propose de "remplacer en arithmétique les chapitres sur les fractions, sur les nombres décimaux, sur les fractions décimales, sur les fractions décimales périodiques, sur les calculs approchés, par un unique chapitre sur la mesure des longueurs et les opérations sur les nombres" [29]. Lebesgue donne un "exposé résolument révolutionnaire" pour mesurer longueurs, aires et volumes, puisqu’il permet de passer directement du nombre entier au nombre réel sans avoir à utiliser ni fraction, ni nombre décimal. Par exemple, pour mesurer un segment AB, il suffit de choisir un segment unité U que l’on porte sur AB jusqu’au point \(A_1\) dernière extrémité atteinte pour dépasser B. S’il faut porter 3 fois U, on dira que la longueur de AB est 3, si \(A_1\) est en B, et qu’elle est supérieure à 3 et inférieure à 4, sinon. Puis, il faut diviser U en 10 parties de sorte à définir une nouvelle unité \(U_1\) et on obtient, par exemple, que la longueur de AB avec l’unité \(U_1\) est supérieure à 37 et inférieure à 38. Puis recommencer, etc. Ensuite, il faut "imaginer un symbole, qu’on appellera nombre et qui, étant le compte-rendu complet de cette suite indéfinie d’opérations, en pourra être dit le résultat". Ce nombre pourra être noté 3, 37, 376, 3760, 37602, etc., si ces nombres sont ceux obtenus dans la suite d’opérations. Ainsi, l’irrationnel est saisi directement à partir du nombre dans le contexte géométrique de l’incommensurabilité, qui lui donne sens et qui permet de montrer l’irrationnel par une suite infinie de segments emboités.

Dans un ouvrage récent, Le sens de la mesure, Nicolas ROUCHE propose une réflexion épistémologique sur la genèse de la mesure, qui se fonde, non sur l’histoire, mais sur l’exploration des phénomènes quotidiens [30]. Elle le conduit également à rejeter plus loin les fractions et les décimaux. Une réflexion épistémologique, sous-tendue par la volonté du sens, est nécessaire pour fonder un enseignement où les élèves puissent faire des mathématiques, et donc saisir leurs objets. Mesurer les grandeurs permet de montrer géométriquement l’incommensurable, et ainsi, de saisir l’irrationnel. C’est aussi proposer une vision culturelle des mathématiques. Or, comme l’écrit LEBESGUE, l’enseignement, "s’il n’est pas justifié par son utilité pratique, s’il n’est pas conservé par simple routine, ce ne peut-être que pour cet intérêt culturel qu’il s’impose". [31].

Dans Les Lois, SOCRATE estime honteux que ses concitoyens ignorent l’existence de figures incommensurables, et la nature de la relation entre les commensurables et les incommensurables [32].Indignons-nous avec lui, et affirmons, comme son interlocuteur, que "la jeunesse doit être instruite de ces matières, et, que de plus, l’étude n’en est ni dommageable, ni difficile".

Références bibliographiques

• AL-KHAYYAM, Magala al-gabr wa’l-muqabalah
  in L’Œuvre algébrique d’AlKhayyam, éd. Rashed et Djebbar, Alep, 1981.
• ARNAULD, Nouveaux éléments de géométrie
  Savreux, Paris, 1687.
• BARBIN, La pensée mathématique dans l’histoire et dans la classe
  in Bulletin de l’APMEP, n °388, avril-mai 1993, pp.l36-156.
• BKOUCHE, Autour du théorème de Thalès
  IREM de Lille, 1994.
• CANTOR, Ueber die Ausdehnung eines Satzes aus der Theorie der trigonometrishen Reihen
  in Math. Ann., vol.5, pp.123-132.
• CASSIRER, Substance et fonction : éléments pour une théorie du concept (1910)
  traduction française, Editions de Minuit, Paris, 1977.
• CAVAILLES, Philosophie mathématique
  Hermann, Paris, 1938.
• CHABERT & ali, Histoires d’algorithmes
  Belin, Paris, 1994.
• Commission inter-IREM Epistémologie, Histoire d’infinis
  IREM de Brest, 1994.
• COUTURAT, De l’infini mathématique
  réédition Blanchard, Paris, 1973.
• DEDEKIND, Stetigkeit und irrationale Zahlen et Was sind und was sollen die Zahlen (1872)
  in Essays on the Theory ofnumbers, réédition Dover, 1963.
• DESCARTES, La géométrie (1636)
  édition Christophe David, Paris, 1705.
• EUCLIDE, Les éléments, vol. 1 et 2
  PUF, Paris, 1990-1994.
• HOYRUP, "Algèbre d’al-Gabr" et "Algèbre d’arpentage" au neuvième siècle islamique et la question de l’influence babylonienne
  in Filosofi og videnskabs teori Pa Roskilde Universitetscenter, n°2, 1990, pp.8-9.
• LACROIX, Eléments de géométrie, 3^e édition
  Crapelt, Paris, 1803.
• LEBESGUE, La mesure des grandeurs (1931-1935)
  réédition Blanchard, Paris,
  1975.
• LEGENDRE, Eléments de géométrie, 12^e édition
  Didot, Paris, 1823.
• PELETIER, L’algèbre, Jean de Tournes
  Cologny, 1609.
• PLATON, Œuvres complètes, tomes I et II
  Gallimard, Paris, 1950.
• POINCARE, La science et hypothèse (1902)
  réédition Flammarion, Paris, 1968.
• ROUCHE, Le sens de la mesure
  Hatier, Paris, 1992.
• STEVIN, Traité des incommensurables grandeurs
  Plantijn, Leyden, 1585.
• TANNERY, Leçons d’arithmétique, 8^e édition
  Armand Colin, Paris, 1920.