Alliage | n°70 - Juillet 2012 L'imaginaire dans la découverte 

Martin Andler  : 

La science au risque de l’erreur : le cas des mathématiques

Plan

Texte intégral

Dans l’épistémologie des sciences exactes, l’erreur scientifique est l’un des aspects les plus difficiles à comprendre. C’est que l’erreur trouve mal sa place dans les deux grandes mythologies savantes de l’aventure scientifique, la vision classique « héroïque », la vision moderne « critique ». Dans la première, le statut de l’erreur ne peut qu’être marginal : l’erreur est humaine, son occurrence dans la marche des sciences est un accident sur lequel il n’est pas pertinent de s’appesantir. Dans la seconde, l’erreur n’a pas non plus sa place parce que lui en donner une de manière significative supposerait que l’enjeu de vérité soit central. Enfin, l’erreur dans les sciences n’a pas non plus sa place dans la vision commune parce qu’elle semble tout simplement impossible.
Dans ce texte, nous voudrions montrer que l’erreur scientifique a une place naturelle dans le développement des sciences, non parce qu’elle serait au centre, mais parce qu’elle est la part de risque de cette activité humaine normale qu’est la science. Pour ce faire, nous ne parlerons pas de science en général, mais exclusivement de mathématiques, ce qui représente, on en conviendra aisément, un angle d’approche très particulier de la question de l’erreur en science.

La conception héroïque des sciences

Il y a une première version de la légende des sciences, la vision héroïque, qui s’articule autour des mots : bien, progrès, rationalité, vérité, beauté. Dans le testament qui instituait son prix, Alfred Nobel indiquait qu’il devait être attribué chaque année à

« ceux dont les travaux de l’année précédente avaient apporté le plus grand bienfait à l’humanité. »1

 Plus récemment, une déclaration solennelle sur la science et l’utilisation du savoir scientifique de l’Unesco précisait :2 

« De par sa fonction, la démarche scientifique est un questionnement systématique et approfondi de la nature et de la société qui débouche sur des connaissances nouvelles. Ces dernières, facteurs d’enrichissement éducatif, culturel et intellectuel, sont à la source d’avancées technologiques et de bienfaits économiques. La promotion de la recherche fondamentale et appliquée est essentielle si l’on veut réaliser un développement et un progrès endogènes. »

Si, en première analyse, l’association science-rationalité ne fait guère de doute, c’est, peut-être étrangement, aux mots de vérité et de beauté que les savants eux-mêmes sont le plus attachés, en le formulant parfois de manière provocante :

« La recherche de la vérité doit être le seul but de notre activité. C’est la seule fin qui soit digne d’elle. Sans doute, devons-nous d’abord soulager les souffrances humaines, mais pourquoi ? Ne pas souffrir, c’est un idéal négatif, qui serait plus sûrement atteint par l’anéantissement du monde. »3

Mais le critère de vérité serait d’ordre supérieur à l’expérience empirique ; non que la recherche de vérité soit écartée, mais la beauté serait un guide plus sûr vers la vérité :

« Il est plus important d’avoir de la beauté dans ses équations que de les avoir en accord avec l’expérience. »4

Dans cette vision héroïque, l’erreur ne peut exister que de manière accidentelle, en raison de l’imperfection de l’homme au regard de la mission supérieure qu’est le progrès scientifique. L’étudier relève de l’anecdote.

La posture critique

La vision héroïque est fortement critiquée à partir des années 1960. En résumant sauvagement, cette critique se base sur des considérations de trois types.
1° Politique : Hiroshima contredit la notion de bienfaits et de beauté de la science.
2° Philosophique : d’une part, il est faux de parler de critère absolu de vérité, puisque la vérité des théories scientifiques est éphémère ; d’autre part, la science a désenchanté notre monde en substituant au mythe le prosaïsme de l’explication rationnelle.
3° Historique et sociologique : le développement des connaissances scientifiques ne peut être isolé du contexte historique et social.

Donner un statut particulier à l’erreur suppose qu’elle représente une déviation par rapport à une norme, laquelle ne peut être que la vérité. Or dans la posture critique, telle que nous l’avons très succinctement et caricaturalement présentée, une telle norme ne peut pas exister. L’erreur a donc droit de cité, mais il n’est pas nécessaire d’en parler plus que cela, sinon peut-être pour conforter la posture critique par rapport à la posture héroïque.

La vision sublime des mathématiques

Le statut des mathématiques — est-ce une science ou pas ? — ne va pas être tranché ici. Nous nous limitons à souligner que les mathématiques se distinguent des sciences de la nature de plusieurs façons.
1° La nature de la vérification est différente : en mathématiques, la démarche est déductive, alors que dans les sciences de la nature, elle est inductive ; la vérification repose sur la démonstration, quand dans les sciences de la nature elle repose sur la confrontation avec l’expérience.
2° Un théorème mathématique est vrai pour toujours, une théorie scientifique peut être remise en question, le plus souvent lorsque la réalité décrite par la théorie se révèle plus complexe que prévu initialement, et qu’une théorie plus élaborée est nécessaire pour en rendre compte.

Il en résulte que la manière dont s’inscrivent les mathématiques dans les deux visions des sciences décrites auparavant est singulière. Dans la vision héroïque, il faut d’emblée laisser de côté les mots bien et progrès (celui-ci étant utilisé comme le fait l’Unesco dans la déclaration de 1999 citée ci-dessus), qui ne peuvent s’appliquer directement. La référence à la vérité et à la rationalité n’a que peu d’intérêt direct, parce qu’il n’y a, en fin de compte, plus du tout de mathématiques sans succès au test de la démonstration, donc à l’aune de la vérité et de la rationalité.5 Reste seulement la beauté, aspect important dans l’imaginaire des mathématiciens, qui invoquent souvent la beauté comme critère de choix entre plusieurs solutions. Mais il faut éviter un malentendu ; la beauté à laquelle se réfèrent les mathématiciens n’est pas celle des formes géométriques que l’on rencontre dans certaines branches mathématiques, mais la beauté abstraite des concepts et des raisonnements.

La vision critique, lorsqu’elle se confronte aux mathématiques, est face à des objections importantes. Si le critère de rigueur mathématique a bien varié dans l’histoire, la continuité de ce qu’on entend par rigueur mathématique, depuis les Grecs, est une caractéristique bien plus forte que les variations temporelles. Il est incontestable, en particulier depuis le milieu du xxe siècle, que l’évolution des mathématiques a été fortement influencée par des enjeux socio-politiques ; les mathématiques, en maintenant leur unité, ont perdu leur innocence ; néanmoins, on ne peut qu’être frappé là encore par la permanence des questions posées et l’absence de ruptures radicales dans les approches. Les mathématiques ont bien connu des révolutions : celle des irrationnels chez les Grecs, le calcul algébrique chez les Arabes, la révolution symbolique de Descartes et Viète, le calcul infinitésimal de Newton et Leibniz, etc. Dans chaque cas, la révolution introduit des méthodes nouvelles, des points de vue neufs. Mais ces points de vue ne rendent pas obsolète ce qui précédait, ne modifient ni la nature des questions qui se posent, ni la méthode de leur résolution. Bref, l’application du concept kuhnien6 de changement de paradigme requiert pour le moins des adaptations très importantes pour pouvoir être intéressant en mathématiques.

Mais si la mythologie héroïque doit se dépouiller de toute référence au bien et au progrès, bref de toute référence humaniste, et si la vision critique ne parvient pas véritablement à montrer la pertinence d’un point de vue politico-social dans l’épistémologie des mathématiques, il n’en reste alors qu’une image singulière, sublime, mais froide et désincarnée en laquelle les mathématiciens ont bien du mal à se reconnaître.
Nous pouvons maintenant préciser enfin l’objectif de ce texte : dépasser la vision sublime. Le chemin que nous prendrons est de considérer les mathématiques non pas comme un édifice achevé, mais comme un processus, une démarche, et de souligner l’aspect humain de celle-ci. Et comment mieux le faire qu’en mettant en évidence le rôle joué par les erreurs en mathématiques ?

L’erreur en mathématiques

Si les mathématiques par définition ne se trompent pas, les mathématiciens, eux, se trompent fréquemment. Dans leur immense majorité, ces erreurs ne sortent pas du bureau du mathématicien. Idée fausse sur une feuille de papier, calcul faux, tout cela finit rapidement à la corbeille. Parfois, l’erreur franchit la porte du bureau, et c’est à la suite d’une discussion avec un collègue, dans le couloir ou autour de la fameuse machine à café des départements de mathématiques, celle qui transforme les grains de café en théorèmes, qu’est détectée l’erreur. Si les mathématiciens les plus prolixes arrivent à publier chaque année, souvent en collaboration, des articles représentant plusieurs centaines de pages, la plupart d’entre eux n’en publient que quelques dizaines. En rapportant à l’heure de travail, on arrive à une « production » de quelques lignes par jour, dans les bons cas. Le reste passe donc à la corbeille.
Mais certaines erreurs franchissent les différents sas de sécurité et parviennent ainsi à l’annonce publique, lors d’un colloque ou d’un séminaire, voire à la publication. Nous allons, dans cette partie, évoquer deux cas célèbres qui nous permettront de saisir la nature et les effets de l’erreur.

Henri Poincaré et le problème à trois corps7

Quand, en mai 1885, le mathématicien Gösta Mittag-Leffler (1846-1927) annonce qu’un prix en l’honneur d’Oscar ii, roi de Suède et de Norvège, à l’occasion de son soixantième anniversaire, serait décerné en 1888 à l’auteur d’un article original de mathématiques, son opération de promotion des mathématiques est bien organisée. Déjà, ce talentueux professeur à l’université de Stockholm, mathématicien reconnu un peu partout en Europe, notamment en Allemagne où il a fait ses études, et en France où il vient régulièrement, est parvenu, grâce au soutien du roi, à lancer une revue mathématique prestigieuse, Acta Mathematica.8 Mittag-Leffler a réuni un jury prestigieux, comprenant, outre lui-même, deux très grands mathématiciens, certes en fin de carrière, mais qui assurent une grande publicité au prix, l’Allemand Karl Weierstrass (1815-1898) et le Français Charles Hermite (1822-1901).

Il est clair que Mittag-Leffler a, d’emblée, un candidat pour le prix : son ami, le jeune mais déjà célèbre mathématicien français Henri Poincaré (1854-1912). Et en effet, le jury décide de lui attribuer le prix de deux mille cinq cents couronnes : l’annonce en est faite le 20 janvier 1889, jour de l’anniversaire d’Oscar ii. Le texte de Poincaré est envoyé à l’imprimeur ; Mittag Leffler est assisté, pour Acta Mathematica, par un secrétaire de rédaction qui est un jeune étudiant prometteur de vingt-six ans, Lars Phragmen. En relisant les épreuves, Phragmen découvre une erreur ! On notera à ce propos que l’étudiant n’a, en fin de compte, pas hésité à mettre en question l’autorité du professeur : en sciences, les arguments d’autorité sont hors de propos. La suite est rocambolesque, car le mémoire a déjà été imprimé et quelques exemplaires ont circulé. Poincaré doit rembourser les frais d’impression (pour un montant supérieur au prix reçu), et de son côté, Mittag-Leffler doit retrouver la trace de tous les exemplaires contenant la démonstration fausse et les récupérer.

Mais surtout il faut corriger l’erreur, ce que Poincaré parvient à faire en quelques mois d’effort acharné, en avril 1890 ; c’est là que la science reprend le dessus sur l’anecdote. Pour en situer l’enjeu, nous devons entrer dans les mathématiques elles-mêmes. Le mémoire de Poincaré portait sur le « problème à trois corps »; il s’agissait de comprendre les mouvements relatifs de trois astres (trois corps), typiquement une étoile et deux planètes, ou une étoile, une planète et une lune. Ces trois astres s’attirent mutuellement selon la loi de l’attraction universelle de Newton. S’il n’y a que deux astres, le mouvement est simple à décrire, les lois de Kepler s’appliquent : les trajectoires des deux astres sont elliptiques autour d’un foyer, centre de gravité de l’ensemble. Newton lui-même en a fait le calcul à partir de ses lois. Si l’on néglige l’action mutuelle des deux petits astres, là encore le calcul complet est possible, et on trouve à nouveau les orbites elliptiques. En première approximation, il est légitime de le faire : l’attraction de Vénus sur la Terre est de l’ordre de deux millionièmes de l’attraction du Soleil sur la Terre. Mais la théorie ne permet pas de dire si cette infime attraction ne va pas changer complètement l’évolution du système à long terme. Car, contrairement au problème à deux corps, on ne sait pas, à la fin du xixe siècle, résoudre les équations pour le problème à trois corps !

Au début du xxie siècle, on n’a toujours pas de réponse complète, mais les travaux de Poincaré ont permis un saut décisif dans la compréhension du problème. Avant même l’affaire du prix, Poincaré avait engagé l’étude des équations du type de celles que l’on rencontre en mécanique céleste, lors de l’étude du mouvement des astres par exemple, dans une voie tout à fait différente de ses prédécesseurs. Les mathématiciens du xixe siècle avaient consacré beaucoup d’énergie à résoudre complètement ces équations, appelées « différentielles », dans de nombreux cas fort intéressants. Mais vers la fin du xixe siècle il devenait de plus en plus clair qu’on ne pourrait jamais résoudre toutes ces équations. Ce que Poincaré lança, c’est ce que l’on appelle maintenant la théorie « qualitative » des équations différentielles, qui permet de donner des résultats précis sur l’évolution du système sans pour autant avoir calculé précisément tous les détails.

Une question qui nous intéresse tous est de savoir si la fin du monde est proche. On peut formuler plusieurs scénarios apocalyptiques : catastrophe nucléaire, éruptions volcaniques entraînant des siècles sans soleil, etc. Celui qui nous intéresse ici est la possibilité que les révolutions des planètes se dérègle, qu’elles quittent leurs orbites actuelles et, par exemple, finissent par s’écraser sur le Soleil après s’être percutées les unes les autres. Un résultat « qualitatif » serait du type : « Oui, cette fin du monde est certaine, et va se produire dans un temps fini » ou, au contraire, « Non, cela ne se produira jamais ».
On est bien loin, aujourd’hui encore, de pouvoir répondre à cette question avec un tel degré de précision (des travaux récents du mathématicien et astronome Jacques Laskar montrent que l’hypothèse de l’effondrement du Système solaire n’est pas impossible, à échéance de quatre ou cinq millions d’années).

Dans le mémoire proposé pour le prix, Poincaré s’est intéressé à un cas particulier du problème à trois corps (le problème des trois corps réduit), correspondant à la situation étoile/planète/satellite, où :

  • 1° les trois corps restent dans un plan fixe ;

  • 2° l’étoile et la planète décrivent des trajectoires circulaires coplanaires autour de leur centre de gravité commun ;

  • 3° le satellite est supposé de masse m nulle. Un exemple physique de cette situation : Soleil /Terre /satellite artificiel.

Pour formaliser la situation, il introduit un espace de dimension 4, l’espace des phases. Il étudie pour commencer une situation mathématique encore plus simple, où l’on suppose que la planète est elle aussi de masse p nulle. Dans cette situation très simplifiée, la planète et le satellite tournent autour de l’étoile, que l’on peut supposer fixe ; mais les périodes de révolution sont en général différentes, ce qui entraîne que les positions relatives de la planète et du satellite apparaissent comme étant arbitraires. La deuxième étape de la démarche de Poincaré consiste à voir comment la situation mathématique évolue lorsqu’on fait varier le rapport µ entre la masse p de la planète et la masse e de l’étoile de zéro à un nombre positif petit (pour fixer les idées, le rapport des masses entre Terre et Soleil est de trois millionièmes).

C’est dans cette deuxième étape que Poincaré commet une erreur sérieuse ; non seulement sa démonstration est fausse, mais le résultat l’est également. Comme le résume F. Béguin,9 ce résultat affirme que les trajectoires qui ont un certain mouvement régulier dans le passé, mais dont le mouvement s’est ensuite déréglé, finissent par “rentrer dans le droit chemin” et retrouver leur mouvement régulier initial. En fait, Poincaré sera obligé de constater, dans la version corrigée de son mémoire, celle qui paraîtra dans Acta Mathematica en novembre 1890, que les situations dans les deux directions du temps sont différentes et que la situation est bien plus complexe. C’est de cette observation que l’on peut dater le début de la « théorie du chaos ».

Si cette théorie du chaos est effectivement en germe dès le mémoire de 1890, elle ne se développe véritablement que bien plus tard. Le mot de chaos lui-même n’est utilisé dans les mathématiques et les sciences physiques qu’à partir du milieu des années 1970 ; il acquiert, à la fin des années 1970 et dans les années 1980, le statut de « concept nomade » qui tend à obscurcir son importance ; fondamentalement, il permet en effet de réconcilier déterminisme et imprédictibilité. Depuis la fameuse conférence du météorologue Edward Lorenz en 1972 : « Prédictibilité : le battement d’ailes d’un papillon au Brésil peut-il provoquer une tornade au Texas ? », jusqu’au personnage du roman (1990) et du film (1993) Jurassic Park, Ian Malcolm, spécialiste de la théorie du chaos, les exemples, du plus au moins sérieux, de l’intervention de ce nouveau concept abondent. Comme le montrent Aubin et Dahan,10  l’histoire qui va de Poincaré à la théorie du chaos est longue et complexe, mêlant développements conceptuel, politique et progrès technique ; ce n’est pas le lieu d’y entrer ici.
Ce qui nous intéresse est comprendre comment l’erreur peut survenir, pourquoi elle est intéressante et, à l’occasion de cette analyse, décrire certains aspects du processus de mathématisation. Il s’agit donc d’un point de vue purement internaliste, approprié dans ce contexte.

Analyser le mouvement des planètes par des équations déduites des lois de Newton n’est évidemment pas, à la fin du xixe siècle, novateur. L’innovation de Poincaré, dans ses travaux des années 1880, consiste à regarder le problème avec une vision géométrique très élaborée. La formulation initiale fait apparaître trois points représentant les trois corps, qui se déplacent dans un plan ; on est donc dans une géométrie de dimension 2. On peut tracer leurs trajectoires possibles, mais ces dessins n’apportent rapidement pas grand-chose. Ce que fait Poincaré, dans ce problème comme dans les autres du même type, est d’introduire un nouvel espace, qui n’est pas présent dans notre perception initiale du problème, mais le représente de manière efficace. Dans le cas du problème à trois corps réduit, on peut supposer que l’étoile est fixe, et que l’on décrit le satellite au moyen de ses coordonnées dans un repère mobile centré sur l’étoile et dont le premier axe suit la trajectoire de la planète. Dans ce repère, tout se passe comme si étoile et soleil étaient immobiles. L’état du satellite est entièrement défini par sa position, naturellement, mais aussi par sa vitesse. Il faut donc quatre paramètres, deux pour la position, deux pour la vitesse, d’où des considérations géométriques dans un espace de dimension 4. On appelle cet espace, espace des phases de l’équation.

Il y a là l’archétype du geste créateur du mathématicien : donner naissance à un espace où les concepts mathématiques vont se déployer, mais qui n’est pas présent aprioridans la question étudiée.Le choix de l’espace des phases est dans une certaine mesure arbitraire, seule compte sa commodité pour représenter la situation. Le deuxième geste du mathématicien est de faire varier une quantité qui ne varie pas ; en l’occurrence, c’est la masse (fixe) de la planète qui devient variable pour le mathématicien. Ici, la transgression est plus marquée, car le formalisme mathématique s’oppose à la réalité physique. En revanche, ce formalisme est d’une redoutable efficacité.
Efficace, mais risqué, puisque c’est précisément là que Poincaré commet une erreur ! Ayant sous-estimé la complexité de l’entrelacs entre les trajectoires, il a, trop rapidement, accordé une régularité trop forte à la dépendance mathématique du mouvement par rapport au paramètre µ : techniquement, il a pensé que cette dépendance était analytique, alors qu’elle n’était qu’infiniment différentiable. Cette erreur rendait fausse sa conclusion.

Fermat et son grand théorème

Nous allons maintenant analyser une autre série d’erreurs célèbres. Elles concernent la démonstration du fameux « grand théorème de Fermat » :

« Soit n un entier supérieur ou égal à trois. L’équation xn + yn = zn n’admet pas de solution entière (c’est-à-dire avec x, y, z entiers) avec x, y et z non nuls. »

Le mathématicien français Pierre de Fermat (1601-1665), magistrat de profession, prétendait en avoir une démonstration : il avait écrit vers 1637, en marge de son exemplaire de l’Arithmétique de Diophante, l’énoncé du théorème, ainsi que la phrase :

« De cette chose admirable cette marge trop étroite ne contiendrait pas la démonstration. »11

Il est quasiment certain que Fermat s’était trompé en pensant avoir démontré le théorème, qui ne pouvait donc, jusqu’à tout récemment, être considéré que comme une conjecture. Depuis 1637, les progrès dans sa démonstration générale avaient été lents et semés d’embûches.
On se souvient que l’annonce de la démonstration de cet énoncé, en 1993, par le mathématicien Andrew Wiles avait fait les titres des journaux. Quelques mois après l’annonce, Wiles dut reconnaître une erreur très sérieuse dans sa démonstration. Il s’en était suivi une longue période de latence, mais qui s’est heureusement terminée à l’automne 1994, avec l’aide d’un autre mathématicien, Richard Taylor.12 Ainsi, le « théorème » de Fermat était enfin devenu théorème. Il est à noter que l’affirmation du théorème de Fermat, l’inexistence de solutions à une certaine équation, est sans grand intérêt en elle-même, une énigme plutôt qu’un résultat profond. L’intéressant, ce sont les approches en vue de la résolution de l’énigme, pendant deux cent cinquante-sept ans. Elles ont eu une importance considérable dans l’histoire de cette branche des mathématiques. Elles ont motivé d’importantes constructions théoriques, qui y jouent maintenant un rôle central.

Plutôt que de discuter l’erreur de Wiles, nous évoquerons ici d’autres erreurs fameuses dans la longue marche vers le théorème de Fermat, celles commises par le mathématicien suisse Leonhard Euler (1707-1783), au xviiie siècle, puis par le mathématicien allemand Ernst Kummer (1810-1893).13

Il faut préciser que quand Fermat nous dit : pour tout entier n strictement supérieur à deux, l’équation... n’a pas de solution, il laisse à ses successeurs la possibilité de démontrer la propriété pour des entiers particuliers, à défaut de pouvoir traiter le cas général. C’est évidemment ce que l’on a commencé par faire.  
Lorsque Euler s’intéresse à cette question, il est l’une des figures dominantes des mathématiques européennes, en poste à l’Académie des sciences de Saint Petersbourg. Il s’intéresse au cas n = 3, et pour le traiter il a l’idée d’introduire de nouveaux nombres. Nous apprenons tous, au collège, qu’il y a différents ensembles de nombres, classés par ordre croissant : les entiers naturels : zéro, un, deux... puis les entiers relatifs (les mêmes, précédés du signe + ou du signe -), les fractions (nombres rationnels), puis enfin « tous » les nombres, les nombres réels. Les élèves des terminales scientifiques apprennent que l’histoire ne se termine pas là, et qu’on peut inclure dans la liste les nombres « imaginaires », découverts au xvie siècle en Italie, notamment des nombres dont le carré peut être négatif, par exemple le nombre i dont le carré i est égal à-1. Le nombre i est donc égal à √-1, alors que par la règle des signes, le carré d’un nombre ordinaire, même négatif, est forcément positif.

Les nombres entiers ont de fortes limitations, mais c’est précisément ce qui fait leur intérêt : lorsqu’on considère deux entiers a et b, on peut se poser la question : est-ce que a divise ? L’étude des propriétés de divisibilité entre nombres entiers est ce que les mathématiciens appellent arithmétique ; c’est à ce domaine que se rattache le théorème de Fermat. L’idée d’Euler est qu’on peut s’intéresser à d’autres types, plus généraux, de nombres entiers, et que leurs propriétés de divisibilité seront les mêmes que pour les entiers habituels. Ceux que considère Euler sont les nombres qui peuvent s’écrire, symboliquement, sous la forme a + i b √3, où i = √-1 est le nombre imaginaire des Italiens, et a, b, des nombres entiers relatifs quelconques.
Une des propriétés principales des nombres entiers est que tout nombre entier peut s’écrire comme produit de nombres premiers, et ce de manière unique. Par exemple, 12 = 2  2  3, et à l’ordre des facteurs près, on est certain qu’il n’y a pas d’autre manière d’écrire 2 comme un produit. Euler utilise, sans se poser de question, une propriété analogue pour ses nombres a + ib√3. Pas de chance : ce qui était vrai pour les entiers relatifs cesse de l’être pour les « entiers » d’Euler.

Presque un siècle plus tard, Kummer commettra la même erreur, mais il s’en rendra compte en retirant l’article défaillant avant publication. Cette erreur est quand même considérée par les historiens comme étonnante, car bien avant Kummer, Carl Friedrich Gauss, autre géant de l’histoire des mathématiques, avait bien mis en évidence que la propriété d’unicité de la décomposition en produit de nombres premiers n’allait pas de soi : dans le cas qui l’intéressait, ce qu’on appelle les entiers de Gauss, il avait pris soin de démontrer très soigneusement cette propriété. Kummer était un excellent mathématicien, il ne pouvait pas ne pas connaître les travaux de Gauss. Cela ne l’a pas empêché de se tromper. Il se rattrapera par la suite : c’est lui qui forgera les concepts permettant d’étudier, de manière systématique, les nombres entiers généralisés du type de ceux introduits par Euler.

Que l’erreur soit possible en mathématiques heurte le sens commun : si chacun admet bien que l’on puisse se tromper dans un calcul, en oubliant une retenue, par exemple, on a l’impression que ce genre d’erreur est impossible pour un professionnel soigneux. Et en effet, elle l’est. Parce que l’erreur dont nous parlons ne provient pas d’un défaut d’exécution dans une procédure plus ou moins automatique (comme les quatre opérations de notre enfance : addition, multiplication, soustraction, division). Elle provient de la difficulté des concepts forgés par les mathématiciens. Comme on l’a vu dans nos deux exemples, il est tentant pour le mathématicien qui explore ces terres inconnues de se raccrocher à ce qu’il connaît déjà, donc de procéder par analogie. Mais le risque est grand d’outrepasser les bienfaits de l’analogie comme source d’intuition. Et là, telle la panthère, l’erreur nous saisit.

Mais au fond, tout cela n’est-il pas normal ? La création demande de l’audace, et l’audace est un comportement à risques. Comme dans la création artistique, la transgression en science n’est pas nécessairement acceptée sur le champ : il y a des scientifiques en avance sur leur époque, incompris ou rejetés, qui seront sauvés par la postérité. Mais, bien souvent, l’audace aboutit à l’erreur, et la sanction de l’erreur, dans des domaines théoriques comme les mathématique, est sans appel.
Revenons aux grandes narrations par lesquelles nous avions commencé. Nous avons tenté d’inscrire les mathématiques tour à tour dans la conception héroïque et la posture critique, et constaté qu’alors ne subsistait des mathématiques qu’une image sublime, mais glacée. En montrant que l’erreur guette, il nous semble que nous permettons aux mathématiques d’en sortir grandies, plus humaines, plus accessibles. Il nous semble également qu’en les rendant plus humaines, nous contribuons à en faire un meilleur sujet d’étude pour le philosophe.

Notes de bas de page numériques

1  « [...] shall be annually distributed in the form of prizes to those who, during the preceding year, shall have conferred the greatest benefit on mankind. » Testament d'Alfred Nobel, 1895 (http://www.nobelprize.org/alfred_nobel/will/will-full.html).

2 Déclaration de la Conférence mondiale sur la science à Budapest, 1999,

3 H. Poincaré, La valeur de la science, Paris, Flammarion, 1920, p. 1.

4 Paul A. M. Dirac, « The Evolution of the Physicist's Picture of Nature », Scientific American 208, 1963, p. 53.

5 Pour une discussion sur la construction de la vérité en mathématiques, voir M. Andler, « Signes et syntaxe du langage mathématique », dans Lieux de Savoir, ouvrage collectif dirigé par Ch. Jacob, Paris, Albin Michel, 2011.

6 T. Kuhn, The Structure of Scientific Revolutions, University of Chicago Press, 1962 ; trad. fr. La structure des révolutions scientifiques, Paris, Flammarion, coll. Champs, 1983.

7 Pour un compte rendu très détaillé et accessible, on pourra consulter le texte de la conférence de J.-C. Yoccoz,« Une erreur féconde du mathématicien Henri Poincaré »,donnée dans le cadre du cycle « Un texte, un mathématicien », hors-série Tangente n°28, 2005 ; on pourra aussi consulter le texte plus approfondi de F. Béguin « Le mémoire de Poincaré pour le prix du roi Oscar : l’harmonie céleste empêtrée dans les intersections homoclines », dans L'héritage scientifique d'Henri  Poincaré, Paris, Belin, 2006.

8 Cette revue existe encore aujourd'hui, et reste l'une des plus respectées en mathématiques.

9 F. Béguin, op. cit., 2006.

10  D. Aubin & A. Dahan-Dalmedico, « Writing the History of Dynamical Systems and Chaos, Longue Durée and Revolution, Disciplines and Culture », Historia Mathematica 29,2002.

11  Cuius rei demonstationem mirabilem sane detexi hanc marginis exiguitas non caperet. On pense que Fermat avait appliqué, à tort dans ce cas, sa méthode de descente infinie qui lui avait permis de résoudre d’autres équations analogues à celle-ci.

12  Voir les détails dans l’excellent livre de vulgarisation : S. Singh, Fermat's Enigma: The Epic Quest to Solve the World's Greatest Mathematical Problem, London, Fourth Estate Ltd, 1997 ; trad. française de G. Messadié, Hachette Littératures, 1999, Fayard, 2011 [nouv. éd.], ou avec un traitement érudit :C. Goldstein, Un théorème de Fermat et ses lecteurs, Saint-Denis, Presses universitaires de Vincennes, 1995.

13  Voir sur ce point précis l'article très détaillé de H. M. Edwards, « Background of Kummers' Proof of Fermat's Last Theorem », Archives for the Hist. Exact. Sc. 14, 1975 ainsi que Goldstein, op. cit., 1995.

Pour citer cet article

Martin Andler, « La science au risque de l’erreur : le cas des mathématiques », paru dans Alliage, n°70 - Juillet 2012, La science au risque de l’erreur : le cas des mathématiques, mis en ligne le 26 septembre 2012, URL : http://revel.unice.fr/alliage/index.html?id=4062.

Auteurs

Martin Andler

Mathématicien spécialiste de théorie des représentations, il s’intéresse aussi à l’histoire des sciences. Il termine actuellement un article de recherche, en collaboration avec S. Sahi, portant sur la cohomologie équivariante. Il a publié récemment « Jean Leray », Biographical Memoirs of the Royal Society, 2006, et « Signes et syntaxe du langage mathématique », dans Lieux de Savoir, Ch. Jacob éd., Albin Michel, 2011. Il est très impliqué dans des actions de popularisation des mathématiques notamment au sein de l’association Animath.