Comment devient‑on chercheur en mathématiques ? Qu’est‑ce qui anime la recherche?

Pour tenter une réponse, très partielle, et qui ne soit pas la seule mienne, j’ai interviewé certains de mes collègues ayant contribué, par des travaux importants, à l’avancement des mathématiques, et ayant donc une expérience indiscutable de la découverte.

Une activité humaine

Ce sont des êtres humains, hommes et femmes, assez peu de femmes, il faut le dire, qui résolvent des questions et créent des mathématiques nouvelles. Il n’y a pas, contrairement à l’image caricaturale, de stéréotype du chercheur en maths : il y a bien quelques mathématiciens ayant l’aspect “savant fou”, mais il y a tout aussi bien des introvertis tournés vers leur monde intérieur, des exubérants passionnés par ce qui se passe dans le monde, il y a des formes d’intelligence très variées, des gens rapides, brillants, avec une culture mathématique large, d’autres lents, profonds, intéressés pendant toute leur vie par une seule question. Le monde mathématique est très vaste. L’algèbre, l’analyse, la géométrie se redivisent. Être chercheur, c’est apprendre à trouver sa place dans ce monde mathématique. Il y a beaucoup de place, des mathématiques très différentes, des filons à exploiter, de nouveaux domaines à créer. Certains sujets plaisent à certains, d’autres sujets à d’autres. Pour chacun, la connaissance du monde mathématique reste fragmentaire. C’est décevant, mais c’est aussi pour cela que chacun y a sa place. Personne ne totalise la somme des connaissances mathématiques.

Comment devient‑on chercheur ?

Les itinéraires qui amènent à la recherche sont variés, certains en ligne droite, d’autres en zig‑zags. Les professeurs rencontrés dans le secondaire ont souvent une grande importance, mais aussi parfois un ou une camarade, un livre, un proche. Il y a des parcours sans obstacles. Garçons ou filles qui, tout bambins, aiment l’école, au lycée sont bons en mathématiques, réussissent brillamment le concours d’entrée à l’École normale supérieure ou à l’École polytechnique. Pour certains, le lycée, les grandes écoles ont été des lieux stimulants, permettant les contacts avec des professeurs bienveillants envers eux. Puis un directeur de recherches les a bien encadrés, l’initiation à la recherche est réussie et immédiatement suivie d’un départ pour de grandes idées.
« Cela s’est très bien passé. Le professeur de mathématiques spéciales était formidable. Il y avait une ambiance meilleure au lycée Louis‑Le­Grand à Paris, plus conviviale qu’au lycée dont je venais. »
Mais ces parcours en ligne droite sont assez rares. Certains n’avaient pas de vocation pour la recherche en mathématiques, hésitaient à choisir entre maths, physique, informatique, ou même langues orientales, philosophie, etc. C’est un engrenage social ou des hasards qui les ont conduits à faire de la recherche en mathématiques. D’autres le désiraient, mais ils n’ont trouvé leur voie qu’après des hésitations ou des difficultés. Certains ont détesté les classes préparatoires, les concours ou les grandes écoles. Ils ont fait leurs études à la faculté, et ont eu un déclic plus tard. À un moment, ils se sont dit : « Faire de la recherche dans tel sujet, cela me plâît. »

 « J’étais bon en maths au lycée, mais j’avais des résultats scolaires très irréguliers et très variables suivant les professeurs. J’ai eu mon bac avec mention passable. J’ai fait une classe de math sup, et on a jugé que je n’étais pas assez bon pour faire math spé. Je suis allé à la fac. J’ai été collé en juin au Deug, j’ai dû le repasser en septembre. En licence à la fac, dans certaines matières j’étais très bon, le premier. Mais comme je n’étais pas élève de l’École normale supérieure, je n’étais soutenu ni dirigé par personne. Les seuls conseils que j’aie jamais reçus, c’est d’arrêter. Sauf un ami de mes parents, physicien, qui m’a toujours soutenu. »

 « Le professeur de mathématiques au lycée de Bamako était merveilleux. Mais la vie, c’était la plage. Ma mère me suggérait d’être hôtesse de l’air. Sur le conseil du professeur, je suis cependant partie en classe prépa en France, mais je n’arrivais pas à accrocher. Finalement, je suis allée à la fac. C’était le bonheur, après deux années de torture. Là, j’avais une copine qui voulait faire de la recherche. Comment pouvait-­elle oser ? Croire qu’on peut résoudre des problèmes, je n’aurais jamais osé. À sa suite, je me suis aussi décidée : c’était un monde magnifique qui s’ouvrait. »

Même pour les plus brillants des élèves des classes préparatoires, l’arrivée dans le monde de la recherche, c’est l’arrivée dans un autre monde, où les critères de réussite ne sont plus les mêmes. Pour presque tous, il y a eu une rupture entre le monde du lycée et le monde de la recherche.

 « À l’arrivée à l’École normale supérieure, on arrive en se sentant sûr de soi, on croit qu’on sait tout. Mais c’est le premier contact avec des mathématiques très différentes, on découvre des domaines entiers sur lesquels il faut repartir de zéro. »

Le monde de la recherche, c’est un monde où on est, au début, profondément remis en question. Jusqu’alors, il était possible de tout comprendre, et cela n’est plus possible. C’est angoissant, car beaucoup aimaient les mathématiques justement pour ce sentiment de sécurité. Il ne s’agit plus de trouver le plus vite possible une solution à un long problème d’examen pour lequel l’examinateur connaît la solution. Le directeur de recherches commence en général par donner un problème et une idée du chemin qu’il faut prendre, mais il n’est pas allé jusqu’au bout de ce chemin lui‑même. Il s’agit d’apporter une amélioration nou­velle aux résultats existants. Ce n’est pas si facile, cela demande sans doute de l’intelligence et des connaissances, mais cela fait appel à beaucoup d’autres qualités contradictoires, que souvent on ne nous a pas appris à exercer. De la patience, à la fois de l’ambition et de l’humilité, pouvoir s’obstiner sur une méthode et pouvoir changer de méthode, de l’indépendance, de l’imagination.

Pour se sentir capable de faire de la recherche, cela demande en général un soutien.
« À l’École polylechnique, mon ambition restait très scolaire. Il a fallu que Schwartz discute avec moi pour me convaincre que j’étais capable de faire de la recherche. »

Ce soutien n’est pas forcément là.
« Le professeur nous avait donné un problème pendant le cours : améliorer une constante. Je lui ai montré en février ce que j’avais fait. Il m’a dit que ce n’était pas suffisant, que ce sujet n’était peut‑être pas un sujet pour normaliennes (filles) ; cela m’a émoustillée. En juin, je lui avais sensiblement amélioré sa constante. »

« Je voyais mon professeur une fois toutes les semaines à la bibliothèque de l’institut Henri-Poincaré. Il me demandait : “vous avez des questions à me poser”, je répondais “non”, l’entretien avait duré cinq minutes. J’avais mon sujet, sur lequel je travaillais seule. Il fallait que je résolve cette question seule. »

D’autres commencent par travailler dans une voie ou avec un groupe qui ne leur plaît pas :
« J’ai perdu dix ans de ma vie à faire des conneries. Il y a des sectes qui regardent le même sujet éternellement. Leurs membres s’invitent réciproquement, tiennent des congrès, écrivent des articles, se citent les uns et les autres, mais c’est une farce complète. »

« J’ai fait une thèse. J’avais l’impression d’avoir butiné des petits bouts d’arguments à droite et à gauche. Je n’avais pas appris grand chose. »

Dans tous les cas, bons souvenirs ou non, le patron de recherches est un personnage important dans la carrière des chercheurs. Le monde des mathématiques est un monde très vaste, où l’on a besoin d’un guide. Pourquoi ne peut‑on tout seul s’attaquer à une question très simple (comme le problème de Fermat) ? Il y a une sorte de paradoxe. Il est beaucoup plus facile de démontrer une question difficile qu’une question facile. Il faut d’ailleurs commencer par comprendre la question posée. On commence, en général, par lire un article et tenter de l’améliorer. Je cite un jeune chercheur :
« Mon directeur de recherches m’avait donné un article de X (un insigne mathématicien) à lire. Pour le début, j’ai fait une généralisation facile. Puis j’ai eu une idée d’un résultat moins facile. Ma preuve était d’abord fausse, mais tout de même, cela s’est arrangé. Je croyais que la recherche, c’était de faire des choses entièrement nouvelles. Ici, mon travail n’était pas nouveau, il se raccrochait à celui de X. Je ne savais pas ce que X penserait de voir quelqu’un s’intéresser à des questions si proches de celles qu’il avait étudiées. Mais maintenant, je comprends que c’est cela, la recherche. »

Les relations entre directeur et jeune chercheur ne sont pas toujours simples.
« Nous étions drogués aux mathématiques. Il y a eu une crise avec lui. Il ne m’a plus soutenu. Je me suis peu à peu délivré de lui. Je me suis impliqué dans la politique universitaire. Paradoxalement, ces occupations politiques ont stimulé ma recherche. »

Mais beaucoup ont reçu un soutien sans failles.
« J’ai entrepris une thèse avec mon patron. C’est un formidable générateur d’idées. Au début, c’était un peu le découragement. Il ne se passait rien de constructif. Mais il y a eu un déclic, je me suis posé des questions. En un mois, j’ai compris comment prouver ce résultat. J’avais plein d’idées en tête. C’est la première fois que je me suis ressenti comme un mathématicien. »

L’identité personnelle ?

Il y a une filiation, un lien affectif très important entre le directeur de recherches et ses étudiants. Pour toute question, pour la comprendre et comprendre ce que les autres mathématiciens ont fait sur ce sujet, il faut souvent un apprentissage technique assez considérable. Après cette période d’apprentissage, on acquiert un très fort attachement mental à la fois à des questions et à des techniques. Puis d’autres questions se posent naturellement à la suite de celles que l’on résout. Une liberté se développe, ou peut‑être, ce sont les questions elles‑mêmes qui entraînent.
« Je m’apercois a posteriori que j’ai eu une idée, dont je ne voyais pas bien l’importance, et qui a grossi et produit quelque chose. Puis je pense toujours que je n’aurais plus jamais aucune idée, que c’est derrière moi, que j’ai atteint le bout de la théorie, que c’est fini. C’est un sentiment faux. Rien n’est jamais fini, ce qu’on croyait définitif ne l’est pas. Il y a un mouvement des idées. »

Il est en général possible, avec plus ou moins d’efforts, pour un chercheur expérimenté de comprendre l’énoncé des questions qui se posent dans tous les domaines des mathématiques. Mais très souvent, les techniques pour répondre à ces questions ne peuvent être comprises que par un petit nombre. Il y a une très grande spécialisation. On ne cherche pas tout seul, mais il y a en général très peu de mathématiciens au monde qui peuvent apprécier la difficulté de ce qu’on a fait. On poursuit donc des conversations ésotériques entre spécialistes d’un même thème, et ceci n’a de sens qu’au niveau international. Le courrier électronique joue maintenant un grand rôle, il s’agit en effet d’être sûr d’avoir trouvé quelque chose que personne d’autre au monde n’avait découvert.
« Dans ma thèse, j’ai étudié une conjecture formulée en 1980 par deux mathématiciens. Cette conjecture est devenue assez populaire, c’est-à‑dire auprès de quelques centaines de mathématiciens dans le monde, car elle relie plusieurs domaines des mathématiques. J’ai démontré quelques nouveaux cas de cette conjecture, mais le plus important était que la méthode de démonstration était en partie nouvelle. Mais j’ai ouvert plus de questions que je n’en ai résolu ! Je n’ai que trois ou quatre collègues dans le monde qui s’intéressent techniquement aux mêmes questions que moi. Comme nous mettons en œuvre des méthodes un peu différentes, nous ne sommes pratiquement pas en concurrence, bien que nous communiquions entre nous. »

Un mathématicien formule une conjecture lorsqu’il a la conviction que quelque chose d’intéressant est vrai, mais qu’il ne sait pas comment le démontrer. Pour ne pas être ridicule lorsqu’on pose une conjecture, il faut que cette conjecture ne soit ni évidemment fausse, ni évidemment vraie. Il faut aussi qu’elle retienne l’attention. Si votre conjecture passe inaperçue, c’est très décevant. Il y donc quelques risques à publier des conjectures. Alors, en général, avant de publier une conjecture, on a démontré des cas particuliers suffisamment difficiles de ces conjectures. On n’arrive pas à démontrer le cas général, mais on espère intéresser les autres à ce problème, tout en marquant son territoire.

L’émergence des idées ?

En général, les idées s’enchaînent, ou sont suscitées en discutant, en lisant, en parlant avec d’autres mathématiciens. On ne pense pas tout seul. On lit, on assiste à des exposés, on enchaîne sur d’autres idées, on trouve une erreur chez les autres, qu’on peut réparer.
« Je lis, on doit tout savoir sur son domaine. Lire des articles me donne souvent des idées. »

« J’ai fait mon service militaire. J’ai travaillé dans un service d’acoustique sous‑marine. On est dans la zone d’ombre, l’objet émetteur est derrière un obstacle, mais il faut tout de même se rendre compte de la taille de l’objet émetteur et de l’intensité de l’émission d’éclairage. Il y avait une formule empirique donnée par les physiciens dans la seconde guerre mondiale. Cette formule empirique était démontrée entre guillemets par l’école russe. Mais leur démonstration était peu sérieuse. J’ai montré que ce n’était vrai que dans le cas analytique et que c’était faux en général. »

Joies et difficultés

Trouver est une grande joie.
« L’idée vient d’un seul coup. La plupart du temps, l’idée ne vient pas. Pendant quatre vingt-dix pour cent du temps, c’est une période de maturation. On ne fait pas beaucoup de choses. Puis j’ai une idée, il n’y a pas besoin de faire de calculs. De toute façon, les exemples sont trop compliqués ou trop faciles. Je peux avoir une idée juste, mais dont la preuve est fausse. Je crois que certaines choses sont évidentes, mais elles ne le sont pas. C’est la joie absolue, lorsqu’on trouve quelque chose. »

« J’ai travaillé trois ans sur ce problème. J’étais très content, dès que j’ai su que cela allait marcher. Le problème avait une histoire, il y avait eu des démonstrations fausses, et je savais que si je démontrais quelque chose sur ce sujet, j’allais être remarqué. J’ai donc été très content de démontrer ce résultat. »

« Cette idée m’est venue en sortant de faire mon cours de dea. C’était l’euphorie. J’avais réfléchi aux deux possibilités. Était‑ce vrai ? était‑ce faux ? Oui, finalement, c’était vrai, c’était le gros lot. Mais ça aurait pu être faux, c’était un coup de chance. C’est un résultat qui a immédiatement été reconnu et salué. »

« Après avoir été très malade, j’ai commencé seule à faire quelque chose sur un sujet nouveau. Avant ma maladie, j’étais inhibée par un sentiment d’être nulle. J’ai émergé après ma maladie. J’ai commencé à créer un sujet seule, puis on m’a suivie. Mais j’ai encore une certaine avance. C’est très confortable. »

« Un beau jour, j’ai vu une construction géométrique très simple. Puis tout s’est débloqué, cela coulait tout seul avec une grande facilité. »

« J’avais eu une idée, sur un modèle très simple. Je me souviens qu’il fallait vérifier dix-sept propriétés de ce modèle. La vérification m’a pris deux mois. Chaque jour, c’était un plaisir immense, une propriété de plus marchait, mais c’était l’angoisse du lendemain. Cela m’excitait beaucoup. »

Le rapport avec “son” problème et “ses” méthodes est un rapport affectif très fort.
« Je passe difficilement de l’état actif à l’état inactif. Le soir, je n’arrive pas à décrocher. »

« Il y a le petit univers sur lequel on cherche, son problème auquel on pense le jour et la nuit, dont l’importance est très grande pour soi. Ce n’est pas facile d’avoir son problème, mais une fois qu’on a son problème, il faut s’en occuper, comme si l’on s’occupait de quelqu’un. L’impression d’être un scarabée occupé avec la boule toute ronde qu’il a fabriquée. On est obstiné, obsédé par son problème. Tout le reste devient fade et sans intérêt. C’est jubilatoire, quand on est obsédé et que cela marche, que cela avance. »

Mais la recherche n’est pas toujours fructueuse. On supporte longtemps l’échec. On sait par expérience que parfois, l’entêtement amène au succès.
« On est quatre vingt-dix-neuf pour cent du temps en situation d’échec. En effet, on ne produit pas beaucoup de résultats. On travaille toujours à la limite de ses possibilités — je cherche, je laisse tomber, je suis désespéré. Mais le lendemain matin, j’essaie encore quelque chose, mais cela ne marche pas, je n’ai pas plus de succès, il faut abandonner — le lendemain, je me donne encore une dernière chance. Et peut‑être, à la fin, je trouve quelque chose. »

Parfois, on finit par abandonner, avec un fort sentiment d’échec.
« Je voulais comprendre tous les états possibles à atteindre par ce système. J’ai passé trois ans à chercher ce qui se passait. J’ai entraîné un élève à ma suite. Mais ce problème est trop difficile, je veux dire, ce problème est trop difficile pour moi. »

« J’ai travaillé pendant toute une période pour prouver quelque chose, je croyais y arriver, il ne restait qu’un lemme à démontrer. Le soir, je me mets dans ma cuisine, je réfléchis avec un crayon et du papier, et je crois que ça y est. Je me mets à rédiger de longues pages, mais dans la semaine qui suit, je vois qu’il y a un trou. Il faut une idée de plus. Je voulais montrer que par mes méthodes, j’obtiens strictement plus que les autres, mais ce n’est peut‑être pas possible. »

On est mis au défi personnellement. Si l’on ne résout pas ce problème qui vous obsède, on est complètement remis en question. Tout ce qu’on avait fait de bien auparavant ne vaut rien. L’acquis antérieur apparaît vain.

La motivation ?

J’ai essayé de donner une idée des moments d’euphorie ou de lassitude du chercheur. Plus durablement, quelles sont les motivations de la recherche ?

« D’exister, de laisser une petite trace dans le monde des idées. »

« Une grande satisfaction pour moi est d’avoir à manier des objets particulièrement beaux. »

« On fait de la recherche pour savoir qui on est. On s’affronte à un univers qui vous résiste. »

« C’est excitant de créer quelque chose de nouveau. »

Pourtant, il me semble que la beauté des mathématiques, des paysages découverts, ne suffit pas à la félicité du chercheur. Il faut aussi être le premier à les découvrir. Pour les chercheurs, jouir de l’estime de la profession est important. De plus, on se juge soi‑même peut‑être encore plus sévèrement que les instances d’évaluation. Ou plutôt, l’estimation que le chercheur fait de ses capacités oscille, monte, lors d’un processus de découverte, puis retombe, parfois très bas.

« C’est très agréable de savoir qu’on a fait progresser des connaissances. Mais il faut mériter la reconnaissance des autres. Il faut continuer à se montrer à la hauteur de ce qu’on attend de vous. »

« J’ai très peu de contraintes, mais je travaille beaucoup. Ce sont des contraintes morales qui me poussent à travailler. Si je ne faisais plus rien, je serais méprisé. Aussi, je veux avoir une bonne image de moi‑même. Les mathématiques sont une partie importante de moi­même. Si je ne faisais pas de mathématiques, je sacrifierais une partie importante de moi‑même. »

« Lorsque je cherche et que je trouve quelque chose, je suis très contente, fière de moi. Lorsque tout est fini, je me dis : “cela n’était pas si difficile et je n’ai plus envie d’en parler”. Je ne me vois pas en train de dire : “il y a quatre mois, j’ai fait quelque chose de formidable”. Il me faut continuer à travailler. »

« J’avais démontré un très beau résultat. J’ai raconté cela en public, mais un collègue m’a dit que c’était connu et publié depuis longtemps. C’était un choc. J’ai voulu relever le défi. J’ai cherché une généralisation J’ai alors fait un truc considéré comme très original. »

« Sans nul doute, je trouve un grand plaisir, toujours intact et frais, dans le travail de recherche : une fierté un peu enfantine de mon importance personnelle, la satisfaction de voir enfin clairement la solution d’un problème qui se retrouve facile à saisir après de longs zigzags inutiles. Il y a de la souffrance, toujours renouvelée elle aussi : se sentir minable devant l’infini savoir‑faire des autres, défaite devant le peu atteint. La persistance de ces deux sentiments contradictoires me pousse à travailler. »

ill :

Benet Rossel, Imaginaire marée minuscule (fragment), 1983.

Ce texte est extrait d’une conférence donnée au lycée de L’Isle-Adam, Val d’Oise, le 6 mai 1999.