La création en mathématiques, voilà un thème bien mystérieux. Pourquoi invente-t'on de nouvelles mathématiques, comment se déclenche le processus, qui crée de nouvelles mathé-matiques ? Autant de questions auxquelles il n'est pas question de répondre en quelques lignes d'autant plus que certains aspects de la question sont rien moins qu'élucidés.

Pour cadrer quelque peu notre propos nous nous placerons sous trois angles différents : l'enfant, l'étudiant et le chercheur et regarderons plutôt le comment que le pourquoi.

Vers 1950 Jean Piaget et ses collaborateurs genevois mirent en place dans une série d'expériences célèbres  la démarche psycho-génétique au cours desquelles furent montré que les notions élémentaires des mathématiques se mettaient en place petit à petit avec le développement des capacités opératoires des enfants ; trois types de structures élémentaires irréductibles les unes aux autres apparaissent alors :

* structures portant sur des objets manipulés essentiellement par des opérations inversibles (je déplace ce cube de droite à gauche donc je peux le ramener à sa place en effectuant le même déplacement de gauche à droite) ;

* structures portant sur des relations entre les objets : relations d'ordre, d'égalité puis d'addition voire de soustraction ;

* structures topologiques : partition, regroupements, voisinages, passage à la limite, et d'une manière générale tout ce qui a trait à notre perception de l'espace.

Par exemple la « création » des nombres naturels se fait à partir des trois structures en une succession de combinaisons liées à l'âge et au développement de l'enfant. La difficulté pour le psychologue consiste alors à déméler la part due à chacune de ces structures et à en tirer une analyse des expériences réalisées [1].

Les travaux de Piaget ont été à l'origine de l'une des entreprises les plus risquées de toute l'histoire des mathématiques : comme la notion de structure est à la base de tout faisons découvrir aux enfants les principales structures (comme les groupes en Algèbre), une fois les formes mises en place les différents objets viendront remplir les cases vides et on pourra réutiliser les structures dans diverses situations : à partir du groupe additif de  on pourra parler du groupe des translations ou de celui des rotations, etc.

A posteriori la réforme des « maths modernes » ne semble pas avoir atteint son objectif principal qui était de donner un substrat plus conséquent à la réflexion logico-mathématique et de sortir de la sempiternelle question « à quoi ça sert » ; il est clair que cette réforme, relativement brutale dans sa mise en ouvre, a mis en péril l'enseignement des mathématiques pour de nombreuses années et il est possible que la désaffection actuelle pour les études scientifiques en soit une conséquence indirecte.

Revenons sur le fond de  la question : on voit chez l'enfant dès le plus jeune âge (contraire-ment aux affirmations de Piaget) apparaître des comportements spontanés dans  la mathématisation de son univers : entre 4 et 8 mois un bébé fait la différence entre les nombres 1, 2 et 3 et sait différencier les trajectoires d'objets dans l'espace, par contre il ne fait pas la différence entre les formes même de couleurs différentes [2]. On retrouve ces capacités brutes chez l'animal et on peut penser qu'elles font partie du patrimoine génétique ; ceci apparaît clairement dans la numération : les nombres 1, 2 et 3 ont un statut bien particulier aussi bien dans leurs noms que dans leur écriture [3]. Le passage à des valeurs supérieures de la numération se fait entre 6 et 8 ans, période où se produit un phénomène inexpliqué : si nous réflechissons à notre manière de compter il est clair que nous ne fonctionnons pas comme des calculatrices (sinon nous pourrions faire des extractions de racine ou autres opérations élaborées) mais plutôt comme des balances ; nous nous faisons une représentation spatiale des nombres à ajouter et nous les pesons afin d'en évaluer la somme ou la différence : on a par exemple mesuré que le temps de réponse pour ajouter deux nombres était inversement proportionnel au carré de leur différence, exactement comme dans une balance. Ceci montre bien que l'opération multiplication sera beaucoup plus difficile à réaliser et nécessitera un apprentissage très lourd.

Quel est le rapport avec la création ? D'après ce que nous venons de dire il n'y a rien de moins naturel dans notre démarche que le nombre et seule notre confiance dans l'espace avec sa permanence et son organisation peuvent nous suggérer une démarche créatrice dans ce domaine ; historiquement c'est bien ce qui s'est passé avec les Grecs de l'époque classique et même si les Pythagoriciens mettaient le nombre avant toutes choses c'est la géométrie qui a pris le dessus et fut le facteur principal de la mathématisation de notre espace.

Quand on sort des mathématiques élémentaires on entre dans celui du symbolisme : vers 13-14 ans on commence à apprendre à se servir de lettres à la place de nombres, d'équations, de relations conceptuelles d'un autre niveau ; les enfants qui n'arrivent pas à franchir cette étape sont « éliminés » du parcours scolaire normal. Ce symbolisme est essentiellement verbal, les parties du cerveau mises en jeu ne sont plus les mêmes, on entre dans le domaine des idées.

Une activité importante de l'adolescent (voire de l'adulte) est le jeu : combien accrochent aux concours de mathématiques, aux activités ludiques que peut fournir la technologie moderne et tout enseignant le sait bien. Le jeu a depuis de nombreuses années été reconnu comme une des méthodes d'apprentissage les plus efficaces quelque soit l'âge de l'apprenant et on ne peut l'oblitérer d'un coup, surtout lorsqu'il s'agit d'adolescents.

Voici ce que dit J. Dieudonné à ce propos : « j'ai eu des enfants et des petits-enfants, et je vois les gosses passer leur temps à vous poser des devinettes, à exercer leur sagacité et leur curiosité [.]. C'est un fait universel qu'on observe dans tous les pays et à toutes les époques : il y a une espèce de curiosité innée et naturelle de l'être humain à résoudre des devinettes. Ne cherchez pas plus loin, les neuf dixièmes des mathématiques, en dehors de celles qui ont été suscitées par des  besoins pratiques, sont des résolutions de devinettes [4]. »

Sous la plume d'un des fondateurs de Bourbaki cette phrase ne manque pas de sel.

Tout ceci fait que l'attitude du futur mathématicien, et du scientifique en général, va se préciser dans ces années de formation initiale ; sa pensée va s'élaborer progressivement, ses centres d'intérêt se préciser et si, par chance, il rencontre un enseignant capable de lui montrer les beautés de telle discipline et éveiller sa curiosité il peut trouver sa voie. Les exemples sont nombreux et les plus grands ont expliqué ce qu'ils devaient à leurs maîtres de Lycée ou de Prépa [5], [6].

La difficulté en mathématiques (et souvent en physique) de ce point de vue tient à différents facteurs : angoisse de la réussite et difficultés méthodologiques sont souvent des pierres d'achoppement ; les programmes en sont souvent la cause : au nom du sacro-saint respect du niveau (notion bien subjective.) les programmes des classes scientifiques sont lourds et orientés dans un sens bien spécifique : pas ou peu de temps pour la géométrie, beaucoup de calcul, quelques mathématiques appliquées, bref un programme chargé et finalement peu de temps pour développer les à-côté, le jeu, la créativité de l'individu. La situation est pire en Prépa où les programmes sont ahurissants et où les élèves sont plus jugés sur leur capacité à reproduire le discours officiel que sur leur imagination ou leur capacité de réflexion.

Invention. Il semble au premier abord qu'elle n'ait pas de place dans les mathématiques, où les vérités se déduisent toutes les unes des autres. Mais la géométrie telle qu'on l'enseigne n'est pas la géométrie telle que la fait le savant. Le théorème une fois trouvé, on le démontre en le rattachant à un autre déjà démontré; mais il faut d'abord le trouver, et la démonstration suppose ainsi l'invention. Mais d'où nous vient la faculté d'inventer? De l'imagination. Ce sont les hommes qui en sont doués qui inventent: les autres ont pour tout rôle de comprendre et de développer leurs inventions. Il n'y a pas de règle fixe pour l'emploi de l'imagination; une seule s'impose à l'inventeur: soumettre sa proposition découverte à une vérification rigoureuse.  Emile Durkheim (1884).

Reprenons une phrase de J. Dieudonné : « Tous les grands mathématiciens qui ont parlé de leurs travaux se sont toujours plus à insister sur le rôle qu'y joue ce qu'ils appellent généralement leur intuition. [.] il faut évidemment renoncer à prendre le mot intuition au sens qu'on lui donne d'ordinaire. La difficulté est que ce que le mathématicien appelle intuition est pour lui une expérience psychologique tout à fait personnelle, à peu près incommunicable et il y a tout lieu de croire que les intuitions de deux mathématiciens sont le plus souvent très différentes [7]. »

Ca commence bien ! Heureusement il précise un peu par la suite :

« En premier lieu, quand on commence à s'intéresser à une théorie qu'on ne connaissait pas avant, on n'en a aucune intuition, [.]. On se pose des questions que plus tard on estimera stupides, et on est incapable de faire par soi-même des raisonnements semblables à ceux que l'on lit. »

Signalons qu'un des plus grands mathématiciens français, Henri Poincaré, lorsqu'il découvrait dans un ouvrage des notions nouvelles refaisait toutes les démonstrations à sa manière, c'est à dire sans forcément suivre celles de l'ouvrage qu'il lisait, et ceci afin de s'imprégner complètement de ces idées.

Continuons notre lecture de Dieudonné : « Puis si l'on s'obstine, peu à peu le voile se lève ; on commence à comprendre pourquoi les mathématiciens qui ont contribué à la théorie ont procédé d'une certaine manière plutôt qu'une autre. Les objets de la théorie deviennent familiers [.]. C'est à ce moment qu'on peut avoir la chance d'apercevoir un nouveau théorème ou une nouvelle méthode. »

Visiblement les maîtres mots sont pourquoi et comprendre : pour quelles raisons a-t-on pris telle direction et pas telle autre et il faut ressentir profondément ce sur quoi on travaille. Tout ceci suppose une culture suffisante du sujet ; prenons un exemple simple : les principales notions algébriques sont issues en grande partie de questions de géométrie ou de théorie des nombres ; parler de produit extérieur et de déterminant (produit vectoriel) ou même de produit scalaire sans même avoir la plus petite idée de ce qu'est un volume ou la projection d'un vecteur sur un autre n'a évidemment aucune signification pour le lecteur et pourtant c'est ainsi que ces notions ont été enseignées (voire le sont encore de nos jours). De même connaître les motivations des savants qui se sont penchés sur telle ou telle question ne peut qu'aider à la compréhension des théories plus modernes : pour reprendre l'exemple précédent le produit vectoriel a été inventé par Ampère et Maxwell afin de représenter les phénomènes électromagnétiques ; cette notion a débouché par exemple sur la théorie des formes différentielles qui est quasiment incompréhensible sans arrière-plan concret.

Mettons que l'on se soit bien approprié un sujet, que l'on aperçoive un problème non résolu et que l'on décide de s'y attaquer, que se passe-t-il alors ? Pour Alain Connes [8] il ne faut surtout pas le prendre de front : on regarde la situation sous toutes ses coutures, on tente quelques essais (légers) dans une direction qui semble plus prometteuse qu'une autre, éventuellement on tente une attaque frontale, bref on s'imprègne du problème. Celui-ci résiste en général à ces stratégies ; il faut alors le laisser tomber et faire autre chose : quelque chose en relation ou pas avec le sujet, en tout cas rien ne sert de tourner obsessionnellement autour et de ne penser qu'à ça. Puis, petit à petit des idées, souvent inconscientes, commencent à prendre forme, des analogies avec des situations connues commencent à apparaître, de nouvelles stratégies sont testées.

Henri Poincaré raconte ainsi sa découverte des fonctions fuchsiennes [9] (fonctions automorphes) : « [.] tous les jours je m'asseyais à ma table de travail, j'y passais une heur ou deux, j'essayais un grand nombre de combinaisons et je n'arrivais à aucun résultat. Un soir, je pris du café noir, contrairement à mon habitude, je ne pus m'endormir : les idées surgissaient en foule ; je les sentais comme se heurter, jusqu'à ce que deux d'entre elles s'accrochasent, pour ainsi dire, pour former une combinaison stable. Le matin, j'avais établi l'existence d'une classe de fonctions fuchsiennes, [.] je n'eus plus qu'à rédiger les résultats, ce qui ne me prit que quelques heures. »

Donc le problème mûrit plus ou moins de lui-même dans l'inconscient du mathématicien jusqu'à ce qu'une solution apparaisse : ça semble enfantin ! Pour préciser un peu plus on peut citer Jacques Hadamard qui décrit sa propre méthode [10] : tout d'abord un travail préparatoire, qui comporte des essais et des erreurs, celles là mêmes que l'on oublie de mentionner par la suite, puis se font jour des tentatives de gouverner l'inconscient, enfin se produit l'illumination. Il insiste également sur l'imagerie mentale qui permet de faire travailler l'inconscient.

Ce terme de gouverner l'inconscient est intéressant et on peut se demander ce qui se cache dessous : notre esprit fonctionne très souvent par analogie et en face d'une situation nouvelle il va chercher dans sa mémoire si une situation semblable ne se serait pas déjà produite ; si c'est le cas la solution donnée la fois précédente pourra servir de fil directeur à la résolution de la situation actuelle. Le nombre de situations mathématiques que l'on peut rencontrer n'est finalement pas si grand que l'on n'ait jamais rencontré son analogue et si c'était le cas il faudrait faire un grand effort d'invention. On comprend mieux à partir de ce constat ce qui fait la différence entre diverses variétés de mathématiciens : des gens comme Fermat, Newton, Euler, Gauss, Riemann, Poincaré sont des inventeurs dans le sens où ils sont capables de dépasser la représentation mentale par analogie, où ils peuvent faire preuve d'imagination et inventer des concepts entièrement nouveaux ; ces gens sont peu nombreux finalement et même si la mise en forme de leurs travaux a souvent laissé à désirer leur apport à la connaissance est incomparable.

En fait l'analogie est ce que Pascal appelait l'esprit de géométrie : même si les objets sur lesquels on travaille semblent particulièrement abstraits, si on arrive à les traiter comme des objets géométriques, en tout cas au niveau du vocabulaire, le support mental sera alors infiniment plus sûr et efficace. Par exemple le difficile problème de Dirichlet s'interprète comme la généralisation dans un espace de Hilbert approprié de la projection orthogonale sur une droite ou sur un plan : les points sont des fonctions et l'orthogonalité est un calcul d'intégrales. Avoir cet esprit de géométrie permet alors de visualiser le phénomène, même s'il porte sur des objets dont l'apparence géométrique est bien pauvre.

Terminons avec l'intendance : que se passe-t-il après l'illumination ? Pour Alain Connes [8] : « Le processus de vérification est très douloureux, parce qu'on a peur de s'être trompé. C'est en fait la phase la plus angoissante, parce qu'on ne sait jamais si son intuition est juste. »

Que celui qui ne s'est jamais trompé lui jette la première pierre ! Pour reprendre l'exemple de Poincaré, il trouvait ça tellement rasoir et était tellement sûr de son intuition qu'il laissait à d'autres le soin de mettre ses idées lumineuses au propre (ça lui a d'ailleurs joué quelques tours et il a été obligé de rembourser certaines publications hâtives.).

Finalement un certain nombre de conditions semblent devoir être réunies pour faire un mathématicien de valeur 

* une capacité à traduire le langage symbolique en langage « géométrique »

* une culture étendue et un savoir conséquent,

* une imagination suffisante pour pouvoir sortir des sentiers battus 

* être joueur.

Claude-Paul Bruter résume ainsi la situation [11] : « [.] pourquoi tous les enfants méritent-ils de recevoir un véritable enseignement de mathématique, [.] structuration de l'esprit, entraînement aux formes diverses du raisonnement qui aident à reconstruire l'enchaînement des causalités du monde physique, entretien de la mémoire, des facultés d'attention et de persévérance, développement de l'intuition spatiale et des capacités de représentation, d'analyse, de synthèse, d'imagination. Du point de vue de la formation de l'esprit, l'avantage des mathématiques reste inégalé, car aucune autre discipline ne permet d'atteindre autant d'objectifs avec autant de pugnacité, de densité, de rapidité. »

 

Bibliographie

[1] Jean Piaget et al., Logique et connaissance scientifique, La Pléiade, 1967

[2] Stanislas Dehaene, La bosse des maths, Odile Jacob, 1997

[3] Georges Ifrah, Histoire universelle des chiffres, Laffont, 1981

[4] Jean Dieudonné et al., Penser les mathématiques, Points Science, 1982

[5] Laurent Schwartz, Un mathématicien aux prises avec le siècle, Odile Jacob, 1997

[6] André Weil, Souvenirs d'apprentissage, Birkhaüser, 1991

[7] Jean Dieudonné, Pour l'honneur de l'esprit humain, Hachette, 1987

[8] Alain Connes et Jean-Pierre Changeux, Matière à Penser, Odile Jacob, 2000

[9] Henri Poincaré, Science et Méthode, Ed. Kimé, 1999

[10] Jacques Hadamard, Essai sur la psychologie de l'invention dans le domaine mathématique, Gautier-Villars, 1952 (réed. J. Gabay)

[11] Claude-Paul Bruter, Comprendre les mathématiques, Odile Jacob, 1996