La référence à l’espace et au temps dans le fondement des mathématiques

Pierre Cassou-Noguès

CNRS, UMR 8519 Savoirs et textes

 

Mon but serait d’examiner le rôle de l’espace et du temps dans le fondement des mathématiques. Si l’on considère les preuves, les démonstrations, comme les actes d’un sujet,  on dira qu’elles se déploient dans le temps, si elles sont pensées, et dans l’espace, si elles sont écrites. L’inscription dans l’espace et dans le temps devient un fondement pour les preuves mathématiques mais, du même coup, leur impose des restrictions. C’est cette double fonction de l’inscription dans l’espace et dans le temps, fondement et restriction, que je voudrais examiner. En fait, j’interrogerai la référence à l’espace et au temps pour l’essentiel dans la controverse, tout au long des années 20, entre le formalisme et l’intuitionisme, et je ne ferai que poser la question d’une telle référence dans la logique contemporaine.

Je commencerai par rappeler la position de Kant, qui, on le sait, appuie les jugements mathématiques sur l’intuition de l’espace et du temps et qui restera un point de repère dans les discussions sur le problème des fondements. C’est l’analyse des solutions de Brouwer et de Hilbert qui constituera le centre de mon exposé. Dans une dernière partie, de conclusion, je tenterai de reconstituer la critique que fait Cavaillès de la référence à l’espace et au temps dans le formalisme et l’intuitionisme.

 

On le sait, Kant justifie les jugements mathématiques par des constructions dans l’espace et dans le temps. Le point de départ est la distinction entre jugements analytiques (où le prédicat est contenu dans le concept du sujet : un homme grand est grand) et jugements synthétiques où le prédicat n’est pas contenu dans le concept du sujet. Les jugements mathématiques, « 5+7=12 », « la somme des angles d’un triangle est égale à un angle plat », sont synthétiques. Un triangle est une figure fermée à trois côtés. On peut, soutient Kant, analyser ce concept, on n’en déduira pas la mesure de la somme des angles. Une analyse des concepts ne suffit pas à établir les jugements mathématiques. Ceux-ci sont synthétiques et, pourtant, a priori. Le problème, à l’origine de la Critique de la raison pure, est de rendre compte de la possibilité de tels jugements.

Puisque le prédicat n’est pas contenu dans le concept du sujet, il faut que la prédication repose sur une base extérieure. Ce sera une construction dans l’intuition. Pour établir que la somme des angles d’un triangle est égale à deux droits, on trace un triangle et une droite passant par l’un des sommets et parallèle au côté opposé. On montre sur ce dessin que la somme des angles du triangle coïncide à un angle plat. Ainsi, la démonstration d’une proposition géométrique repose sur une construction dans l’espace, un dessin.

Les propositions arithmétiques exigent une construction dans le temps. Pour calculer la somme 5+7, on commence par aligner cinq objets, disons cinq pommes, puis à côté sept autres pommes et on compte douze pommes au total. Mais, dans ce processus, la nature particulière des choses que l’on compte, les pommes, n’intervient pas. Seule importe la succession des objets dans l’acte de compter, c’est-à-dire la temporalité de l’acte. La construction, qui établit « 5+7=12 », ne repose que sur notre temporalité intérieure, sur cette forme temporelle que nous prêtons à notre vie mentale. En ce sens, les propositions arithmétiques reposent sur des constructions dans le temps.

Ainsi, Kant fonde les jugements mathématiques sur l’intuition de l’espace et du temps. La validité des propositions mathématiques ne tient qu’au caractère a priori de l’espace et du temps, en tant que formes des intuitions externes et internes.   

La position kantienne sera la référence privilégiée de Hilbert et de Brouwer. La controverse sur le problème des fondements entre l’intuitionisme, autour de Brouwer, et le formalisme, autour de Hilbert, est liée à la découverte de paradoxes au tournant du XXe siècle. Ceux-ci engagent les mathématiciens à une critique des raisonnements classiques. Cette critique, de plus en plus radicale, conduira à l’intuitionisme de Brouwer. Hilbert, avec son école de Göttingen, répondra à l’intuitionisme en s’efforçant de donner un fondement aux mathématiques classiques.

Or la référence au temps est un trait essentiel de la critique intuitioniste. Les propositions mathématiques reposent sur des raisonnements qui s’effectuent dans la conscience et, par conséquent, dans le temps. Cette temporalité semble imposer des restrictions sur nos raisonnements. Prenons l’exemple du tiers exclu. En arithmétique, le tiers exclu permet d’affirmer, P étant une propriété quelconque, que ou bien tous les entiers vérifient la propriété P ou bien il existe un entier qui ne vérifie pas la propriété P. Et, dans un raisonnement par l’absurde, lorsque l’on prouve que l’hypothèse que tous les entiers possèdent P conduit à une contradiction, on déduit l’existence d’un entier ne possédant pas P. Pourtant, au moment où l’on affirme l’existence d’un tel entier, on ne sait pas le calculer. Si l’on voulait vérifier l’existence de cet entier et, par là, établir la validité de l'inférence, il faudrait tester successivement chaque entier, jusqu’à en trouver un qui ne possède pas la propriété P. Mais il est possible que, aussi loin que l’on aille, tous les entiers que l’on teste possèdent la propriété P. Puisque l’on ne peut pas parcourir en totalité la suite des entiers, on ne peut pas vérifier qu’il existe un entier ne possédant pas la propriété P. Notre raisonnement par l’absurde ne semble pas légitime. Au moins, on ne peut pas le vérifier par une construction dans le temps. En réalité, pour justifier notre raisonnement par l’absurde, il faudrait postuler que la suite des entiers existe en soi et possède des propriétés déterminées, P ou non P, indépendamment de nos calculs. Il faudrait postuler que la suite, infinie, des entiers existe à la façon d’un système fini d’objets dont, en effet, on peut affirmer ou bien que chacun possède la propriété P ou bien qu’il en existe un ne possédant pas la propriété P. Ainsi, les mathématiques classiques reposent sur l’hypothèse de l’infini actuel. Mais, après les paradoxes, il faut renoncer à cette hypothèse. Les énoncés mathématiques doivent pouvoir être justifiés par une construction dans la conscience et, par conséquent, une construction dans le temps. Les mathématiques classiques ne respectent pas ce principe. L’intuitionisme les rejette.

On trouverait une analyse analogue et une référence au temps, moins explicite, dans certains textes de Borel et, par exemple, dans la critique que fait Borel de la démonstration par Zermelo du bon ordre à partir de l’axiome du choix. Borel caricature le raisonnement de Zermelo : « Pour bien ordonner un ensemble M, il suffit d’y choisir arbitrairement un élément auquel on attribuera le rang 1, puis un autre auquel on attribuera le rang 2, et ainsi de suite transfiniment » Et, ajoute Borel, « aucun mathématicien ne regardera comme valable ce dernier raisonnement »[i]. Cette évidence repose sur le postulat qu’un raisonnement se déroule dans le temps et que, dans le temps, ne peuvent s’accomplir que des opérations indéfinies, mais non transfinies.

L’intuitionisme fonde les mathématiques sur l’intuition du temps. Pour Brouwer, l’existence des géométries non euclidiennes oblige à refuser la thèse kantienne d’une fondation de la géométrie dans l’intuition de l’espace. On peut prouver aussi bien des propositions qui portent sur des objets appartenant à un espace euclidien qu’à un espace non euclidien. La géométrie ne peut pas être fondée sur des constructions dans un espace déterminé, qu’il soit euclidien ou non euclidien. En revanche, Brouwer reprend la thèse d’une fondation de l’arithmétique et, en fait, des mathématiques sur l’intuition du temps. L’intuitionisme « a pu se relever par l’abandon de l’apriorité kantienne de l’espace et le maintien d’autant plus ferme de l’apriorité du temps »[ii]. Ici, le raisonnement est situé dans le temps, lequel représente un a priori assurant la légitimité des constructions mais imposant des restrictions sur les possibilités mathématiques. Restrictions, qui conduisent Brouwer à rejeter les mathématiques classiques.

            Hilbert répond à l’intuitionisme en s’efforçant de donner un fondement définitif aux mathématiques classiques. Brouwer, après Poincaré, montrait que les mathématiques classiques, telles qu’elles sont habituellement présentées, reposent sur l’hypothèse de l’infini actuel, l’hypothèse que les systèmes infinis existent à la façon des systèmes finis. Hilbert s’accorde avec Brouwer pour refuser cette hypothèse : « l’infini n’est nulle part réalisé ; il n’existe pas dans la nature et on ne peut pas l’admettre en tant que fondement de la pensée rationnelle »[iii]. Il s’agira de donner un fondement aux mathématiques classiques en faisant l’économie de l’hypothèse de l’infini actuel. Le but de Hilbert est d’utiliser des raisonnements finitistes pour donner un fondement aux raisonnements classiques. Hilbert accorde à Brouwer que les raisonnements classiques, comme ceux qui utilisent le tiers exclu et font intervenir un infini actuel, n’ont pas d’évidence propre. Pour prendre une évidence propre, un raisonnement ne doit faire intervenir qu’un nombre fini, quoique illimité, d’objets. De tels raisonnements constituent une mathématique finitiste. Ils n’ont pas à être justifiés, ils sont évidents et pourront être utilisés pour donner un fondement aux mathématiques classiques.

Plusieurs remarques s’imposeraient sur la délimitation de la mathématique finitiste. Techniquement, ses limites sont plus strictes que celles de la mathématique intuitioniste. Mais, surtout, sa justification n’est pas la même. Brouwer appuyait sa critique du raisonnement classique sur l’idée de constructions dans le temps. Les propositions mathématiques reposent sur les opérations d’une conscience et ces opérations doivent pouvoir être réalisées dans le temps. Ainsi, pour délimiter la mathématique intuitioniste, Brouwer interroge ce que peut la conscience. Hilbert reproche à Brouwer de faire tomber les mathématiques dans le subjectif et l’arbitraire. La délimitation de la mathématique finitiste doit garder une « signification objective »[iv]. En fait, pour Hilbert, le raisonnement doit porter sur des objets qui peuvent être présentés dans l’expérience, ce qui implique qu’ils soient en nombre fini. Ce critère d’évidence est rapporté à Kant : « Nous sommes d’accord avec les philosophes, spécialement avec Kant. Celui-ci avait déjà pour doctrine que les mathématiques ont un contenu indépendant de la logique […]. La condition préalable de l’application des inférences logiques et de l’effectuation d’opérations logiques est l’existence d’un donné dans la perception : à savoir l’existence de certains objets concrets extra-logiques qui en tant que sensations immédiates précèdent toute pensée. Pour que le raisonnement soit sûr, il faut que ces objets soient perçus dans toutes leurs parties et que leur occurrence, leur caractère distinct, leur succession, leur juxtaposition se présentent à l’intuition […] »[v] Ces objets, dans l’arithmétique finitiste, sont des bâtons, des barres verticales tracées sur une feuille de papier. Les raisonnements dépendent de manipulations sur les séries de barres verticales : mettre bout à bout deux séries, en comparer la longueur, etc. Dans tous les cas, l’évidence d’un raisonnement tient à ce qu’il porte sur des objets concrets, qui se laissent présenter dans l’intuition. Finalement, Hilbert justifie l’évidence des raisonnements finitistes en renvoyant à « l’expérience concrète » et, de fait, à l’intuition de l’espace.

Cela dit, il s’agira d’utiliser les raisonnements finitistes pour donner un fondement aux mathématiques classiques, qui outrepassent les limites finitistes. Les mathématiques transfinies seront formalisées et représentées par des manipulations de signes dépourvus de sens. Partant d’une théorie donnée, on commence par faire l'inventaire des signes utilisés, analogue à un alphabet. On donne des règles, analogues à l'orthographe et à la grammaire, pour constituer à partir de ces signes des formules. On donne des axiomes qui serviront de prémisses dans les déductions. On donne des règles pour déduire une formule d'une autre. Ces règles ne s'appliquent qu'aux signes figurant dans les formules et ne prennent pas en considération le sens que pourraient posséder ces signes. Le raisonnement est remplacé par une manipulation de signes. La théorie est remplacée par « un stock de formules », construites et enchaînées selon des règles explicites[vi]. Une démonstration se présente comme un dessin conforme à des règles convenues.

Ainsi, Hilbert distingue une mathématique finitiste, dont les raisonnements possèdent une évidence propre mais sont soumis à des restrictions, et une mathématique formelle, qui consiste en manipulations symboliques selon des règles convenues. Il s’agira de démontrer la non-contradiction des théories formelles au moyen de raisonnements finitistes. Pour cela, on raisonnera sur les dessins, qui représentent les démonstrations dans un système formel.  Une contradiction se manifesterait par un dessin ayant pour conclusion une ligne de la forme 0≠0. On analysera les dessins conformes aux règles convenues pour démontrer que de tels dessins ne peuvent pas s'achever sur une ligne comme 0≠0,  en se limitant dans ces raisonnements à des inférences finitistes. Ces raisonnements sur les démonstrations mathématiques constituent une métamathématique. La métamathématique doit donner un fondement à la mathématique : établir, au moyen de raisonnements finitistes, qui, possédant une évidence propre, n'ont pas à être justifiés, que les raisonnements mathématiques s'effectuent sans contradiction. Pour fonder les raisonnements classiques, il n’est pas nécessaire d’affirmer la réalité des collections infinies sur lesquelles ils portent ou de prêter à la conscience mathématicienne la faculté de réaliser des processus transfinis. En fait, le programme formaliste fait de l’infini « quelque chose d’apparent », une sorte de phénomène bien fondé, que l'on peut utiliser en mathématiques sans lui reconnaître aucune réalité[vii].

Hilbert semble renvoyer le fondement des mathématiques à l’intuition de l’espace. L’espace intervient deux fois dans le programme de fondement. Une première fois, l’espace représente la garantie des raisonnements finitistes. Ceux-ci prennent une évidence propre dans la mesure où leurs objets se laissent présenter dans l’expérience et dans l’espace. Ici, l’espace joue un rôle analogue à celui du temps dans l’intuitionisme de Brouwer. Comme la possibilité d’une réalisation dans le temps pour l’intuitionisme, la possibilité d’une présentation des objets dans l’espace est, pour le formalisme, la marque de l’évidence d’un raisonnement et la source de ses limitations. Une deuxième fois, l’espace est le milieu dans lequel doivent être représentées les démonstrations mathématiques pour faire l’objet de la méta-mathématique et être prouvées consistantes, c’est-à-dire être fondées. Bref, alors que Brouwer fondait les mathématiques sur des constructions dans le temps, en rejetant la possibilité de constructions dans l’espace, Hilbert semble revenir à ce qui serait une construction dans l’espace. Hilbert rattache le fondement des mathématiques à l’intuition de l’espace.

Néanmoins, Hilbert reprend l’idée du temps. En fait, Hilbert est confronté à la difficulté suivante. Brouwer objecte que ce stock de formules, ces dessins conformes à des règles convenues, par lesquels Hilbert remplace les mathématiques transfinies, n’ont pas de sens et ne constituent qu’un jeu gratuit, qu’il est inutile de chercher à fonder. Hilbert veut montrer que ce jeu de formules reflète la pensée mathématique, de sorte que la métamathématique qui prend pour objet ce jeu de formule réalise une analyse et, finalement, la fondation de la pensée mathématique. L’idée de fonder les mathématiques en prouvant la consistance d’un jeu de formules suppose que ce jeu de formules reflète les systèmes de pensées, qui constituent les mathématiques. Ainsi, Hilbert est conduit à postuler une sorte d’isomorphisme entre la pensée, dans l’esprit des mathématiciens, et son expression comme formule, sur le papier. Les formules sont les « images » de nos pensées[viii]. Les règles qui gouvernent l’enchaînement des formules correspondent à celles qui gouvernent l’enchaînement de nos pensées. La formalisation, qui explicite ces règles, devient une enquête sur les règles, le fonctionnement de notre esprit :

« Procéder axiomatiquement, c’est simplement avoir conscience de sa pensée »[ix]

« L’idée maîtresse de ma théorie de la démonstration n’est rien d’autre que de dépeindre l’activité de notre intelligence, de dresser un inventaire des règles d’après lesquelles notre pensée fonctionne réellement. La pensée est parallèle à la langue et à l’écriture, elle procède en formant et en alignant des phrases à la suite »[x].

« Ma théorie de la démonstration ne fait que simuler l’activité interne de notre entendement et enregistrer un procès-verbal des règles d’après lesquelles fonctionne notre pensée. En effet, la pensée procède parallèlement aux actes de parler et d’écrire : en formant et en alignant linéairement des phrases »[xi].

Hilbert veut établir la portée de sa théorie de la démonstration : portée scientifique en ce qu’elle vise à établir le fondement des mathématiques ;  portée philosophique, puisqu’elle semble permettre d’interroger le fonctionnement de l’esprit. Mais cette double portée dépend du parallélisme, de l’isomorphisme postulé entre pensées et formules. Or celui-ci exige la linéarité du formalisme :  à savoir, pour paraphraser Hilbert, que les démonstrations soient composées de formules disposées les unes à la suite des autres ou, autrement dit, que les règles d’inférence définissent une relation d’ordre totale entre les formules d’une démonstration. Cette linéarité semble renvoyer à la temporalité de la pensée. Si les formules reflètent les pensées et si les pensées s’enchaînent dans le temps, venant les unes à la suite des autres, il faut que les formules puissent, parallèlement, s’écrire les unes à la suite des autres. Je laisse de côté la question de savoir si le formalisme, qu’utilise Hilbert, est, en effet, linéaire. Ce que je veux souligner, c’est que Hilbert exige la linéarité de son formalisme et que la linéarité du formalisme traduit la temporalité de la pensée. Dans cet isomorphisme entre pensées et formules, une relation d’ordre totale entre les formules se traduit par une relation d’ordre totale entre les pensées. Finalement, l’idée que le temps est la forme de notre vie mentale, de notre pensée intérieure, resurgit dans le programme hilbertien et, là encore, elle est corrélative de restrictions pour les possibilités mathématiques : la linéarité du formalisme.

Je voulais interroger le rôle de l’espace et du temps dans la controverse entre Brouwer et Hilbert sur le problème des fondements. On voit que Brouwer fonde les mathématiques sur l’intuition du temps : la possibilité d’une réalisation temporelle est le fondement des opérations et la source des limitations de la mathématique intuitioniste. Hilbert fonde les mathématiques sur l’intuition de l’espace : d’une part, la possibilité d’une présentation des objets dans l’espace marque l’évidence des raisonnements finitistes ; d’autre part, la possibilité de représenter les démonstrations comme des figures dans l’espace permet d’en faire des objets pour la méta-mathématique. Néanmoins, Hilbert semble maintenir la thèse kantienne que le temps est la forme a priori de la vie mentale, de la pensée intérieure. Cette thèse implique des restrictions pour les possibilités mathématiques : elle conduit à exiger la linéarité du formalisme.

Or la position du temps, comme forme de la pensée, qui est commune à Hilbert et à Brouwer, peut-elle être mise en doute ?  Je voudrais suivre les Recherches sur la déduction logique, dans lesquelles Gentzen définit la déduction naturelle

            Au départ, Gentzen commence par une critique adressée à Hilbert. Le logicien refuse que l'enchaînement des formules dans les systèmes formels qu'utilise Hilbert puisse refléter la pensée véritable des mathématiciens. En effet, dans ces systèmes, les démonstrations partent des axiomes, alors que, en pratique, les mathématiciens raisonnent à partir d'hypothèses quelconques, tantôt pour déduire des propositions qui restent conditionnelles, tantôt pour tester ces hypothèses et, finalement, démontrer des propositions vraies. Ainsi, les démonstrations formalisées dans les systèmes hilbertiens déforment la pensée véritable des mathématiciens. Et Gentzen se donne pour tâche "d'approcher" et de "reproduire" les "raisonnements réels", dans un système ou un "calcul" de "déduction naturelle".

            La déduction naturelle a une forme d'arbre. Les hypothèses, dont part la déduction, représentent la terminaison des branches au sommet de l'arbre. On peut déduire une formule d'une formule donnée, ce qui signifie descendre le long d'une branche de l'arbre. On peut déduire une formule de plusieurs formules données, ce qui correspond à un nœud où se rejoignent plusieurs branches. Enfin, on peut éliminer des hypothèses utilisées dans la déduction de façon, finalement, à démontrer une formule vraie. Celle-ci est la base de l'arbre.     Examinons le style de la déduction naturelle. Chaque branche de l'arbre, tant que l'on se contente de déduire une formule d'une autre, est linéaire. Cependant, pour appliquer une inférence partant de plusieurs formules, il faut considérer que ces formules sont données ensemble et, par conséquent, que l'enchaînement procède simultanément sur les branches de l'arbre qui se rejoignent. Si chaque branche est linéaire, l'enchaînement s'effectuant simultanément sur plusieurs branches, l'arbre est, pour ainsi dire, multilinéaire. Ici, les règles d’inférence ne définissent pas une relation d’ordre totale entre les formules d’une déduction naturelle. Bref, la déduction naturelle n’est pas linéaire et, si elle reflète un enchaînement de pensées, celui n’est pas temporel au sens d’un ordre total entre les pensées.

             Cependant, Gentzen veut que les déductions naturelles reproduisent la pensée réelle du mathématicien. Or nous avons vu, dans les articles de Hilbert, que l'expression ne peut reproduire la pensée qu'à la condition d'être linéaire. Gentzen demande dans quelle mesure, puisqu’elles ne sont pas linéaires, les déductions naturelles peuvent refléter la pensée mathématique. Plus précisément :

"En demandant que les formules soient arrangées en forme d'arbre, nous nous écartons quelque peu de l'analogie avec le raisonnement réel [qui] comporte nécessairement une séquence linéaire de propositions à cause de l'ordre linéaire de nos expressions verbales […]."[xii]

Gentzen semble reprendre deux thèses de Hilbert : le parallélisme entre la pensée et son expression ; la temporalité, l’existence d’une relation ordre totale, dans l’enchaînement des pensées. Dans ce contexte, la non-linéarité de la déduction naturelle en fait une image déformante de l’enchaînement des pensées. Plus précisément, Gentzen commence par reconnaître un parallélisme entre l'expression et la pensée. Il applique un isomorphisme pour déduire de la linéarité de la parole la linéarité de la pensée: le raisonnement réel est linéaire à cause de la linéarité de l'expression verbale. D'autre part, Gentzen reconnaît la non-linéarité de la déduction naturelle mais refuse de lui appliquer l'isomorphisme. La remarque de Gentzen témoigne de ce que J. Derrida appelle le privilège de la voix. En effet, c'est le privilège de la voix sur l'écrit, le mythe de la parole, qui conduit Gentzen à appliquer l'isomorphisme à l'expression linéaire et à refuser de l'appliquer à la déduction naturelle, bien que, au départ, celle-ci soit conçue pour traduire la pensée véritable. Finalement, pourquoi considérer que la voix donne une meilleure image de la pensée que les déductions naturelles ? Pourquoi ne pas reconnaître aux déductions naturelles la fonction pour laquelle elles ont été constituées, refléter la pensée véritable des mathématiciens ? Cela serait incompatible avec la linéarité supposée, c’est-à-dire la temporalité, de l’enchaînement des pensées.

            La position du temps comme forme de la pensée est commune à Brouwer et à Hilbert. Gentzen est le premier à mettre en question cette thèse, en imaginant un système dans lequel nos pensées ne seraient que partiellement ordonnées. La pensée, si elle prend la forme d’une déduction naturelle, doit pouvoir emprunter parallèlement les différentes branches d’un arbre. La déduction n’a pas cette linéarité qui semble caractériser la pensée dans les textes de Hilbert. 

            Le travail que j’aurais dû faire et dont je n’ai pas eu le temps est d’examiner le rôle de l’espace et du temps dans la logique contemporaine. Du moins, la référence à l’espace et au temps n’est pas absente de la logique contemporaine. Je m’appuie sur les analyses de Giuseppe Longo pour évoquer deux exemples. En premier lieu, dans la théorie des automates, on peut isoler les machines de Turing, comme des automates essentiellement temporels, et les opposer aux automates cellulaires, de Hebb, de von Neumann, aux réseaux connexionnistes ou aux systèmes concurrentiels. En effet, les machines de Turing ne dépendent pas de l’espace dans lequel elles sont situées. Il n’importe pas qu’elles soient représentées par un dispositif matériel situé dans un espace tridimensionnel, et pourvues d’un ruban, d’un espace de dimension 1, pour faire leurs calculs. Par exemple, elles ont la même puissance qu’elles disposent d’un ruban, d’un espace à une dimension, d’un plan ou d’un espace à n dimensions. Seul importe, dans la définition des machines de Turing, le temps qui règle le calcul. En revanche, de l’autre côté, les réseaux cellulaires sont décrits par la répartition de leurs cellules dans l’espace et, souvent, justifiés par l’analogie avec la répartition des neurones dans le cerveau. En ce sens, les machines de Turing représenteraient des automates essentiellement temporels par opposition aux réseaux cellulaires fondés sur leur spatialité. D’autre part, la justification de certaines logiques peut passer par une référence à l’espace et au temps. C’est le cas, par exemple, des logiques dialogiques, qui se présentent sous forme de dialogues et qui, parfois, sont justifiées par le caractère temporel de ces dialogues, qui les rapprocherait de la pensée naturelle. A l’inverse, l’un des arguments épistémologiques, de J.-Y. Girard et de G. Longo, pour défendre la logique linéaire puis la logique « ludique » et souligner leur nouveauté, est que les preuves y sont représentées par des réseaux dans l’espace. La logique ludique représenterait, selon ces logiciens, une tentative pour introduire l’idée de localisation, une spatialité ou une géométrie en logique. Bref, la référence à l’espace et au temps semble conserver un rôle dans les arguments épistémologiques de la logique contemporaine.

            Cela dit, je voudrais esquisser une critique du rôle attribué à l’espace et au temps dans le fondement des mathématiques, critique que je reconstitue à partir des textes de Cavaillès. L’idée est que si, en effet, les preuves se déploient dans un espace et dans un temps, l’espace et le temps des preuves ne sont pas donnés dans la sensibilité mais sont constitués dans le développement des mathématiques. Commençons par l’espace.

            Hilbert représente les démonstrations comme des dessins conformes à des règles pour en faire les objets d’une méta-mathématique. Dans les années 20, Hilbert justifie la portée de la formalisation en affirmant que l’enchaînement de nos pensées est parallèle à cet enchaînement de formules. Mais, dans des textes antérieurs, Hilbert soutenait que le travail mathématique suppose un jeu sur les signes, de sorte qu’il passe par l’écrit et que la formalisation ne fait que rectifier, rendre rigoureux ces écritures spontanées. Les signes, en mathématiques, ont une sorte d’effet suggestif qui guide le mathématicien. Comme le disait Cavaillès, commentant un texte de Hilbert, « il y a dans la formule une sorte d’appel »[xiii]. Le mathématicien est sollicité par la formule qu’il écrit. Pour résoudre une équation, démontrer une proposition, il travaillera sur la formule, tentera de la transformer dans un sens ou dans un autre et c’est dans ce jeu sur les signes que se dessinera la voie d’une solution.

« Lorsque nous attaquons un problème pour la première fois, nous tentons de rapides combinaisons, inconscientes et souvent mal assurées, nous confiant en cela à une sorte de sentiment quant au comportement des symboles arithmétiques, sentiment dont nous ne pourrions pas plus nous passer que de l’imagination en géométrie » [xiv].

Ainsi, l’arithmétique, par exemple, suppose un jeu sur les formules, comme la géométrie la construction de figures. Toutefois, les signes, de nos formules, sont soumis à des règles d’emploi, règles de formation qui indiquent comment constituer une formule, pourvue  de sens, et règles de transformation, qui indiquent comment déduire une formule d’une autre. Le mathématicien suit des règles et celles-ci déterminent les possibilités qui lui sont ouvertes pour former et transformer ses formules. Un enfant, qui ferait un dessin, pourrait combiner n’importe quel signe avec n’importe quel autre et cela dans n’importe quelle direction. En revanche, à partir du moment où le mathématicien a écrit un premier signe, les possibilités de le compléter pour constituer une formule et les possibilités pour transformer cette formule, sont limitées par les règles qui gouvernent l’emploi des signes. Les signes, dans le calcul du mathématicien, ne peuvent pas prendre toutes les relations que leur donnerait un enfant dans son dessin. Si l’espace représente les relations qu’entretiennent les phénomènes, les signes, sur la feuille de l’enfant, ne sont pas dans le même espace que les signes sur la feuille du mathématicien. Si le travail mathématique passe par un jeu sur les signes, ce jeu s’accomplit dans un espace qui n’est pas l’espace de la sensibilité mais un espace constitué dans le développement des mathématiques et que Cavaillès appelle un « espace combinatoire »[xv]. Un problème, pour Cavaillès, est de retracer la genèse de ces espaces combinatoires, c’est-à-dire de comprendre comment se constituent et se modifient ces espaces de signes et de règles dans lesquels travaillent les mathématiciens.

Une conséquence est que l’on ne peut pas, avec Hilbert, fonder les mathématiques sur une intuition de l’espace. Hilbert veut donner un fondement aux mathématiques en les représentant par un stock de formules et en prouvant la consistance par des raisonnements finitistes. Les raisonnements finitistes consistent en manipulations sur des bâtons que Hilbert considère comme des objets concrets donnés dans l’expérience. C’est ce qui fait l’évidence des raisonnements finitistes. Mais, répond Cavaillès, ces bâtons sur lesquels porte l’arithmétique finitiste sont déjà des symboles, manipulés selon des règles implicites et, par conséquent, situés dans un espace, qui n’est pas l’espace de la sensibilité. Autrement dit, la façon dont on manipule ces bâtons dans l’arithmétique finitiste représente le résultat d’une histoire antérieure : « Toutes les comparaisons des mathématiques avec une manipulation spatiale se heurtent à ce caractère fondamental du symbole mathématique, chiffre, figure, même bâton, de n’être là qu’en tant que partie intégrante […] d’une activité déjà mathématique[…]. Ce que le [formalisme] prend pour commencement absolu n’est qu’évocation subreptice d’actes et d’enchaînements antérieurs »[xvi].

J’ai reconstitué, à partir des textes de Cavaillès, une critique de la référence à l’espace dans le fondement des mathématiques. La référence au temps peut-elle se prêter à une critique symétrique ? Brouwer fondait ses mathématiques, intuitionistes, sur une intuition du temps. La possibilité d’une réalisation temporelle est, à la fois, le fondement des opérations intuitionistes et la source de leurs limitations. Si les propositions mathématiques doivent être prouvées, non pas par une déduction à partir d’axiomes, mais par la construction de leurs objets et des relations qu’entretiennent ceux-ci, et si cette construction a lieu dans le temps, il faut accepter la critique intuitioniste de mathématiques classiques. On perd, par exemple, la théorie classique des nombres ordinaux, dans la mesure où, pour dire vite, on peut, dans le temps, engendrer chacun des nombres finis mais non atteindre le transfini. La position de Cavaillès, qui est, je dois le dire, difficile à accepter, semble être la suivante. On refuse la thèse kantienne, puis hilbertienne que les constructions mathématiques se déroulent dans l’espace de la sensibilité. On peut, de la même façon, refuser la thèse kantienne, puis brouwerienne, que les constructions mathématiques se déroulent dans le temps de la sensibilité. La génération des nombres, finis puis transfinis, les inductions transfinies requièrent d’autres structures temporelles. C’est en ce sens, semble-t-il, que Cavaillès écrit que l’intuitionisme, suivant Kant, « dissocie les étapes [de la construction mathématique] de leur unique fonction d’éléments pour en faire des événements. »[xvii] Les constructions mathématiques ont leur temporalité propre. Leurs étapes n’apparaissent que comme éléments d’une structure spécifique. L’intuitionisme les déforme en en faisant des événements, dans le temps naturel ou le temps de la sensibilité.

Les démonstrations ou, plus largement, les opérations mathématiques se déroulent dans un espace et dans un temps propres. On ne peut pas les fonder en les renvoyant à l’espace et au temps de la sensibilité. Mais, du coup, les restrictions qu’imposait aux opérations mathématiques leur inscription dans l’espace ou dans le temps de la sensibilité sont levées. La position de Cavaillès permet de considérer les opérations mathématiques comme les actes d’un sujet, sans les situer dans l’espace et dans le temps de la sensibilité et les soumettre aux restrictions corrélatives de cette situation. Néanmoins, le problème est alors de comprendre comment se constituent, dans l’histoire des mathématiques, l’espace et le temps des preuves.  

 


Références bibliographiques

 

Borel, E. [1905] : "Quelques remarques sur les principes de la théorie des ensembles", dans Rivenc-Rouilhan [1992], p.294-5.

 

Brouwer, L. [1912] : "Intuitionism en formalism", Groningen ; tr. fr dans Largeault [1992], p.39-54.

 

Cassou-Noguès, P. [2001-a] : Hilbert, Paris, les Belles Lettres, Coll. Figures du savoir, 2001.

— [2001-b] : De l’expérience mathématique. Essai sur la philosophie des sciences de Jean Cavaillès, Paris, Vrin, 2001

      [2001-c] : "Conscience et réflexivité dans la philosophie mathématique de Jean Cavaillès", Methodos, n.1, 2001, p.267-284.

 

 

Cavaillès, J. [1994] : Œuvres complètes de philosophie des sciences, Paris, Hermann, 1994.

 

Derrida, J. [1967-a] : De la grammatologie, Ed. de Minuit, Paris, 1967.

— [1967b] :  La voix et le phénomène, P. U. F., Paris, 1967.

 

Gentzen, G. [1935] : "Untersuchungen über das logische Schliessen", Mathematische Zeitschrift, 1935, t.39, p.176-210 et p.405-31.

 

Hilbert, D. [1900] : "Mathematische Probleme. Vortrag gehalten auf dem internationalen Mathematiker-Kongress zu Paris, 1900", Arch. der Math. und Physik, 1900, t.1, p.44-63 et p.213-37 ; tr. fr. L. Laugel : Sur les problèmes futurs des mathématiques, Ed. J. Gabay, Sceaux, 1990.

— [1904] : "Ueber die Grundlagen der Logik und der Arithmetik", Verhand. des 3 internat. Math. Kongr. in Heidelberg, Teubner, Berlin, 1905, p.174-85 ; tr. fr. : "Sur les fondements de la logique et de l'arithmétique", L'Enseignement mathématique, 1905, t.7, p.89-103.

— [1922] : "Neubegründung der Mathematik, Erste Mitteilung", Abh. aus d. Math. Semin. d. Hamb. Univ., 1922, t.1, p.157-77 ; tr. fr. "Nouvelle fondation des mathématiques. Première communication", dans Largeault [1992], p.107-31.

— [1923] : "Die logischen Grundlagen der Mathematik", Mathematische Annalen, 1923, t.88, p.151-65 ; tr. fr. : "Les fondements logiques des mathématiques", dans Largeault 1992], p.131-45.

— [1926] : "Ueber das Unendliche", Mathematische Annalen, 1926, t.95 ; tr. fr. : "Sur l'infini" dans Largeault [1972], p.220-45.

— [1927] : "Die Grundlagen der Mathematik", Abh. aus d. Math. Semin. d. Hamb. Univ., 1928, t.6, p.65-83 ; tr. fr. : "Les fondements des mathématiques", dans Largeault [1992], p.145-64.

— [1928] : "Probleme der Grundlegung der Mathematik",  Mathematische Annalen, 1929, t.102, p.1-9 ; tr. fr. : "Problème de fondation des mathématiques", dans Largeault [1992], p.175-87.

— [1930] : "Die Grundlegung der elementaren Zahlenlehre",  Mathematische Annalen, 1931, t.104, p.485-94 ; tr. fr. "Le fondement de l'arithmétique élémentaire", dans Largeault [1992], p.187-97.

 

 

Hilbert, D. et Bernays, P. [1934] : Grundlagen der Mathematik I, Springer, Berlin, 1934.

 

Kant, E. [1781-7] : Kritik der reinen Vernunft, dans Kants Werke, éd. Cassirer, III ;  tr. fr. A. Tremesaygues et B. Pacaud : Critique de la raison pure, 3e édition, P. U. F., coll. "Quadrige", Paris, 1990. 

 

Largeault, J. [1992] : Intuitionisme et théorie de la démonstration, Paris, Vrin, 1992.

 

Longo, G. [1995] : "The difference between Clocks and Turing Machines", La Nuova Critica, 29 (1), p.31-42, 1995.

— [2001] : "Space and Time in the Foundations of Mathematics", Invited lecture, AMS/SMF Conference, Lyon, July 16-20, 2001; à paraître dans les actes. 

 

Rivenc, F. et  Rouilhan, Ph. de (éds.) [1992] : Logique et fondement des mathématiques, Paris, Payot, 1992.


Notes



[i]  Borel [1905], p.295.

[ii]  Brouwer [1912], p.43.

[iii] Hilbert [1926], p.222-223.

[iv] Hilbert [1927], p.133 ; Hilbert-Bernays [1934], p.33.

[v] Hilbert [1926], p.228.

[vi] Hilbert [1926], p.233.

[vii] Hilbert [1926], p.221.

[viii] Hilbert [1923], p.133. 

[ix] Hilbert [1922], p.115.

[x] Hilbert [1927], p.158.

[xi] Hilbert [1930], p.195.

[xii] Gentzen [1935], p.184. "Expressions verbales" traduit l'allemand "Aussagen"  ou l'anglais "utterances".

[xiii] Cavaillès, « La pensée mathématique », 1938, dans [1994], p.626.

[xiv] Hilbert [1900], p.9.

[xv] Cavaillès, Méthode axiomatique et formalisme, 1938, dans [1994], p.101.

[xvi] Cavaillès, Sur la logique et la théorie de la science, 1947, dans [1994], p.521.

[xvii] Cavaillès, « Transfini et continu », 1947, dans [1994], p.272.