Frege : la logique moderne est née d’un problème d’arithmétique

Prenons un énoncé mathématique ordinaire : pour tout nombre, il existe un nombre plus grand. On essaie de le couler dans le moule dont la logique dispose depuis les Analytiques, « tout S est P », un sujet et un prédicat. Rien n’entre. Aucune place où loger un « il existe » dans la portée d’un « pour tout », et aucun moyen de traiter « plus grand que », qui relie deux objets au lieu d’en qualifier un.

Une phrase que la syllogistique ne peut pas écrire

Le livre qui débloque la situation paraît à Halle en 1879, chez Louis Nebert. Quatre-vingt-huit pages, une notation à deux dimensions que personne ne reprendra, un titre long : Begriffsschrift, eine der arithmetischen nachgebildete Formelsprache des reinen Denkens, idéographie construite sur le modèle du langage de l’arithmétique.

Deux gestes font le travail. Le premier découpe la phrase autrement. « Socrate est un philosophe » ne se lit plus comme un prédicat attribué à un sujet, mais comme une fonction appliquée à un argument : l’expression incomplète « ( ) est un philosophe » reçoit le nom propre « Socrate ». Frege précisera en 1891, devant la Société savante d’Iéna, ce que cela engage : un concept est une fonction dont la valeur est une valeur de vérité. Et une fonction prend deux arguments aussi bien qu’un, d’où la logique des relations, absente de la tradition scolaire.

Le second geste est le signe de généralité, au paragraphe 11. Frege creuse une concavité dans le trait de contenu, y inscrit une lettre gothique, et cette lettre est désormais liée : la concavité indique jusqu’où elle s’étend. Toute la différence entre « pour tout nombre il en existe un plus grand » et « il existe un nombre plus grand que tous » tient à l’ordre et à l’étendue de deux marques de ce genre. La notion de portée entre en logique.

Le rendement se mesure à la troisième partie. Frege y définit « suivre dans une série » par une construction que la postérité appellera l’ancestrale d’une relation, et il en tire la proposition 76. Le paragraphe 23 annonce l’enjeu : une notion qu’on croyait suspendue à une intuition de la succession se formule sans elle. La logique nouvelle est un instrument, fabriqué pour savoir de quoi dépendent les vérités de l’arithmétique.

Six recensions, deux hostiles, et une promotion

La publication vaut à Frege le titre de professeur extraordinaire, son premier poste salarié à Iéna. Elle lui vaut aussi six comptes rendus en 1879 et 1880, dont deux sévères. Venn, dans Mind, tient la notation pour encombrante et n’y voit rien que Boole n’ait fait. Schröder emploie quatorze pages de la Zeitschrift für Mathematik und Physik à montrer que le titre promet plus que le contenu ne tient. La réponse de Frege, « Booles rechnende Logik und die Begriffsschrift », est restée dans ses papiers et n’a paru qu’après sa mort, ce qui l’exclut du débat public de l’époque. Risto Vilkko a repris le dossier en 1998 : six recensions pour un opuscule de logique symbolique, ce n’est pas un silence, et le récit d’une réception tragique force le trait.

Une question plus lourde est ouverte depuis quarante ans, celle de ce qui a été inventé en 1879. L’historiographie dominante vient de Jean van Heijenoort, dont le recueil From Frege to Gödel fait commencer la logique contemporaine à cette date. Irving Anellis objecte que Peirce, avec son étudiant Oscar Mitchell, met au point une théorie de la quantification quelques années plus tard sans rien connaître de la Begriffsschrift, et que Quine a fini par l’admettre. Susanne Bobzien soutient depuis 2021 que plusieurs idées logiques de Frege viennent des stoïciens, thèse discutée dans le numéro consacré en 2024 par History and Philosophy of Logic à la place de Frege dans l’histoire de la logique. Aucun de ces travaux ne conteste que le système fonctionne. Tous contestent qu’il soit sorti de nulle part.

Le nombre appartient au concept, pas à la chose

En 1884 paraît à Breslau, chez Wilhelm Koebner, Die Grundlagen der Arithmetik. Frege l’écrit en prose, sans un seul symbole, après l’échec de sa notation. L’argument tient en quatre pas.

Premier pas, au paragraphe 46 : un énoncé de nombre dit quelque chose d’un concept, pas d’une chose. La question « combien » n’a de sens qu’une fois donné le concept sous lequel on compte, puisqu’un même morceau de monde change de nombre selon qu’on le range sous « division » ou sous « soldat ». Dire que Vénus a zéro lune, c’est attribuer au concept « lune de Vénus » la propriété de ne rien subsumer, quand attribuer zéro à Vénus elle-même n’aurait aucun sens.

Deuxième pas, au paragraphe 63 : deux concepts reçoivent le même nombre exactement quand leurs objets s’apparient un à un. Frege cite Hume au passage, d’où le nom de principe de Hume, forgé bien plus tard par George Boolos. Aucun comptage n’intervient. Pour savoir que les couverts et les assiettes sont en nombre égal, il suffit de les mettre en vis-à-vis, sans jamais prononcer un nombre.

Troisième pas : puisqu’on peut nommer ce nombre et poser des identités à son sujet, il se comporte comme un objet et non comme une propriété. Le paragraphe 62 pose alors la question décisive. Si l’on n’a des nombres ni idée ni intuition, comment sont-ils donnés ? En définissant le sens des phrases entières où figure un mot de nombre.

Quatrième pas, la construction. Zéro est le nombre du concept « non identique à soi », sous lequel rien ne tombe puisque tout est identique à soi (paragraphe 74) ; un est le nombre du concept « identique à zéro », sous lequel tombe exactement un objet (paragraphe 77) ; la précédence vient au paragraphe 76 et le nombre fini au paragraphe 83, au moyen de l’ancestrale de 1879. Rien là n’appelle l’expérience ni une intuition du temps, et le paragraphe 87 conclut que les lois de l’arithmétique sont analytiques.

L’édifice repose sur un partage rigide entre concept et objet, et c’est là que porte l’objection la plus gênante. Benno Kerry, dans le quatrième d’une série d’articles de la Vierteljahrsschrift für wissenschaftliche Philosophie, soutient que le partage n’est pas absolu : dans « le concept cheval est un concept facile à acquérir », ce qui est désigné joue le rôle d’un objet tout en étant un concept. Frege répond en 1892 dans la même revue, et sa réponse mord. Précédée de l’article défini, l’expression désigne un objet, donc der Begriff Pferd ist kein Begriff, le concept cheval n’est pas un concept, et le langage est ici mal fait. Kerry, mort à trente ans en 1889, ne l’aura pas lue. Eva Picardi a jugé en 1994 que la réponse ne convainc pas, et la question de savoir si un terme singulier peut désigner un concept reste ouverte.

Jules César, ou ce qu’une définition doit trancher

Frege a vu lui-même un défaut dans le principe du paragraphe 63, et ce défaut commande la suite. Une définition qui fixe quand deux nombres sont identiques ne règle pas les identités mixtes : elle décide si le nombre des F égale le nombre des G, elle ne décide pas si le nombre des F égale Jules César. L’objection est de Frege contre Frege, au paragraphe 56, reprise au paragraphe 66 sur la direction d’une droite définie par le parallélisme.

L’exemple paraît absurde. Il ne l’est pas : une définition qui laisse indéterminé si son objet est un conquérant romain n’a pas défini un objet. D’où la sortie du paragraphe 68, une définition explicite qui identifie le nombre des F à l’extension du concept de second niveau « être équinumérique à F ». Le nombre 2 devient l’extension rassemblant tous les concepts sous lesquels tombent exactement deux objets. Ce recours aux extensions résout le problème de Jules César, et c’est par là que la contradiction entrera.

16 juin 1902, pendant l’impression du tome II

Les Grundgesetze der Arithmetik paraissent chez Hermann Pohle à Iéna, premier volume en 1893, second en 1903. Frege ajoute aux principes de 1879 la loi fondamentale V, au paragraphe 20, qui donne à tout concept un objet pour extension et pose que deux concepts ont la même exactement quand les mêmes objets tombent sous eux. La préface reconnaît que c’est le seul de ces principes dont le caractère logique puisse être contesté.

Le 16 juin 1902, Russell lui écrit. Soit le concept « être l’extension d’un concept sous lequel cette extension ne tombe pas ». Cette extension tombe-t-elle sous ce concept ? Si oui, non ; si non, oui. Frege répond le 22 juin que le sol sur lequel il pensait bâtir l’arithmétique est ébranlé, et il désigne aussitôt les passages en cause, le paragraphe 9 sur les parcours de valeurs et la loi V. Le second volume était sous presse. Frege lui adjoint un appendice qui dérive la contradiction de deux façons et propose une réparation de la loi. La réparation ne tient pas, puisqu’elle réduit le domaine des objets à un seul élément, résultat que la littérature rattache à l’article de Quine « On Frege’s Way Out », en 1955, et dont Gregory Landini a rediscuté la reconstruction en 2006.

Frege a continué d’enseigner un cours annuel de Begriffsschrift jusqu’à sa retraite en 1918, que Carnap a suivi en 1910-1911 puis en 1913. Dans des fragments de 1924-1925, il cherche une source géométrique à la connaissance arithmétique, ce qui revient à quitter le logicisme. Ces derniers textes se lisent dans des conditions particulières. Le fonds de manuscrits, transféré à Münster en 1935 à l’initiative de Heinrich Scholz, a brûlé lors du bombardement du 25 mars 1945. Sauf exception, ce qui subsiste des écrits posthumes tient dans les copies préparées avant la guerre en vue d’une publication : les fragments tardifs, le journal de 1924, une part de la correspondance sont connus par transcription, jamais par l’original.

Le théorème que Frege n’a jamais revendiqué

La contradiction a longtemps masqué un résultat. Charles Parsons remarque en 1965 que le principe de Hume suffit, Crispin Wright exécute l’essentiel de la dérivation en 1983, et Richard Heck établit en 1993 que les dérivations de Frege lui-même, dans les Grundgesetze, ne font aucun appel essentiel à la loi V une fois le principe de Hume acquis. Le bilan tient en une phrase. Dans la logique du second ordre, le principe de Hume seul entraîne les axiomes de Dedekind et Peano, y compris le plus coûteux, celui qui affirme que tout nombre a un successeur. Et ce principe, contrairement à la loi V, s’ajoute à cette logique sans contradiction.

Frege n’a pas revendiqué ce repli, pour une raison cohérente avec le reste : le principe de Hume ne dit pas comment des objets logiques sont donnés, et il reste exposé au problème de Jules César. Les néologicistes, à la suite de Wright, ont repris le programme en soutenant que le principe est analytique, ce que Boolos a contesté. La difficulté tient à une direction de l’équivalence, celle qui va de l’appariement un à un des F et des G à l’identité de deux objets, donc à leur existence.

Une difficulté technique décidera peut-être de l’affaire. Le principe de Hume et la loi V ont la même forme, une identité entre objets à gauche, une équivalence entre concepts à droite. L’un est consistant, l’autre non. Ce qu’il faudrait produire est donc délimité : un critère qui range le premier du bon côté et le second du mauvais, sans avoir été taillé après coup sur ce résultat. La conservativité de la définition est le candidat le plus travaillé, et Kit Fine a consacré un livre aux limites du procédé d’abstraction. Alan Weir a montré qu’il existe des principes d’abstraction acceptables un par un et incompatibles deux à deux, ce qui interdit tout test appliqué à un principe isolé. Le critère manque toujours.

Pour aller plus loin

Ce dossier touche à la distinction du sens et de la dénotation, que Frege introduit la même année que sa réponse à Kerry. Il croise la théorie des types, par laquelle Russell tente de bloquer la contradiction qu’il avait trouvée, et la correspondance avec Hilbert sur ce qu’est un axiome, où deux conceptions de la définition mathématique s’affrontent sans que ni l’un ni l’autre cède.