Le paradoxe de Russell : la lettre qui ébranla la loi V de Frege

La classe des hommes n’est pas un homme. Personne ne soutiendra le contraire, et voilà une classe qui ne s’appartient pas à elle-même. Réunissons maintenant toutes les classes de cette espèce, celles qui ne s’appartiennent pas, et appelons K le résultat. K s’appartient-elle ? Si elle s’appartient, elle tombe sous le concept dont elle est l’extension, or ce concept est celui de classe qui ne s’appartient pas. Si elle ne s’appartient pas, elle tombe sous ce même concept, donc elle s’appartient. La démonstration n’est pas d’un adversaire de Frege. Elle est de Frege, aux pages 253 et 254 du volume qu’elle ruine.

Un pont entre le concept et l’objet

Le programme est formulé en 1884, dans Die Grundlagen der Arithmetik. Les vérités de l’arithmétique ne viennent ni de l’expérience ni d’une intuition sensible, elles se démontrent à partir des seules lois logiques et de définitions. Encore faut-il définir le nombre, et Frege le fait au paragraphe 68, en posant que le nombre qui appartient au concept F est l’extension du concept « équinumérique à F », autrement dit l’objet qui rassemble tous les concepts qu’on peut apparier terme à terme avec F. Pour conduire la démonstration sans laisser passer une prémisse cachée, il avait construit dès 1879 une écriture artificielle, la Begriffsschrift, notation à deux dimensions que personne n’a jamais reprise. Les Grundgesetze der Arithmetik exécutent le programme, tome I en 1893, tome II en 1903, chez l’éditeur Hermann Pohle à Iéna. L’intégrale n’a paru en anglais qu’en 2013, sous la direction de Philip Ebert et Marcus Rossberg, et le lecteur français aborde Frege surtout par les Fondements de 1884, traduits par Claude Imbert. Le pivot du système s’appelle Wertverlauf, parcours de valeurs. Un concept, chez Frege, est une fonction qui renvoie le Vrai ou le Faux. Une fonction n’est pas saturée, elle attend un argument pour rendre une valeur, et elle ne peut donc pas tenir la place d’un objet. À chaque fonction correspond en revanche un objet, son parcours de valeurs, qui enregistre la valeur prise pour chaque argument ; quand la fonction est un concept, cet objet est son extension. L’anglais dit parfois graphe de la fonction, terme plus familier aux mathématiciens d’aujourd’hui, et le français gagne à garder parcours de valeurs, qui conserve l’idée d’un balayage des arguments là où le graphe suggère une courbe.

La loi V règle l’identité de ces objets. Le parcours de valeurs de la fonction f est le même que celui de la fonction g exactement quand f et g prennent la même valeur pour chaque argument. Une généralité portant sur des concepts se transforme ainsi en une égalité entre deux objets. Ce pont permet à Frege de traiter les nombres comme des objets à part entière, et il écrit encore en 1903 qu’il ne voit pas comment fonder l’arithmétique si le passage d’un concept à son extension n’est pas permis. Dix ans plus tôt, à la page VII de la préface du tome I, il avait désigné cette loi comme le seul endroit où une querelle pouvait naître. Il la tenait pour purement logique.

Toutes les paginations données ici renvoient aux éditions originales.

16 juin 1902

Russell écrit en allemand et prend ses précautions. L’accord est complet sur l’essentiel, et c’est sur un seul point qu’une difficulté est apparue. Le prédicat w arrive ensuite, celui qui ne peut pas se prédiquer de lui-même, puis la version en termes de classes, où il n’existe pas de classe, prise comme un tout, des classes qui ne s’appartiennent pas à elles-mêmes. Russell en tire la conclusion qui l’intéresse, à savoir que dans certaines circonstances une collection définissable ne forme pas un tout. Depuis 1994, cet échange se lit en français dans une traduction de Catherine Webern parue non pas dans une revue de logique mais dans une revue de psychanalyse.

Le passage de la loi V à la contradiction demande trois pas. La loi donne d’abord à chaque concept son extension, et un objet appartient à une extension quand il tombe sous le concept dont elle est l’extension. On prend ensuite un concept parfaitement construit, celui qui s’applique aux objets qui sont l’extension d’un concept sous lequel ils ne tombent pas. On demande enfin si l’extension de ce concept tombe sous lui, et elle y tombe si et seulement si elle n’y tombe pas. Frege refait le calcul dans sa notation, obtient deux propositions qui se contredisent, et conclut que la faute ne peut venir que de la loi V.

Sa réponse du 22 juin tient en peu de lignes. Il se dit au plus haut point surpris et, presque, consterné, parce que le sol sur lequel il pensait bâtir l’arithmétique se met à trembler. L’erreur est ensuite localisée avec une précision de comptable. La transformation d’une généralité en égalité de parcours de valeurs, introduite au paragraphe 9, n’est pas toujours permise, la loi V du paragraphe 20 est fausse, et les explications du paragraphe 31 ne suffisent pas à donner une signification à toutes les combinaisons de signes. Il ajoute que la découverte est très remarquable et produira peut-être un grand progrès en logique.

On refait l’opération sans classes du tout. Le barbier du village rase tous ceux qui ne se rasent pas eux-mêmes, et eux seuls. Se rase-t-il ? Le raisonnement est identique, à ceci près qu’il porte sur le verbe raser. Quine en a tiré une objection restée célèbre : le barbier n’est pas une antinomie, parce que rien ne nous obligeait à croire qu’un tel barbier existe, alors que tout nous portait à croire à l’existence de la classe des classes qui ne s’appartiennent pas.

Le volume paraît en 1903 avec cet appendice ajouté en fin de course, le reste du livre demeurant tel quel.

L’issue de secours coûte l’univers entier

Frege ne renonce pas. Dans l’appendice, il écarte d’abord deux échappatoires, refuser le tiers exclu pour les classes, et traiter les noms de classes comme des noms apparents dépourvus de signification, cette seconde solution faisant perdre la généralité des énoncés arithmétiques. Il retient une troisième voie et modifie la loi. Dans la version corrigée, deux extensions sont identifiées lorsque les concepts correspondants s’accordent sur tous les objets sauf un, l’extension elle-même. Aucun objet ne peut donc plus s’appartenir, et la contradiction ne se laisse plus construire.

Plus tard, et ailleurs, on a calculé ce que coûte l’exception. Leśniewski en avait donné l’analyse, publiée par Bolesław Sobociński en 1949 et reprise par Quine en 1955 dans un article de Mind au titre limpide, « On Frege’s Way Out ». Roy Cook en a donné en 2019 la forme la plus nette. La loi corrigée n’admet aucun modèle dans un domaine de plus de deux éléments, et dans le système de Frege elle n’est satisfaite que si l’univers compte au plus un objet. Or ce système en contient deux, le Vrai et le Faux, de sorte que la réparation produit à son tour une contradiction.

Frege avait abandonné cette issue bien avant que le calcul soit connu. L’appendice s’achève pourtant sur une note que les résumés laissent tomber. Le problème originaire de l’arithmétique, écrit-il, est de savoir comment nous saisissons les objets logiques, et il ne doute pas que le chemin de la solution soit trouvé. Iéna, octobre 1902. Il glisse aussi dans ces pages un proverbe latin sur la consolation qu’il y a, pour les malheureux, à avoir eu des compagnons d’infortune, en précisant que la difficulté ne menace pas sa seule construction, mais la possibilité d’une fondation logique de l’arithmétique.

Aussonderung

Deux mois avant la lettre de Russell, la même contradiction circulait à Göttingen. Une note de la main d’Edmund Husserl, datée du 16 avril 1902, expose l’argument tel qu’Ernst Zermelo le lui avait présenté ; retrouvée dans les archives Husserl, elle a été publiée par Barbara Rang et Wilhelm Thomas en 1981. Zermelo avait revendiqué la découverte indépendante dans son article de 1908 sur le bon ordre. La date exacte reste indécidée, puisque les études hésitent entre 1897 et 1902 et qu’Akihiro Kanamori juge en 2009 qu’elle pourrait être aussi tardive que 1902. Bernard Linsky rappelle en 2013 que les arguments de Zermelo, de Schröder et de Cantor anticipent celui de Russell tout en s’en distinguant sur des points décisifs.

Le même Zermelo publie en 1908 l’axiomatisation qui sert encore de base aux mathématiques courantes. Son axiome de séparation, l'Aussonderungsaxiom, interdit de fabriquer un ensemble à partir d’une propriété seule, et n’autorise qu’à découper un sous-ensemble dans un ensemble déjà donné. Refaites alors l’argument de Russell à l’intérieur d’un ensemble quelconque, vous obtenez un théorème au lieu d’une contradiction, à savoir que le découpage obtenu n’appartient pas à cet ensemble. Quelque chose manque à chaque ensemble, donc il n’existe pas d’ensemble de tout.

D’autres sorties ont été tentées sans hiérarchie de types. John von Neumann distingue en 1925 les ensembles, qui peuvent être éléments, des classes propres, qui ne le peuvent pas ; Quine garde en 1937 l’ensemble universel et restreint la compréhension par une condition de stratification.

Russell a suivi une route plus longue. L’appendice B des Principles of Mathematics de 1903 esquisse une théorie simple des types, l’article de 1908 donne la version ramifiée, et les Principia Mathematica, rédigés avec Whitehead entre 1910 et 1913, la fondent sur le principe du cercle vicieux, selon lequel ce qui suppose la totalité d’une collection ne peut pas être membre de cette collection. Gödel formule en 1944 l’objection qui pèse encore. La restriction se comprend pour des entités qui dépendent de nos définitions, elle est mal motivée pour des collections indépendantes de nous, comme celle des entiers naturels.

Presque surhumain

Le récit courant vient de Russell, dans un témoignage que van Heijenoort reproduit page 127 de son recueil. Rien dans son expérience, écrit-il, n’égale la façon dont Frege a reçu la nouvelle, alors que l’œuvre d’une vie touchait à son terme et que le second volume était sous presse. Un plaisir intellectuel qui recouvre visiblement la déception personnelle. Presque surhumain, dit-il.

David Bell a contesté cette image en 1983, à l’occasion de la traduction anglaise de la correspondance. Il rappelle que Frege a renoncé à achever son œuvre maîtresse, qu’il n’a pratiquement rien produit pendant les sept années suivantes, et que ses dernières années ont été celles d’un homme amer. Les deux lectures s’appuient sur des documents différents, la lettre du 22 juin et l’appendice pour la première, ce que Frege a écrit ou n’a pas écrit ensuite pour la seconde. Le troisième tome des Grundgesetze n’a jamais paru.

Restés inédits de son vivant et publiés en 1969 dans les Nachgelassene Schriften, trois textes de 1924 et 1925 cherchent une source de connaissance pour l’arithmétique du côté de la géométrie. Le logicisme a donc été abandonné par son inventeur avant de l’être par quiconque.

Le théorème que le paradoxe a laissé debout

Une contradiction rend démontrable n’importe quoi, ce qui semble régler la question de la valeur du livre. La question a pourtant été rouverte. Charles Parsons remarque en 1965 qu’un autre principe suffit pour l’arithmétique, celui que la littérature appelle principe de Hume, selon lequel le nombre des F est identique au nombre des G exactement quand on peut apparier terme à terme les F et les G. Frege le démontre au paragraphe 73 des Fondements. Crispin Wright refait l’essentiel de la dérivation en 1983 et en fait un programme, Michael Dummett soutient en 1991 que Frege, une fois le principe de Hume obtenu, n’utilise plus les parcours de valeurs de façon essentielle, et Richard Heck le prouve en 1993 en reprenant les démonstrations des Grundgesetze. Comme le principe de Hume s’ajoute sans contradiction à la logique du second ordre, Frege a bien démontré les axiomes de l’arithmétique de Peano.

La portée de ce sauvetage divise. Le principe de Hume et la loi V ont exactement la même forme, celle d’un principe d’abstraction qui fixe l’identité d’objets nouveaux par une relation d’équivalence entre les entités de départ, l’un est consistant, l’autre non. Frege avait lui-même refusé cette voie pour une raison exposée au paragraphe 67 des Fondements, à savoir que le principe de Hume ne permet pas de décider si Jules César est un nombre. Les critiques adressées au néologicisme, rassemblées dans le recueil de George Boolos paru en 1998, portent sur ce point. Trancher supposerait un critère qui sépare les abstractions admissibles des autres, et ce critère, personne ne l’a écrit à ce jour.

Pour aller plus loin

La théorie des types et le principe du cercle vicieux prolongent cette affaire bien au-delà de l’arithmétique. Elle croise aussi l’histoire de la théorie des ensembles depuis Cantor, où les antinomies de Burali-Forti et du plus grand cardinal précèdent celle de Russell de quelques années, et rejoint la question du logicisme et de son sort après Gödel.

On raconte qu’une lettre a détruit l’œuvre d’un homme. La lettre existe, elle a une date, et son auteur est le philosophe anglais Bertrand Russell. Celui qui la reçoit s’appelle Gottlob Frege, il enseigne les mathématiques en Allemagne, et il achève un livre commencé de longue date. La difficulté que lui signale son correspondant tient en quelques lignes. Ce qu’elle a réellement emporté se discute encore.

Une collection qui se contient elle-même

Frege voulait montrer que les nombres se déduisent des seules lois de la logique. Pour cela il lui fallait passer d’une notion à la collection des choses qui tombent sous elle, ce que les logiciens appellent son extension. La règle qui autorise ce passage est la seule dont il ait lui-même écrit, des années plus tôt, qu’elle pourrait faire discussion.

Prenez la notion d’homme. La collection des hommes n’est pas elle-même un homme, donc elle ne se contient pas. Prenez maintenant toutes les collections de ce genre, celles qui ne se contiennent pas, et réunissez-les. Cette grande collection se contient-elle ? Si oui, elle est du genre de celles qui ne se contiennent pas, donc elle ne se contient pas. Si non, elle a exactement la propriété demandée, donc elle se contient. Les deux réponses sont fausses en même temps.

Frege comprend aussitôt d’où vient le mal. Son livre était sous presse. Il ajoute en urgence quelques pages où il refait lui-même la démonstration qui le ruine, avec ses propres symboles, sans rien atténuer.

Une réparation qui vide le monde

Dans ces pages, il propose une correction. Une collection ne pourra plus se contenir elle-même : on la met à part, comme une exception, au moment de comparer deux collections. La contradiction disparaît.

Des logiciens ont calculé le prix de cette exception, d’abord en Pologne, puis dans un article du philosophe américain Quine. Le résultat est net. La règle corrigée ne peut être vraie que dans un monde contenant un seul objet. Or le système de Frege en contient déjà deux, le vrai et le faux. La réparation produit donc une nouvelle contradiction, et Frege l’avait abandonnée avant que ce calcul soit connu.

Un autre l’avait trouvée avant

Deux mois plus tôt, la même contradiction circulait dans une université allemande. Le mathématicien Ernst Zermelo l’avait exposée à un collègue, qui en a pris note par écrit. Ce feuillet a été retrouvé bien plus tard dans des archives, et publié en 1981.

Zermelo n’avait rien fait imprimer, et les spécialistes hésitent encore sur la date de sa trouvaille. On sait en revanche ce qu’il en a tiré. En 1908, il donne une règle qui interdit de fabriquer une collection à partir d’une propriété toute seule, et n’autorise qu’à découper à l’intérieur d’une collection déjà donnée. Le raisonnement de Russell devient alors inoffensif, puisqu’il prouve seulement qu’il n’existe pas de collection de toutes choses.

La part qui a tenu

Une contradiction permet de démontrer n’importe quoi, ce qui semblait condamner tout le livre. Les spécialistes ne le pensent plus. Frege s’appuie sur une autre règle, plus modeste, qui dit que deux notions ont le même nombre quand on peut apparier leurs objets un à un, comme des tasses et des soucoupes.

Cette règle-là ne produit aucune contradiction. Un philosophe britannique a refait la démonstration à partir d’elle, un autre a vérifié que Frege ne se servait plus de la règle fautive au-delà de ce point. Les résultats arithmétiques du livre sont donc démontrés pour de bon. La valeur philosophique du sauvetage se discute encore, car la règle sauvée et la règle fautive ont exactement la même forme, et personne n’a dit ce qui sépare les bonnes des mauvaises.

Les pages ajoutées en catastrophe s’achèvent sur une ligne que les résumés oublient. Leur auteur y écrit qu’il ne doute pas que le chemin de la solution soit trouvé, et il les date d’octobre 1902.

La version complète donne le texte de la clause d’exception, le calcul qui réduit l’univers à un seul objet, et le désaccord entre ceux qui décrivent Frege accueillant la nouvelle avec grandeur et ceux qui comptent les sept années de silence qui ont suivi.