Nous sommes en 1902⁽¹⁾. À cette époque, si les physiciens se complaisent à penser que tout a été découvert, les mathématiciens, eux, forts des enseignements de Georg Cantor, explorent le monde complexe des ensembles, et commencent à faire des maths pour les maths. En effet, puisque les physiciens se targuent de n'avoir plus rien à faire, nul n'est besoin de faire des maths pour la physique, et ça tombe bien, on va enfin avoir le temps de se consacrer à de vrais problèmes de maths, comme les 23 problèmes de Hilbert par exemple.

Au moment où je vous parle⁽²⁾, le formalisme utilisé pour décrire les mathématiques en tant que théorie logique est celui de Gottlob Frege, et son ouvrage Grundgesetze der Arithmetik, dont le premier volume, paru en 1893, est déjà une référence incontournable. Le second volume est très attendu, car il formera avec le premier opus une base solide et incontestable pour développer l'entièreté des mathématiques. Oui, mais, voilà ce que l'on trouvera dans la préface du second tome :

Einem wissenschaftlichen Schriftsteller kann kaum etwas Unerwünschteres begegnen, als daß ihm nach Vollendung einer Arbeit eine der Grundlagen seines Baues erschüttert wird. In diese Lage wurde ich durch einen Brief des Herrn Bertrand Russell versetzt, als der Druck dieses Bandes sich seinem Ende näherte. ⁽³⁾

Tiens donc. L'auteur lui-même déclare que son travail ne tient pas debout. Tout ça à cause d'une lettre d'un certain Bertrand Russel.

Bertrand Russel sera l'un des plus grand penseurs du XX^e siècle, et il mériterait bien un omnilogisme à lui tout seul, mais pour l'instant⁽⁴⁾, il se contente de jeter un pavé dans la mare avec le paradoxe qui porte désormais son nom :

Soit \(R = \{ x|x \notin x \}\), alors \(R \in R \Leftrightarrow R \notin R\).

Voilà, en résumé, ce que contient la lettre que ce cher Bertrand a envoyée à ce cher Gottlob en 1902. Ça n'a l'air de rien, et pourtant ! cela remet en cause les vingt années de travail que Gottlob a passé sur ses livres. En une phrase. Il est fort, ce Bertrand.

Afin de mieux comprendre le problème posé, l'auteur de ce paradoxe en a formulé une version tout public : le paradoxe du barbier⁽⁵⁾.

Voici un village, dans lequel personne ne porte la barbe. Il y a dans ce village un barbier, de sexe masculin. Le barbier rase tous les gens qui ne se rasent pas eux-mêmes, après tout, c'est son boulot ; et il ne rase pas ceux qui se rasent eux-mêmes, puisqu'ils n'en ont pas besoin.
Mais alors, le barbier se rase-t-il lui-même ?

On trouve assez vite le problème. En effet, s'il se rase lui-même, alors il fait partie des gens qui se rasent eux-mêmes, et de ce fait il ne peut pas être rasé par le barbier, c'est-à-dire lui-même ; à l'inverse, s'il ne se rase pas lui-même, alors c'est le barbier qui le rase, et donc… il se rase lui-même.

Voilà donc le paradoxe. Si nous le formulons en théorie des ensembles, cela donne : Soit R l'ensemble des ensembles qui n'appartiennent pas à eux-mêmes. R appartient-il à lui-même ?
S'il appartient à lui-même, alors il n'appartient pas à lui-même, et s'il n'appartient pas à lui-même, alors il appartient à lui-même. Troublant.

D'où vient le problème ? Nous sommes tous d'accord qu'un tel ensemble ne peut pas exister. Et pourtant, d'après le formalisme de Gottlob Frege, cet ensemble peut être défini. Conclusion : le formalisme de Gottlob Frege est faux. En particulier, le problème vient de l'axiome de compréhension non restreinte, qui dit que « l'ensemble des [objets] qui vérifient [une propriété] » est toujours définissable.

Mais comme toujours en mathématiques, il n'y a pas de problèmes, il n'y a que des solutions. C'est ainsi qu'en 1908, deux solutions différentes de ce paradoxe sont exprimées :
La première est due à ce cher Ernst Zermelo, grâce à une restriction du principe de compréhension : selon lui, « l'ensemble des [objets] qui vérifient [une propriété] » n'est définissable que si « l'ensemble des [objets] » est définissable. Or, dans sa théorie, on ne peut créer des ensembles que par réunion ou intersection d'autres ensembles déjà existants, ce qui rend impossible la création de « l'ensemble de tous les ensembles », et de facto, celle de « l'ensemble de tous les ensembles qui ne se contiennent pas eux-mêmes » aussi. Cela revient à dire « un tel barbier ne peut pas exister. Et comme y a pu d'barbier, y a pu d'problème ».
La seconde est due à ce cher Bertrand Russel, car quitte à soulever des problèmes, autant les résoudre : selon lui, chaque objet mathématique a un type. Le type d'un objet qui n'est pas un ensemble est 0, et le type d'un ensemble est le type maximal de ses éléments plus un. Les éléments d'un ensemble sont donc de type strictement inférieur à celui de l'ensemble, et donc, un ensemble ne peut pas se contenir lui-même. Cela revient à dire « il est impossible de se raser soi-même, par conséquent, le barbier ne peut se raser lui-même, il sera donc bien obligé de se faire raser par un autre barbier »⁽⁶⁾.

En bref, et même si l'histoire retiendra la solution de Zermelo, on peut tout de même admirer la détermination de Bertrand Russel, qui a passé sa vie à répondre à des questions qu'avant lui personne ne s'était posées, et pas seulement en mathématiques. Si un illustre contributeur souhaite écrire un omnilogisme sur le monsieur, qu'il ne s'en prive pas, il serait surpris de toutes les anecdotes qui existent à son sujet.

---

1. ⁽¹⁾ ↑ Bien malin celui qui viendrait me corriger en arguant que la date de parution de cet article est postérieure à 1902 de plus d'un siècle ; il s'agit là d'un présent historique, vous vous en doutez bien.
2. ⁽²⁾ ↑ 1902, donc. Suivez un peu.
3. ⁽³⁾ ↑ Pour un écrivain scientifique, il est peu d'infortunes pires que de voir l'une des fondations de son travail s'effondrer alors que celui-ci s'achève. C'est dans cette situation inconfortable que m'a mis une lettre de M. Bertrand Russell, alors que le présent volume allait paraître.
4. ⁽⁴⁾ ↑ Toujours en 1902, si vous êtes attentifs.
5. ⁽⁵⁾ ↑ L'auteur n'est pas avéré de manière sûre. Tous ses contemporains attribuent ladite formulation audit Bertrand, cependant, il sous-entend lui-même n'en être pas l'auteur, il déclare même que cette formulation est trop imprécise pour retranscrire de manière complète le paradoxe. Tant pis pour nous, nous utiliserons cette formulation quand même, parce qu'elle a le mérite d'être claire.
6. ⁽⁶⁾ ↑ Une troisième solution, la théorie des classes, n'est pas explorée ici, car il s'agit simplement d'une extension de la théorie de Zermelo, qui permet d'avoir malgré tout une compréhension non restreinte bien pratique pour définir des ensembles. Sans trop m'étendre, je vais résumer cette théorie en disant qu'elle fait la différence entre Alfred Durand, l'homme dont le métier est d'être barbier, et le barbier, qui est une entité, mais pas un homme. Le barbier peut donc raser Alfred Durand sans qu'il se rase lui-même, car barbier, c'est un métier, et un métier, ça n'a pas de barbe.