Les pièges de la pensée rationnelle

Autre exemple, qui n’a rien à voir, même s’il y est aussi question de forçats, mais de la route cette fois : le Tour de France. N’a-t-il pas besoin, quant à lui, de son lot d’étapes de montagne, ponctuées de cols de légende, pour s’élever lui-même jusqu’au mythe ? Imaginez une Grande Boucle qui ne se courrait que sur du plat : quel ennui ! quelle tristesse ! Notre enthousiasme ne peut se déclencher que si, de temps en temps, les coureurs, ces athlètes virils aux jarrets d’acier, grimpent paradoxalement « en danseuse », comme on dit. Que s’ils portent sur leur visage le masque de la souffrance. Que s’ils pédalent les poumons sur les lèvres, au bord de l’asphyxie. Bref, nous réclamons de bien pouvoir voir qu’ils en bavent à la limite du collapse intégral. C’est la condition sine qua non pour que les voyeurs que nous sommes un peu jugent que le spectacle est magnifique. Mais cela vaut aussi et surtout pour la pensée : qu’elle soit scientifique ou philosophique, elle exige, elle aussi, pour avancer, que certaines conditions de possibilité soient réunies. Pour s’arracher à ses routines et se guérir de ses facilités, elle a besoin de se frotter au bizarre, au déroutant, au paradoxal, faute de quoi elle se fige en un cercle. Voilà pourquoi, pour quiconque aime un peu réfléchir, toute rencontre avec l’étrange a un parfum d’aubaine : c’est comme une chance, une invitation, un levier pour penser autrement, pour dépasser les idées reçues, pour élargir le spectre des conjectures.

Le paradoxe du menteur

L’entrée en bizarrerie n’exige pas qu’on parte très loin. Elle peut déjà se trouver au détour d’une simple phrase. Songez aux phrases dites « autoréférentes », dont le message contredit l’énoncé. Elles ont connu leur heure de gloire en Mai 68, sur les murs de Paris : « Il est interdit d’interdire » ; « Soyons réalistes, exigeons l’impossible ». Ces slogans intriguaient, car ce qu’ils impliquent n’est pas cohérent avec ce qu’ils signifient : s’il est interdit d’interdire, il devrait également être interdit d’interdire d’interdire, de sorte qu’on ne savait plus très bien dire ce qui se disait là ou s’interdisait là.

En fait, cette affaire des phrases autoréférentes était une vieille histoire. Elle avait commencé avec le paradoxe du menteur, attribué à Eubulide, un philosophe grec du IVe siècle avant J.-C. On demande à un menteur pathologique s’il ment alors même qu’il est précisément en train de mentir. S’il répond : « Oui, je mens », alors, de toute évidence, il ne ment pas, car si un menteur affirme qu’il ment, c’est qu’il dit la vérité. S’il répond : « Non, je ne mens pas », alors c’est qu’il ment puisqu’il est précisément en train de mentir. Toute réponse qu’il peut donner est condamnée à se contredire elle-même, ce qui enclenche une sorte de jeu de ping-pong faisant osciller la vérité d’un côté à l’autre du filet des possibles, indéfiniment. N’allons toutefois pas penser qu’il ne s’agit là que d’un jeu sans conséquence, car en vérité, avec ce genre de petits paradoxes aux allures badines, on peut vite se trouver projeté dans des problèmes d’une insondable gravité.

Prenons l’exemple du paradoxe dit « de Russell », énoncé au tout début du XXe siècle par Bertrand Russell, l’un des plus grands logiciens. Ce paradoxe démontre que des idées claires et distinctes, des idées « à la Descartes », même lorsqu’elles sont correctement manipulées, sans la moindre erreur de logique, peuvent engendrer de très grands troubles et même casser les os des cerveaux les plus solides.

Russell part de deux notions a priori claires et distinctes, celle d’ensemble d’une part, celle d’élément d’un ensemble d’autre part : un ensemble se définit par le fait qu’il contient des éléments ; un élément se définit par le fait qu’il appartient à un ensemble. Jusque-là, tout va tranquillement bien. Russell propose ensuite de classer les ensembles en deux catégories : d’un côté, les ensembles dits « normaux », de l’autre les ensembles dits « non normaux ». Un ensemble normal est un ensemble qui ne se contient pas lui-même comme élément. Par exemple, l’ensemble des physiciens n’étant pas lui-même un physicien, l’ensemble des physiciens est un ensemble normal. De même, l’ensemble des personnes qui ont le trac n’est pas une personne et il n’a pas le trac. Il ne se contient donc pas lui-même comme élément et est donc normal. Un ensemble non normal sera le contraire, c’est-à-dire un ensemble se contenant lui-même comme élément. Par exemple, l’ensemble de tous les ensembles étant un ensemble, il est non normal. Ou bien encore, l’ensemble des idées abstraites étant lui-même une idée abstraite, il se contient lui-même comme élément, donc il est lui aussi non normal.

Maintenant, appelons N l’ensemble de tous les ensembles normaux. La question à ne pas poser si l’on veut rester sain d’esprit ou éviter l’insomnie systématique est celle-ci : N est-il un ensemble normal ou un ensemble non normal ? Examinons les deux possibilités l’une après l’autre. Si N est normal, cela veut dire qu’il fait partie de l’ensemble de tous les ensembles normaux, donc il fait partie de lui-même, donc N se contient lui-même comme élément, donc il est… non normal ! Réciproquement, si N est non normal, c’est qu’il se contient lui-même comme élément, par définition, donc il est normal puisque N est l’ensemble de tous les ensembles normaux ! Bref, si N est normal, il est non normal, et si N est non normal, il est normal… On poursuit en quelque sorte le jeu de ping-pong entamé avec le paradoxe du menteur, sauf que là, il n’y a pas de mensonges… Il n’y a que de la vérité, donc c’est plus grave et ça doit être pris très au sérieux : une contradiction radicale se cache au cœur de la théorie des ensembles ! Pour mieux saisir la chose, on peut s’aider d’une petite histoire qui fut elle aussi proposée par Russell, en 1904. Elle raconte ceci :

Le Conseil municipal d’un village vote un arrêté qui enjoint à son barbier de raser tous les hommes du village qui ne se rasent pas eux-mêmes, et seulement ceux-ci. Le barbier, qui est un habitant du village, comprend vite qu’il se trouve mis dans une situation impossible et que sa vie va devenir un enfer. En effet, il ne peut en aucun cas respecter la règle qu’on lui impose, car :

– Soit il se rase lui-même. Dans ce cas, il enfreint la règle, puisque le barbier n’a le droit de raser que les hommes qui ne se rasent pas eux-mêmes.
– Soit il ne se rase pas lui-même – qu’il se fasse raser par quelqu’un d’autre ou qu’il conserve sa barbe. Dans ce second cas, il est également en tort, puisqu’il a l’obligation de raser tous les hommes qui ne se rasent pas eux-mêmes, sans exception. Or, s’il ne se rase pas lui-même, cela fait une exception. En clair, le barbier ne peut pas se raser lui-même en même temps qu’il ne peut pas ne pas le faire. Ainsi, au détour d’un simple arrêté municipal, la raison disjoncte. Celle du barbier, qui ne sait plus ce qu’il doit faire, et la nôtre aussi, car si le barbier nous demandait comment nous pourrions l’aider, nous donnerions notre langue au chat de Schrödinger.

Ce qui est remarquable, c’est que ce tout petit paradoxe de Russell, avec ses diverses déclinaisons, a suffi à engendrer dans l’esprit des mathématiciens un trouble terrible, qui a fini par déclencher une crise épouvantable, qu’on a baptisée la « crise des fondements des mathématiques ». Elle a abouti à la formulation en 1931 d’un théorème très perturbant, le théorème de Gödel, qui est un théorème d’indécidabilité. Kurt Gödel, qui n’a alors que 25 ans, établit en effet que tout système axiomatique basé sur l’arithmétique contient au moins une proposition « indécidable », c’est-à-dire une proposition dont on ne peut pas démontrer si elle est vraie ou fausse, ce qui mit fin au rêve d’une cohérence absolue que les mathématiques permettraient de construire. Comme vous le savez sans doute, Gödel, qui fut l’ami d’Einstein à Princeton, finit sa vie en mauvaise santé mentale, sans qu’on puisse exclure que c’est son travail de logicien qui aurait dégradé son psychisme…

Les idées « claires et distinctes » ont donc elles aussi leurs pièges, qui surgissent au nez et (surtout) à la barbe des meilleurs esprits.