Histoire de la théorie des ensembles

Galilée renonce, Bolzano s'étonne, Dedekind en fait une définition.

En 1638, dans les Discours concernant deux sciences nouvelles, Galilée apparie chaque entier à son carré. Il y a donc « autant » de carrés que d'entiers, alors que les carrés se raréfient. Il en conclut que « plus grand », « plus petit » et « égal » n'ont pas de sens pour l'infini. Dans les Paradoxes de l'infini, publiés en 1851 après sa mort, Bolzano observe la même chose pour les segments. La correspondance y = 12x/5 apparie chaque point de [0 ; 5] à un point de [0 ; 12], sans oubli ni répétition, et pourtant le second segment est plus long. Il y voit une curiosité. Dedekind, en 1888, renverse la perspective : un ensemble est infini précisément quand il est en bijection avec une de ses parties strictes. Le « paradoxe » devient une définition.

Le carré n'a pas plus de points que le segment.

En 1874, Cantor publie que les nombres algébriques se rangent en une liste, alors que les réels ne le peuvent pas : il existe deux tailles d'infini. Il se demande alors si le carré a « plus » de points que le côté. Le 20 juin 1877, il écrit à Dedekind qu'il n'en est rien : on entrelace les chiffres. Le point (x, y) = (0,a₁a₂a₃…, 0,b₁b₂b₃…) devient le nombre z = 0,a₁b₁a₂b₂a₃b₃… Le 29 juin, il ajoute, en français dans sa lettre en allemand : « Je le vois, mais je ne le crois pas. » Dedekind relève aussitôt une faille. Pour que l'écriture soit unique, Cantor utilise des développements illimités (0,0999… au lieu de 0,1). Mais alors certains z ne sont l'image d'aucun couple, et l'application n'est qu'injective. Cantor répare la preuve en passant par les fractions continues. En 1878, il publie le résultat, qui ébranle l'idée même de dimension.

« L'ensemble de tous les ensembles qui ne se contiennent pas » n'existe pas.

Frege avait fondé l'arithmétique sur un principe apparemment évident : toute propriété définit un ensemble. En juin 1901, Russell en tire une contradiction, et il l'écrit à Frege le 16 juin 1902, alors que le second volume des Lois fondamentales de l'arithmétique est sous presse. Frege répond aussitôt que la découverte ébranle le fondement sur lequel il comptait bâtir l'arithmétique. D'autres paradoxes l'avaient précédée : celui de Burali-Forti en 1897, sur le « plus grand ordinal », et celui que Cantor signale à Dedekind en 1899, sur l'« ensemble de tous les ensembles ». Voici le paradoxe de Russell sous une forme concrète. Une bibliothèque contient des catalogues, et chacun cite certains catalogues, parfois lui-même. Peut-on rédiger le catalogue R de tous les catalogues qui ne se citent pas eux-mêmes ? Comme catalogue extérieur, oui. Mais on ne peut pas le ranger dans la bibliothèque : qu'il se cite ou non, il se contredit.

Zermelo remplace « toute propriété définit un ensemble » par une liste de règles précises.

En 1908, Zermelo publie sept axiomes : l'extensionnalité, les ensembles élémentaires (∅, {a}, {a, b}), la séparation (on ne forme {x ∈ A : P(x)} qu'à l'intérieur d'un ensemble A déjà donné, ce qui désamorce Russell), l'ensemble des parties, la réunion, le choix et l'infini. En 1922, Fraenkel et Skolem ajoutent le remplacement. Sans lui, par exemple, on ne peut pas réunir en un seul ensemble ℕ, P(ℕ), P(P(ℕ)), … Von Neumann (1925) puis Zermelo (1930) ajoutent la fondation, qui interdit x ∈ x et les descentes infinies. Le système ZFC est alors en place. Les entiers eux-mêmes ont changé d'écriture. Zermelo posait 0 = ∅ et n + 1 = {n}, si bien que chaque entier non nul n'a qu'un seul élément. Von Neumann (1923) pose n + 1 = n ∪ {n}, si bien que n a exactement n éléments et que m < n signifie m ∈ n. C'est son écriture qui s'est imposée, car elle se prolonge naturellement aux ordinaux infinis.

Qui a lu qui, et comment une question peut n'avoir pas de réponse.