Théorie des ensembles

Les ordinaux et la récurrence transfinie

Les entiers servent à compter, mais aussi à ranger : premier, deuxième, troisième… Cantor a prolongé ce rangement au-delà du fini. Après tous les entiers vient ω, puis ω + 1, ω + 2…, puis ω·2, ω², ωω… Ces ordinaux mesurent la longueur des bons ordres, et ils portent un outil de démonstration plus fort que la récurrence ordinaire : la récurrence transfinie, qui franchit les étapes limites. La page construit ces ordinaux, calcule avec eux de deux manières indépendantes et montre ce que la récurrence transfinie permet de démontrer.

Vue d'ensemble

Un bon ordre est un ordre total dans lequel toute partie non vide a un plus petit élément. Deux bons ordres ont le même ordinal quand une bijection croissante les relie. Von Neumann (1923) choisit pour chaque ordinal un représentant canonique : l'ensemble des ordinaux plus petits. Ainsi 3 = {0, 1, 2}, et ω = {0, 1, 2, …} = ℕ.

OrdinalEnsemble de ses prédécesseursNature
0∅zéro
3{0, 1, 2}successeur de 2 : 3 = 2 ∪ {2}
ω{0, 1, 2, 3, …}limite : pas de prédécesseur immédiat, ω = ⋃ n
ω + 1{0, 1, 2, …, ω}successeur de ω
ω·2{0, 1, …, ω, ω + 1, …}limite des ω + n
ω²{0, …, ω, …, ω·2, …, ω·3, …}limite des ω·n
Les ordinaux inférieurs à ω², dessinés comme des allumettes : chaque groupe est une copie de ω, comprimée pour tenir dans la page, et les groupes se suivent en se rétrécissant. Le curseur rouge parcourt la suite des ordinaux ; chaque grand trait marque un ordinal limite.
1

Les bons ordres : toute descente s'arrête

Un ordre est bon exactement quand il n'existe pas de suite infinie strictement décroissante.

Dans ℕ, on ne peut pas descendre indéfiniment : en partant de 100, il faudra s'arrêter à 0 au bout d'au plus 100 pas. Dans ℤ ou dans ℚ, au contraire, on peut toujours descendre plus bas. La page joue ici à « descendre au hasard » dans six ensembles ordonnés : à chaque pas, elle choisit au hasard un élément strictement plus petit. Dans un bon ordre, la descente finit toujours, même quand le nombre de pas n'est borné par rien à l'avance. C'est ce qui se passe dans ℕ × ℕ rangé lexicographiquement : on peut descendre de (1, 0) vers (0, 1 000 000), puis encore un million de fois.

L'ensemble ordonné dessiné de gauche (petit) à droite (grand), et une descente au hasard : chaque flèche mène à un élément strictement plus petit. Dans un bon ordre, la descente s'arrête ; sinon, elle est interrompue au bout de 60 pas, sans fin en vue.
La descente en cours
2 000 descentes au hasard (interrompues à 400 pas)
Bon ordre ? · plus petit élément de 1 000 parties tirées au hasard
2

La suite des ordinaux : successeurs et limites

Tout ordinal non nul est soit un successeur, soit une limite.

Un ordinal α a un successeur α + 1 = α ∪ {α}. Un ordinal non nul qui n'est le successeur de personne est un ordinal limite : c'est la réunion de tous ceux qui le précèdent. On l'atteint par une suite qui grimpe vers lui sans l'atteindre, sa suite fondamentale : ω = sup(1, 2, 3, …), ω·2 = sup(ω + 1, ω + 2, …), ω² = sup(ω, ω·2, ω·3, …). Tout ordinal inférieur à ω³ s'écrit de façon unique ω²·a + ω·b + c. C'est un successeur si c ≠ 0, et une limite si c = 0 sans que l'ordinal soit nul. Choisissez α : ses prédécesseurs, c'est-à-dire ses éléments, s'allument en bleu.

Les ordinaux inférieurs à ω²·3, en trois grands blocs ω² faits chacun de copies de ω. En bleu, les éléments de α (tous les ordinaux plus petits) ; en rouge, α lui-même. Pour un ordinal limite, les points orange de sa suite fondamentale grimpent vers lui.
α et sa nature
Seconde méthode : α a-t-il un plus grand élément ?
Suite fondamentale et borne supérieure
3

La récurrence transfinie

Trois cas au lieu de deux : zéro, le successeur, et la limite.

Pour démontrer qu'une propriété P(α) est vraie pour tous les ordinaux, il suffit de prouver trois choses. D'abord P(0). Ensuite, si P(α) est vraie, P(α + 1) l'est aussi. Enfin, pour un ordinal limite λ, si P(β) est vraie pour tous les β < λ, alors P(λ) l'est aussi. En effet, s'il existait un contre-exemple, il y en aurait un plus petit, puisque les ordinaux sont bien ordonnés, et aucun des trois cas ne le permet. Le même schéma sert à définir une fonction. L'addition se définit ainsi : α + 0 = α, α + (β + 1) = (α + β) + 1, et α + λ = sup{α + β : β < λ}. Pour la multiplication : α·0 = 0, α·(β + 1) = α·β + α, et α·λ = sup{α·β : β < λ}. La page calcule chaque résultat de deux façons : en déroulant cette définition (le sup étant lu sur la suite fondamentale), et par les formules de Cantor sur la forme normale ωk·c + …

α :
β :
α + β, c'est α (bleu) suivi de β (orange) ; la ligne verte dessine l'ordinal obtenu. Avec α = 1 et β = ω, une allumette placée devant ω ne change rien : 1 + ω = ω, alors que ω + 1 a un dernier élément.
Sommes : formule de Cantor · récurrence transfinie
Produits : formule de Cantor · récurrence transfinie
La définition déroulée
Contrôle sur 20 couples tirés au hasard (jusqu'à ω²·3)
4

Une arithmétique qui ne commute pas

Les ordinaux s'additionnent et se multiplient, mais l'ordre des facteurs compte.

Comme l'addition consiste à mettre deux files bout à bout, elle n'est pas commutative : 1 + ω = ω, mais ω + 1 > ω. Le produit α·β est la file β dans laquelle on remplace chaque élément par une copie de α. Ainsi 2·ω, ω copies de 2, donne ω, alors que ω·2, deux copies de ω, donne ω + ω. Certaines lois survivent : l'associativité, la distributivité à gauche α·(β + γ) = α·β + α·γ, la simplification à gauche. D'autres tombent : la commutativité, la distributivité à droite, la simplification à droite. La page met chaque loi à l'épreuve sur 8 000 triplets tirés au hasard parmi les ordinaux inférieurs à ω³. Elle compare enfin avec la somme naturelle de Hessenberg, qui additionne les formes normales terme à terme et redevient commutative.

Proportion de triplets qui mettent chaque loi en défaut, sur 8 000 tirages. Les lois vraies restent à 0 ; la loi choisie est encadrée.
Le premier contre-exemple trouvé pour la loi choisie : membre de gauche en haut, membre de droite en bas, dessinés comme des files d'allumettes. Pour une loi vraie, les deux dessins coïncident.
Le contre-exemple (ou l'exemple) de la loi choisie
Quelques calculs célèbres
Bilan des huit lois
5

Signature : l'hydre de Kirby-Paris, les dérivés de Cantor, la croissance rapide

Trois endroits où les ordinaux font un travail que les entiers ne peuvent pas faire.

Hercule combat une hydre en forme d'arbre. Il coupe une tête, c'est-à-dire une feuille. Si le cou coupé partait de la racine, rien ne repousse. Sinon, l'hydre fait repousser plusieurs copies du nœud qui portait la tête, tel qu'il est après la coupe, et les accroche un étage plus bas. Les copies sont au nombre de n à l'étape n dans la règle de Kirby et Paris (1982). L'hydre grossit souvent de façon vertigineuse, et pourtant Hercule gagne toujours, quelle que soit sa stratégie. La raison est qu'on peut attacher à chaque hydre un ordinal inférieur à ε₀ : une feuille vaut 0, et un nœud vaut ωa + ωb + … (somme naturelle) pour des enfants de valeurs a, b… Chaque coupe fait baisser strictement cet ordinal, et une suite strictement décroissante d'ordinaux est finie. Kirby et Paris ont montré que l'arithmétique de Peano ne peut pas démontrer ce théorème : il faut la récurrence transfinie jusqu'à ε₀. Cliquez sur une tête pour la couper.

repousse :
L'hydre, racine en bas. Les têtes sont les ronds verts ; cliquez sur l'une d'elles pour la couper. Quand Hercule joue seul, il coupe toujours la tête la plus à droite.
L'hydre en ce moment
L'ordinal de l'hydre, coupe après coupe
Jusqu'au bout

C'est en étudiant les séries trigonométriques que Cantor rencontre les ordinaux, vers 1872. Le dérivé X′ d'une partie X de ℝ est l'ensemble de ses points d'accumulation : on retire les points isolés. En recommençant, on obtient X″, X‴… Pour les ensembles dessinés ici, chaque dérivation enlève un étage. Après un nombre fini k de dérivations, l'ensemble peut être encore non vide. Cantor définit alors X(ω) comme l'intersection de tous les X(k), puis continue avec X(ω+1), et ainsi de suite. Les indices transfinis sont nés là, comme étiquettes d'une opération répétée au-delà du fini. Le dernier ensemble proposé a besoin de ω + 1 dérivations pour disparaître.

Ligne du haut : l'ensemble X, fait de copies de plus en plus petites qui s'accumulent vers la gauche de chaque point. Chaque ligne suivante est le dérivé de la précédente : les points isolés (en gris) disparaissent, et les points d'accumulation (en couleur) restent.
Les dérivés successifs (points dessinés)
Seconde méthode : un point est isolé si sa distance au plus proche voisin ne diminue pas quand on raffine le dessin

La récurrence transfinie fabrique aussi des fonctions. On pose f₀(n) = n + 1, puis fk+1(n) = fk(fk(…fk(n)…)) avec n applications, et, à l'étape limite, fω(n) = fn(n), en suivant la suite fondamentale de ω. On obtient f₁(n) = 2n, f₂(n) = n·2n, puis f₃, qui empile déjà des tours d'exposants. fω croît plus vite que toutes les fk, et l'on peut continuer : fω+1, fω·2, fω²… Au niveau ε₀, la fonction fε₀ domine toute fonction dont l'arithmétique de Peano sait démontrer qu'elle est définie partout. C'est encore ε₀ qui mesure la force de cette théorie, comme pour l'hydre.

Le nombre de chiffres de fk(n), en échelle logarithmique, pour k = 0 à 3 et n = 1 à 4. Les flèches signalent les valeurs qui sortent du dessin.
Valeurs de fk(n)
Contrôles : itération exacte contre formules

Une brève histoire

1872Cantor itère l'opération de dérivation sur les ensembles de points, à propos de l'unicité des séries trigonométriques.
1883Dans les Grundlagen, Cantor introduit les nombres transfinis ω, ω + 1, …, et leurs deux principes de génération.
1897Burali-Forti : l'ensemble de tous les ordinaux ne peut pas exister.
1904Zermelo démontre, avec l'axiome du choix, que tout ensemble peut être bien ordonné.
1906Hessenberg définit la somme naturelle des ordinaux.
1923Von Neumann : un ordinal est l'ensemble des ordinaux qui le précèdent.
1936Gentzen prouve la cohérence de l'arithmétique de Peano par une récurrence transfinie jusqu'à ε₀.
1982Kirby et Paris : l'hydre est toujours vaincue, mais Peano ne peut pas le démontrer.

En résumé

Ranger au-delà du fini

Un ordinal est la longueur d'un bon ordre ; selon von Neumann, c'est l'ensemble de ses prédécesseurs. Tout ordinal non nul est un successeur ou une limite.

Trois cas pour démontrer

La récurrence transfinie traite zéro, le successeur et la limite ; elle repose sur le seul fait que toute descente d'ordinaux est finie.

Une arithmétique à part

1 + ω = ω ≠ ω + 1 et 2·ω = ω ≠ ω·2 : l'addition et le produit des ordinaux ne commutent pas, mais restent associatifs.

Pour aller plus loin

ε₀ est le plus petit ordinal tel que ωε₀ = ε₀, la limite de ω, ωω, ωωω… Tous les ordinaux inférieurs à ε₀ s'écrivent avec la forme normale de Cantor, et c'est exactement l'outil utilisé pour l'hydre.

Le paradoxe de Burali-Forti. Si l'ensemble de tous les ordinaux existait, ce serait lui-même un ordinal, strictement plus grand que tous les ordinaux, donc plus grand que lui-même. La « classe » des ordinaux n'est pas un ensemble.

Ordinaux et cardinaux. ω, ω + 1, ω·2, ω² et ε₀ sont tous dénombrables : ils ont le même cardinal ℵ₀ mais des longueurs différentes. Le premier ordinal non dénombrable est ω₁, et l'on définit ℵ₁ comme son cardinal.

Liens. La construction des nombres, les ensembles infinis, les cardinaux, les fondements de la théorie des ensembles (suites de Goodstein), le raisonnement par récurrence.