Pourquoi la fréquence finit par révéler la probabilité — et ce que la loi ne promet pas.
Lançons une pièce : la proportion de piles obtenue se rapproche de 1/2 à mesure que les lancers s’accumulent. Ce constat, que tout le monde pressent, est un théorème : la loi des grands nombres. Elle affirme que la moyenne de n réalisations indépendantes d’une même variable aléatoire se rapproche de son espérance quand n grandit. C’est elle qui donne un sens concret à une probabilité, qui justifie les sondages, les simulations, l’assurance et la rentabilité des casinos.
Énoncé
Ce qu’il affirme
Auteur
Loi faible
pour tout écart ε > 0, P(|X̄ₙ − μ| ≥ ε) tend vers 0 quand n tend vers l’infini
Jacques Bernoulli (1713) pour les fréquences ; Tchebychev (1867) en général
Loi forte
avec probabilité 1, la suite X̄ₙ tend vers μ : presque toutes les trajectoires convergent
Borel (1909) pour les fréquences ; Kolmogorov (1930) en général
Vitesse
l’écart typique est σ/√n : il faut 100 fois plus d’essais pour gagner un chiffre
De Moivre (1733), Laplace (1812)
Conditions
variables indépendantes, de même loi, d’espérance finie
la planche 5 montre ce qui arrive sans indépendance
1
Mesurer la convergence : la probabilité de se tromper
Fixons une tolérance ε, par exemple 2 points de pourcentage. Après n lancers d’une pièce de probabilité p, quelle est la probabilité que la fréquence observée s’écarte de p de plus de ε ? La loi binomiale la donne exactement. La loi des grands nombres dit seulement qu’elle tend vers 0. Deux inégalités en donnent une majoration utilisable sans calcul : celle de Bienaymé-Tchebychev, pq/(nε²), et celle de Hoeffding, 2e^(−2nε²), bien plus fine pour les grands n.
Quarante trajectoires de la fréquence de succès, en échelle logarithmique pour le nombre de lancers. La bande verte est p ± ε ; les trajectoires qui en sortent au dernier lancer sont rouges.
P(|fₙ − p| ≥ ε) selon n, en échelles logarithmiques : valeur exacte (bleu), majoration de Tchebychev (violet), majoration de Hoeffding (rouge). Le trait gris marque le n réglé.
P(|fₙ − p| ≥ ε) exacte (loi binomiale)—
Majoration de Tchebychev pq/(nε²)—
Majoration de Hoeffding 2e^(−2nε²)—
Lancers nécessaires pour une erreur ≤ ε avec 95 % de confiance—
La probabilité exacte décroît à une vitesse exponentielle, alors que Tchebychev ne garantit qu’une décroissance en 1/n : c’est pourquoi Tchebychev demande des tailles d’échantillon beaucoup trop grandes. Pour atteindre ±2 points avec 95 % de confiance quand p = 1/2, il faut environ 2 400 lancers selon le calcul exact, plus de 4 600 selon Hoeffding et 12 500 selon Tchebychev. Jacques Bernoulli, qui ne disposait que d’inégalités grossières, annonçait 25 550 essais pour un problème voisin.
2
Ce que la loi ne dit pas : les écarts ne se compensent pas
Un joueur a obtenu 60 piles et 40 faces. « Les faces vont rattraper leur retard », pense-t-il. C’est faux : la pièce n’a pas de mémoire. La fréquence se rapproche de 1/2 non pas parce que l’écart se comble, mais parce qu’il est noyé dans un nombre croissant de lancers. L’écart absolu entre le nombre de piles et n/2 grandit même, en moyenne comme √n ; seul l’écart relatif, divisé par n, se réduit.
En haut : la fréquence de piles moins 1/2, pour 200 joueurs (gris) dont quatre en couleur ; elle se resserre vers 0. En dessous : l’écart absolu « piles − n/2 » des mêmes joueurs ; il s’étale comme ±√n (pointillés).
Écart-type de la fréquence : mesuré et √(pq/n)—
|piles − n/2| moyen : mesuré et exact—
Joueurs encore au-dessus de 1/2 après avoir mené à 100 lancers—
Loi faible et loi forte—
La loi faible regarde un instant n : la proportion de joueurs hors de la bande ±ε y devient petite. La loi forte regarde toute la suite : la proportion de joueurs qui sortiront encore de la bande après l’instant n tend aussi vers 0 — chaque trajectoire finit par y rester pour toujours. Mais à aucun moment le hasard ne « corrige » le passé : l’avance d’un joueur a autant de chances de grandir que de diminuer.
3
Une application célèbre : calculer π avec des aiguilles
En 1777, Georges-Louis Leclerc de Buffon pose ce problème : on jette une aiguille de longueur L sur un parquet dont les lattes ont une largeur d ≥ L. Quelle est la probabilité qu’elle coupe une rainure ? La réponse, 2L/(πd), fait apparaître π. Par la loi des grands nombres, la fréquence des aiguilles qui coupent une rainure se rapproche de cette probabilité ; on peut donc mesurer π en jetant des aiguilles : π ≈ 2L·n / (d·k), où k est le nombre d’aiguilles qui coupent.
À gauche, le parquet et les aiguilles jetées : rouges si elles coupent une rainure. À droite, l’estimation de π selon le nombre d’aiguilles (échelle logarithmique), avec la bande π ± 2 écarts-types.
Aiguilles jetées / qui coupent une rainure0
Estimation de π—
Contrôle : P(couper) par intégration sur l’angle—
Aiguilles nécessaires pour 3 décimales justes (95 %)—l’écart-type décroît comme 1/√n
La méthode est exacte mais lente : l’erreur ne diminue qu’en 1/√n, si bien qu’il faut des centaines de millions d’aiguilles pour trois décimales. En 1901, l’Italien Mario Lazzarini prétendit avoir obtenu π ≈ 355/113 = 3,1415929 avec 3 408 jets : un résultat bien trop beau, qu’on explique aujourd’hui par un arrêt choisi au bon moment. C’est pourtant l’ancêtre direct des méthodes de Monte-Carlo, qui calculent des intégrales impossibles à obtenir autrement, en physique comme en finance.
4
Assurance et casino : le risque qui disparaît avec le nombre
Un individu ne sait pas s’il aura un sinistre cette année ; un assureur qui couvre des milliers de clients sait presque exactement combien il en aura. La loi des grands nombres transforme une incertitude individuelle en quasi-certitude collective : c’est le principe de la mutualisation des risques. Le casino en tire le même bénéfice, avec un léger avantage à chaque mise.
Chaque client a la probabilité p d’un sinistre dans l’année, qui coûte 10 000 €. L’assureur fait payer la prime pure p × 10 000 €, augmentée d’un chargement de sécurité θ. Il est en perte si les sinistres dépassent les primes encaissées.
À gauche, la loi exacte du coût total des sinistres pour le nombre de clients choisi, rapportée aux primes encaissées (trait vert) ; en rouge, les cas de perte. À droite, la probabilité de perte selon le nombre de clients (échelles logarithmiques).
P(perte) exacte (loi binomiale)—
Contrôle : approximation normale—
Clients nécessaires pour P(perte) ≤ 1 %—
À la roulette, un joueur mise 1 € sur le rouge : il gagne 1 € avec la probabilité 18/37, perd 1 € sinon. Le casino gagne en moyenne 1/37 € par mise, soit 2,7 centimes. Sur une seule mise, le casino perd presque une fois sur deux ; sur des millions de mises, presque jamais.
Probabilité que le casino soit en perte après n mises de 1 € sur le rouge (calcul exact), en échelle logarithmique pour le nombre de mises ; le point rouge correspond au réglage.
P(casino en perte) exacte—
Contrôle : approximation normale—
Gain attendu du casino et écart-type—
L’espérance du gain grandit comme n, l’écart-type seulement comme √n : leur rapport tend vers l’infini, et la probabilité de perte tend vers 0. Mais deux conditions comptent : l’indépendance des risques — une tempête ou une épidémie frappe tous les clients à la fois, et la mutualisation ne protège plus — et l’existence d’un chargement θ > 0. Sans marge, un assureur perdrait près d’une fois sur deux quel que soit son nombre de clients.
5
Signature — quand les tirages ont une mémoire
La loi des grands nombres suppose des tirages indépendants. Que se passe-t-il quand chaque résultat influence les suivants ? Deux exemples aux conclusions opposées. Une chaîne de Markov, comme une météo où le temps de demain dépend de celui d’aujourd’hui, obéit encore à une loi des grands nombres, mais plus lentement. L’urne de Pólya, où chaque tirage renforce la couleur tirée, voit aussi sa fréquence converger… mais vers une limite aléatoire, différente pour chaque expérience.
S’il fait beau aujourd’hui, il pleut demain avec la probabilité a ; s’il pleut, il fait beau demain avec la probabilité b. Sur le long terme, la proportion de jours de beau temps tend vers b/(a + b), quel que soit le temps du premier jour. Mais les jours se ressemblent par séries, et la convergence est plus lente qu’avec des jours indépendants.
En haut, un calendrier de beau temps (jaune) et de pluie (bleu). En bas, la proportion de beaux jours pour quarante chroniques météo, en échelle logarithmique ; la bande verte est l’écart-type théorique, la bande grise celle qu’auraient des jours indépendants.
Proportion limite b/(a + b)—
Moyenne des quarante chroniques à 5 000 jours—
Facteur de lenteur (1 + λ)/(1 − λ), λ = 1 − a − b—
Une urne contient r boules rouges et v boules vertes. On tire une boule, on la remet avec une boule supplémentaire de la même couleur, et l’on recommence. Les riches s’enrichissent : une couleur en avance a plus de chances d’être tirée. La proportion de rouges converge, mais sa limite suit la loi bêta (r ; v) : partant d’une boule de chaque couleur, toutes les limites entre 0 et 1 sont également probables.
À gauche, cinquante urnes : la proportion de rouges se stabilise, mais chacune à sa propre valeur. À droite, la répartition des proportions après 1 000 tirages sur 5 000 urnes (barres) et la densité bêta (r ; v) (courbe).
Moyenne des limites : r/(r + v)—
Dispersion des limites : écart-type de la loi bêta—
Contrôle exact après n tirages (loi bêta-binomiale)—
La météo de Markov obéit à une loi des grands nombres « ergodique » : la dépendance s’oublie avec le temps, et la proportion converge vers la même valeur pour tout le monde, avec seulement un facteur de lenteur. L’urne de Pólya, elle, garde à jamais la trace de ses premiers tirages : la fréquence converge, mais vers une limite qui dépend du hasard du début. C’est le modèle mathématique de la « dépendance au chemin » : une technologie, une langue ou une ville qui prend l’avantage par hasard peut le garder pour toujours.
Repères historiques
1713Publication posthume de l’Ars Conjectandi de Jacques Bernoulli : première démonstration que la fréquence converge vers la probabilité, son « théorème d’or ».
1777Buffon publie le problème de l’aiguille dans son Essai d’arithmétique morale.
1837Siméon Denis Poisson invente l’expression « loi des grands nombres ».
1867Pafnouti Tchebychev démontre la loi faible pour des variables quelconques de variance bornée, grâce à son inégalité.
1906Andreï Markov étend la loi des grands nombres à des variables dépendantes, en inventant les chaînes qui portent son nom, pour répondre à Nekrassov qui soutenait que l’indépendance était indispensable.
1909Émile Borel démontre la loi forte pour les fréquences ; Kolmogorov la généralise en 1930.
1923George Pólya et Florian Eggenberger étudient l’urne qui porte leur nom, pour modéliser la contagion.
1963Wassily Hoeffding publie son inégalité, qui donne une décroissance exponentielle des erreurs.
Ce qu’il faut retenir
La moyenne converge
La moyenne de n tirages indépendants se rapproche de l’espérance, avec une erreur typique σ/√n. La probabilité d’un écart donné décroît exponentiellement vite.
Les écarts ne se rattrapent pas
La fréquence converge parce que l’écart absolu, qui grandit en √n, est divisé par n. Le hasard n’a pas de mémoire et ne « compense » jamais.
L’indépendance compte
Avec une dépendance qui s’oublie (Markov), la loi tient encore, plus lentement. Avec une dépendance qui se renforce (Pólya), la fréquence converge vers une limite elle-même aléatoire.
Pour aller plus loin
Démonstration de la loi faible. La moyenne X̄ₙ a pour variance σ²/n. L’inégalité de Bienaymé-Tchebychev donne P(|X̄ₙ − μ| ≥ ε) ≤ σ²/(nε²), qui tend vers 0. C’est la démonstration de Tchebychev ; la loi forte demande des outils plus fins (lemme de Borel-Cantelli).
Et après ? Le théorème central limite précise la forme des fluctuations : √n(X̄ₙ − μ)/σ suit approximativement une loi normale. La loi du logarithme itéré donne la taille exacte des plus grands écarts : √(2n ln ln n).
Quand l’espérance n’existe pas. Pour la loi de Cauchy, la moyenne de n tirages a la même loi qu’un seul tirage : aucune convergence. La page sur la théorie des probabilités le montre en détail.