Deux variables aléatoires indépendantes X et Y. Que vaut la loi de Z = X + Y ? Cinq planches pour voir, manipuler et vérifier le produit de convolution, des dés jusqu'aux densités.
0
L'idée en une phrase
Pour connaître la probabilité que la somme vaille z, on fait la liste de toutes les façons d'obtenir z — X vaut k et Y vaut z − k — et on additionne leurs probabilités. Grâce à l'indépendance, la probabilité de chaque façon est simplement un produit.
Quelques mots d'abord. Une variable aléatoire est un nombre qui dépend du hasard (le résultat d'un dé, une durée d'attente). Sa loi dit avec quelle probabilité elle prend chaque valeur ; pour une variable continue, on la décrit par une densité f : la probabilité de tomber dans un petit intervalle de largeur dx vaut à peu près f(x)·dx. Deux variables sont indépendantes lorsque connaître l'une ne renseigne pas sur l'autre : P(X = k et Y = j) = P(X = k) · P(Y = j).
Cas discret
P(Z = z) = Σk P(X = k) · P(Y = z − k)
Cas continu
fZ(z) = ∫ fX(x) · fY(z − x) dx
Cette opération qui fabrique une loi à partir de deux autres s'appelle le produit de convolution et se note fZ = fX ∗ fY. Le mot vient du latin convolvere, « enrouler ensemble » : on va voir qu'il faut retourner l'une des deux lois avant de la faire glisser sur l'autre.
loi de Xloi de Yloi de la somme Zformule exacte de contrôlevaleur z étudiée, point d'attention
Planche
Question posée
Ce que l'on vérifie
1 · Deux dés
Pourquoi 7 sort-il plus souvent que 2 ?
Loi exacte contre 100 000 lancers ; espérances et variances qui s'ajoutent
2 · Renverser, glisser
Comment la somme devient-elle une intégrale ?
Intégrale numérique contre formule exacte (trapèze, loi gamma…)
3 · Le plan des couples
Que mesure fZ(z) géométriquement ?
Aire d'un polygone contre formule ; ce qui se passe sans indépendance
4 · Familles stables
Quand la somme reste-t-elle dans la même famille ?
Poisson, binomiale, géométrique : écarts nuls ou non
5 · Les dés qui trompent
La loi de la somme permet-elle de retrouver les dés ?
Dés de Sicherman ; impossibilité d'une somme uniforme
1
Deux dés : compter les chemins vers chaque somme
Pourquoi 7 sort-il plus souvent que 2 ? Parce qu'il y a six couples qui donnent 7 et un seul qui donne 2. Le tableau des 36 couples rend la convolution visible : chaque somme est une diagonale.
Les 36 couples (x, y). Dans chaque case : la somme x + y ; la teinte est proportionnelle à la probabilité p(x)·q(y). En haut, la loi de X (bleu) ; à gauche, celle de Y (orange). La diagonale rouge rassemble les couples dont la somme vaut z.
Loi de Z = X + Y (barres violettes), la barre rouge est la valeur z choisie. Les traits noirs sont les fréquences observées sur les lancers simulés.
P(Z = z) par la convolution—
E[Z] calculée sur la loi de Z—
E[X] + E[Y] · écart—
Var Z − (Var X + Var Y)—
Σ P(Z = z) − 1—
Lancers simulés · plus grand écart fréquence/probabilité—
Ce qu'il faut voir. Chaque case est un couple (x, y) ; sa probabilité est le produit p(x)·q(y) parce que les deux dés sont indépendants. Les cases d'une même diagonale donnent la même somme : la loi de Z se lit en additionnant les diagonales, c'est exactement la formule Σ P(X = k)·P(Y = z − k). Inclinez les dés avec les curseurs : la loi de Z se déforme, mais l'espérance et la variance de Z restent toujours la somme de celles de X et de Y (les écarts affichés sont de l'ordre de l'arrondi de la machine). Les lancers simulés finissent par coller à la loi calculée, avec un écart qui fond comme 1/√n.
2
Du discret au continu : renverser, glisser, intégrer
Quand X et Y ont des densités, la somme sur k devient une intégrale sur x. Le terme fY(z − x) se comprend en deux gestes : on renverse la densité de Y comme dans un miroir, puis on la fait glisser pour que son origine se pose en x = z. La valeur fZ(z) est l'aire du recouvrement.
① La densité de X (bleu) et celle de Y renversée puis glissée en z, fY(z − x) (orange). Le trait rouge marque x = z, là où se trouve l'origine de Y retournée.
② Le produit fX(x)·fY(z − x), nul hors du recouvrement. Son aire (en rouge) est fZ(z).
③ La densité de Z obtenue en refaisant l'opération pour chaque z (violet), la formule exacte (vert pointillé) et le point courant.
fZ(z) par intégration numérique (Simpson)—
fZ(z) par la formule exacte—
écart—
∫ fZ(z) dz − 1—
E[Z] − (E[X] + E[Y])—
Formule exacte utilisée—
Ce qu'il faut voir. Renverser, glisser, mesurer l'aire du recouvrement : voilà tout le calcul. Deux uniformes donnent un trapèze, qui devient un triangle quand les largeurs sont égales — la somme n'est plus uniforme, les valeurs du milieu ont plus de façons d'être atteintes. Deux exponentielles de même taux λ donnent la loi gamma λ²z e−λz, nulle en z = 0 : une somme de deux attentes est rarement très courte, alors qu'une seule attente l'est souvent. L'intégrale numérique est faite exactement sur l'intervalle où le produit n'est pas nul, ce qui évite les sauts de densité et donne une précision de l'ordre de 10⁻¹⁰.
3
La même somme vue dans le plan des couples
Que mesure fZ(z) géométriquement ? Plaçons chaque couple (x, y) dans le plan. L'événement « Z ≤ z » est le demi-plan sous la droite x + y = z : sa probabilité FZ(z), la fonction de répartition, est une aire. Et la densité fZ(z) est la masse portée par la droite elle-même.
X uniforme sur [0 ; a], Y uniforme sur [0 ; b] : sous l'indépendance, le couple est uniforme sur le rectangle. En violet, la région x + y ≤ z ; en rouge, la droite x + y = z.
Fonction de répartition FZ (violet plein) et densité fZ (violet pointillé). En mode « Y = X », la courbe orange montre ce que prédirait à tort la formule de convolution.
FZ(z) par l'aire du polygone—
FZ(z) par la formule—
écart—
fZ(z) = longueur du segment / (√2 · ab)—
fZ(z) par (F(z+h) − F(z−h)) / 2h—
écart—
Ce qu'il faut voir. Tant que la droite n'a coupé qu'un coin du rectangle, la région violette est un triangle d'aire z²/2 : FZ monte en parabole. Quand la droite traverse le rectangle de part en part, la longueur du segment ne change plus et la densité forme un plateau. Le √2 vient de la géométrie : deux droites x + y = z et x + y = z + dz sont écartées de dz/√2 seulement. Cochez ensuite « Y = X » : X et Y gardent la même loi uniforme, mais toute la masse se concentre sur la diagonale. Z = 2X est alors uniforme, alors que la convolution prédit un triangle : l'écart maximal mesuré, 0,125, rappelle que la formule exige l'indépendance.
4
Les familles qui se reproduisent par addition
Quand la somme reste-t-elle dans la même famille de lois ? On peut aussi lire la convolution comme une superposition : chaque valeur k de X dépose une copie de la loi de Y, décalée de k et pondérée par P(X = k). La loi de Z est la pile de toutes ces copies.
Barres : loi de Z calculée par convolution (violet une fois complète ; en couleurs pendant l'empilement, une couleur par valeur de X). Points verts : la loi annoncée par la formule de la famille. Points orange : la loi la plus proche dans la famille quand la somme en sort.
écart maximal à la loi annoncée—
Σ P(Z = k) − 1—
E[Z] − (E[X] + E[Y])—
Var Z − (Var X + Var Y)—
Var Z / variance de la loi de comparaison—
Couches empilées—
Ce qu'il faut voir. Poisson(λ) + Poisson(μ) donne exactement Poisson(λ + μ) : les appels reçus par deux standards indépendants forment encore un flux de Poisson. Deux binomiales de même p donnent la binomiale à n + m épreuves — on a seulement mis les épreuves bout à bout. Mais si p ≠ q, la somme sort de la famille : elle est moins dispersée que la binomiale de même moyenne (rapport des variances inférieur à 1). Deux géométriques donnent la loi de Pascal (attente du deuxième succès). Deux uniformes discrètes donnent un trapèze, jamais une uniforme : l'addition « bombe » les lois.
5
Les dés qui trompent la somme
La loi de la somme permet-elle de retrouver les deux dés ? Non : la convolution efface de l'information. Pour le voir, on code un dé par un polynôme dont le coefficient de xk est le nombre de faces portant k. Un dé ordinaire est D(x) = x + x² + x³ + x⁴ + x⁵ + x⁶. Le miracle : la convolution devient une multiplication, car en développant A(x)·B(x), le coefficient de xz compte exactement les couples de faces de somme z.
Le polynôme d'une paire de dés ordinaires se factorise : D(x)² = [x (1 + x)(1 + x + x²)(1 − x + x²)]². Voici ses huit facteurs. Cliquez sur un facteur pour le passer d'un dé à l'autre : le produit des deux dés ne change jamais, donc la loi de la somme non plus — reste à savoir si chaque dé est encore un vrai dé (six faces, nombres entiers au moins égaux à 1).
Table des 36 sommes des deux dés construits (couleur selon la somme).
Nombre de couples donnant chaque somme : dés construits (violet) et dés ordinaires (points verts).
Écart des comptes avec deux dés ordinaires (sur 36 couples)—
Répartitions des 8 facteurs essayées—
Paires de vrais dés obtenues (dans l'ordre / sans l'ordre)—
Ce qu'il faut voir. Pour que chaque dé ait six faces, il faut que son polynôme vaille 6 en x = 1 : il lui faut un (1 + x) et un (1 + x + x²), car (1 − x + x²) vaut 1 en x = 1. Pour qu'aucune face ne porte 0, il lui faut un facteur x. Seuls les deux facteurs (1 − x + x²) sont libres. Les mettre chacun dans un dé redonne les dés ordinaires ; les mettre tous deux dans le même donne les dés de George Sicherman, {1, 2, 2, 3, 3, 4} et {1, 3, 4, 5, 6, 8}, publiés par Martin Gardner en 1978. L'énumération des 256 répartitions le confirme : à l'ordre près, il n'y a que ces deux paires. Lancez les dés de Sicherman au café, personne ne pourra s'en apercevoir en regardant les sommes.
Peut-on piper deux dés (choisir librement les probabilités de leurs six faces) pour que les onze sommes de 2 à 12 soient également probables, chacune 1/11 ? Laissons un algorithme d'optimisation chercher : il ajuste les douze probabilités pour rapprocher la loi de Z de l'uniforme, par descente de gradient.
Loi de la somme des deux dés pipés (violet) et la cible 1/11 (rouge pointillé).
Probabilités des faces du dé A (bleu) et du dé B (orange) ; pointillé gris : 1/6.
Itérations—
Plus grand écart |P(Z = z) − 1/11| actuel—
Meilleur écart obtenu depuis le début—
P(Z = 2) · P(Z = 12)—
P(Z = 7)—
2 √(P(Z = 2) · P(Z = 12)), toujours ≤ P(Z = 7)—
Ce qu'il faut voir. L'algorithme bute sur un mur. La preuve tient en une ligne. Notons a₁, a₆ les probabilités des faces 1 et 6 du dé A, b₁, b₆ celles du dé B. Alors P(Z = 2) = a₁b₁ et P(Z = 12) = a₆b₆, tandis que 7 s'obtient au moins par (1, 6) et (6, 1) : P(Z = 7) ≥ a₁b₆ + a₆b₁ ≥ 2√(a₁b₆·a₆b₁) = 2√(P(Z = 2)·P(Z = 12)) (la moyenne arithmétique dépasse la moyenne géométrique). Si les trois sommes valaient 1/11, on aurait 1/11 ≥ 2/11 : impossible. La convolution « bombe » forcément le milieu : l'inégalité affichée reste vraie à chaque itération.
✦
Petite histoire de la somme
vers 1620Galilée explique aux joueurs florentins pourquoi, avec trois dés, 10 sort un peu plus souvent que 9, alors que les deux sommes s'écrivent de six manières : il compte les 216 triplets ordonnés, 27 contre 25.
1730Abraham de Moivre, dans ses Miscellanea analytica, compte les façons d'obtenir une somme avec plusieurs dés en développant une puissance de polynôme : l'idée de la fonction génératrice est née.
1812Laplace, dans la Théorie analytique des probabilités, fait des fonctions génératrices l'outil central du calcul des lois de sommes.
1925Paul Lévy systématise les fonctions caractéristiques, pour lesquelles φX+Y = φX·φY, et étudie les lois stables par addition.
1936Harald Cramér démontre que si X + Y suit une loi normale, avec X et Y indépendantes, alors X et Y sont elles-mêmes normales : la loi normale ne se décompose qu'en normales.
1978Martin Gardner publie dans Scientific American les dés de George Sicherman, la seule autre paire de dés donnant la même loi de somme que deux dés ordinaires.
Discret : additionner les diagonales
P(Z = z) = Σ P(X = k)·P(Y = z − k). Chaque façon d'obtenir z est un couple ; l'indépendance transforme sa probabilité en produit.
Continu : renverser, glisser, intégrer
fZ(z) = ∫ fX(x) fY(z − x) dx. Géométriquement, c'est la masse portée par la droite x + y = z dans le plan des couples.
Transformer : la convolution devient un produit
Polynômes de dés, fonctions génératrices, fonctions caractéristiques : la loi d'une somme se multiplie. C'est le chemin le plus court vers le théorème central limite.
Pour aller plus loin
Espérance et variance. E[X + Y] = E[X] + E[Y] est vrai même sans indépendance ; Var(X + Y) = Var X + Var Y exige seulement que la covariance soit nulle. La convolution, elle, exige l'indépendance complète.
Différence. Pour Z = X − Y, il suffit de remplacer Y par −Y : fX−Y(z) = ∫ fX(x) fY(x − z) dx.
Sommes de n variables. On convole n fois. Les lois s'élargissent comme √n et prennent la forme de la cloche de Gauss : c'est le théorème central limite. La convolution de deux gaussiennes est encore une gaussienne, dont les variances s'ajoutent.
Fonctions caractéristiques. φX(t) = E[eitX] transforme la convolution en produit, comme la transformée de Fourier : f ∗ g a pour transformée le produit des transformées.
Une mise en garde. Deux variables peuvent avoir chacune la bonne loi sans que leur somme suive la convolution : la planche 3 le montre avec Y = X. Ce sont les lois jointes, et non les seules marges, qui décident.