Probabilités

Lois jointes, lois marginales et changement de variable

Décrire plusieurs hasards à la fois, puis transformer un hasard en un autre.

Une expérience produit souvent plusieurs nombres à la fois : la taille et le poids d’une personne, le minimum et le maximum de deux dés, la position d’une fléchette sur une cible. Pour décrire un tel couple (X, Y), il ne suffit pas de connaître chaque variable séparément : il faut leur loi jointe, qui dit comment elles se répartissent ensemble. Les lois séparées s’en déduisent : ce sont les lois marginales, nommées ainsi parce qu’on les écrivait autrefois dans les marges du tableau. Enfin, quand on transforme une variable — on l’élève au carré, on passe en coordonnées polaires —, la loi se transforme selon une règle précise : le changement de variable.

NotionCas discretCas à densité
Loi jointep(x, y) = P(X = x et Y = y)f(x, y), avec P((X, Y) ∈ D) = ∬_D f(x, y) dx dy
Loi marginale de XP(X = x) = Σ_y p(x, y) : somme d’une lignef_X(x) = ∫ f(x, y) dy : aire d’une tranche
Loi conditionnelleP(Y = y | X = x) = p(x, y) / P(X = x)f(y | x) = f(x, y) / f_X(x)
Indépendancep(x, y) = P(X = x)·P(Y = y) partoutf(x, y) = f_X(x)·f_Y(y) partout
Changement de variableon regroupe les valeurs qui ont la même imagef_Y(y) = f_X(x) / |g′(x)| en dimension 1, et f divisée par |jacobien| en dimension 2
1

Le tableau de la loi jointe et ses marges

On lance deux dés et l’on observe deux nombres à la fois, par exemple le plus petit et le plus grand. Le tableau de la loi jointe donne, pour chaque couple de valeurs, sa probabilité, comptée sur les 36 issues également probables. En additionnant une colonne, on obtient la probabilité de chaque valeur de X : c’est la loi marginale de X, inscrite dans la marge du haut. En additionnant une ligne, on obtient celle de Y, dans la marge de droite.

Chaque case porte P(X = x, Y = y) en trente-sixièmes ; plus elle est foncée, plus elle est probable. En haut, la marge de X ; à droite, celle de Y. Touchez une case : sa colonne et sa ligne s’éclairent. Les points orange sont les fréquences marginales observées pendant les lancers.
Case choisie : P(X = x, Y = y)—
Marges : P(X = x) et P(Y = y)—
Produit des marges—
Loi conditionnelle P(Y = y | X = x)—colonne de x divisée par sa somme
Contrôles exacts—
Lancers simulés—lancez les dés
Les marges se lisent sur le tableau joint, mais le tableau joint ne se reconstruit pas à partir des marges, sauf dans un cas : l’indépendance, où chaque case est le produit de sa marge de ligne et de sa marge de colonne. Pour le couple (minimum, maximum), la moitié des cases sont vides — le minimum ne peut pas dépasser le maximum — alors que leur produit de marges ne l’est pas : les deux variables sont fortement liées.
2

La densité jointe : une surface, et des tranches

Quand X et Y prennent des valeurs continues, la loi jointe est une densité f(x, y), qu’on peut imaginer comme un relief posé sur le plan : la probabilité qu’un point (X, Y) tombe dans une région est le volume sous ce relief. Pour obtenir la densité marginale de X en x, on coupe le relief par le plan vertical d’abscisse x et l’on mesure l’aire de la tranche : f_X(x) = ∫ f(x, y) dy.

La densité jointe en niveaux de bleu, avec des points tirés selon cette loi. En haut, la densité marginale de X ; à droite, celle de Y : courbe bleue exacte, points verts obtenus en intégrant numériquement les tranches, barres orange tirées des points. Le trait rouge vertical est la tranche en x₀ ; le coin rouge est la région {X ≤ x₀, Y ≤ y₀}.
Volume total sous la densité—double intégrale de Simpson : doit valoir 1
f_X(x₀) : aire de la tranche (Simpson)—
P(X ≤ x₀, Y ≤ y₀) : volume du coin—
Contrôle : formule exacte ou autre méthode—
Comptée sur les points tirés—tirez des points
Indépendance ? f(x₀, y₀) contre f_X(x₀)·f_Y(y₀)—
La densité « f = 2 sur un triangle » a des marges très différentes de la densité uniforme : f_X(x) = 2x, car la tranche en x est d’autant plus longue que x est grand, et f_Y(y) = 2(1 − y). Le support triangulaire suffit à rendre X et Y dépendantes : savoir que X vaut 0,2 interdit à Y de dépasser 0,2. Une densité jointe ne peut être un produit que si son support est un rectangle.
3

Les mêmes marges, des lois jointes différentes

Deux couples peuvent avoir exactement les mêmes lois marginales et des comportements communs complètement différents. Dans les deux exemples ci-dessous, X et Y suivent chacune la loi normale centrée réduite — leurs histogrammes ne bougent pas — et pourtant la façon dont elles varient ensemble change du tout au tout.

Nuage de 4 000 couples, avec l’histogramme de X en haut et celui de Y à droite (courbe verte : la loi normale). Le quart rouge est l’événement {X > 1 et Y > 1}.
Marges mesurées : moyenne et écart-type de X et de Y—toujours proches de 0 et 1
Corrélation : exacte contre mesurée—
P(X > 1 et Y > 1) exacte—
Comptée sur le nuage—
Le second exemple est un piège célèbre : pour c ≈ 1,54, la corrélation de X et Y est nulle, leurs marges sont normales, et pourtant Y vaut toujours X ou −X — on ne peut pas faire plus dépendant. Une corrélation nulle n’entraîne pas l’indépendance, et deux variables normales n’ont pas forcément une loi jointe normale. C’est la raison d’être des copules, qui décrivent la dépendance séparément des marges (théorème de Sklar, 1959).
4

Changer de variable : la densité suit l’étirement

Soit Y = g(X), avec g croissante. Chaque petit intervalle autour de x est envoyé sur un petit intervalle autour de y = g(x), et il emporte avec lui sa probabilité. Mais sa longueur est multipliée par g′(x). La probabilité étant conservée, la densité est divisée d’autant : f_Y(y) = f_X(x) / |g′(x)|. Là où g étire, la densité de Y s’aplatit ; là où g comprime, elle s’entasse. Si plusieurs x ont la même image, on additionne leurs contributions.

Au centre, la courbe y = g(x). En bas, la densité de X découpée en dix bandes de même probabilité ; chaque bande est transportée par la courbe jusqu’à l’axe vertical, où elle garde sa probabilité mais change de largeur. À gauche, la densité de Y : formule (bleu) et histogramme des valeurs simulées (orange).
f_Y(y₀) par la formule de changement de variable—
Contrôle : dérivée de F_Y(y) = P(g(X) ≤ y)—
Théorème de transfert : E(Y) = ∫ g(x) f_X(x) dx—
Moyenne des valeurs simulées—simulez
La formule se comprend comme un bilan : la probabilité d’une bande est la même avant et après la transformation, seule sa largeur change. Elle explique des faits surprenants. Le carré d’un nombre uniforme sur [0 ; 1] s’entasse près de 0, avec une densité infinie en 0. Et la loi de Cauchy, sans espérance, n’est qu’une loi uniforme passée par la tangente : la tangente étire tellement les bords que des valeurs énormes deviennent fréquentes. Pour calculer une espérance, en revanche, nul besoin de la nouvelle densité : E(g(X)) = ∫ g(x) f_X(x) dx.
5

Signature — en dimension 2, le jacobien mesure la déformation des aires

En dimension 2, une transformation T envoie un petit carré sur un petit parallélogramme ; le rapport de leurs aires est la valeur absolue du jacobien, le déterminant de la matrice des dérivées partielles. La probabilité du petit carré est conservée, donc la densité est divisée par |jacobien|. Deux applications classiques : fabriquer des nombres normaux à partir de nombres uniformes, et trouver la loi d’une somme ou d’un rapport.

Partons de (U₁, U₂) uniforme sur le carré unité, posons R = √(−2 ln U₁), Θ = 2πU₂, puis X = R cos Θ et Y = R sin Θ. Le carré est découpé en cent cases de même probabilité 1/100 ; la transformation les déforme progressivement en anneaux et en secteurs. Les cases proches de U₁ = 1 se tassent au centre, celles proches de U₁ = 0 sont projetées très loin : leur aire grandit, leur densité baisse, et la densité de (X, Y) devient exactement la cloche normale à deux dimensions.

Les cent cases du carré, colorées selon U₁ (teinte) et U₂ (clarté), déformées par la transformation au taux t. Le point rouge et sa case suivent le point de contrôle choisi.
|jacobien| mesuré par différences finies—
Bilan : densité normale × |jacobien|—doit valoir 1, la densité uniforme de départ
Aire de la case déformée × densité au centre—

Pour la loi de U = X + Y, on change de variables (x, y) → (u = x + y, v = y), de jacobien 1, puis on intègre v : f_U(u) = ∫ f(u − v, v) dv. Géométriquement, f_U(u) est l’intégrale de la densité jointe le long de la droite x + y = u. Pour un rapport U = X/Y, la droite devient x = u·y et le jacobien vaut |v| : f_U(u) = ∫ |v| f(uv, v) dv.

À gauche, la densité jointe de deux variables indépendantes et la droite rouge correspondant à la valeur u. À droite, la densité de U : formule (bleu), intégrale numérique le long de la droite (point rouge) et histogramme de valeurs simulées (orange).
f_U(u) : intégrale le long de la droite—
Contrôle : formule exacte—
Valeurs simulées—simulez
Le jacobien est l’analogue en dimension 2 du facteur |g′(x)| de la planche 4 : il mesure comment la transformation dilate ou contracte les aires, et la densité varie en sens inverse pour que chaque morceau garde sa probabilité. Box–Muller (1958) l’exploite pour produire deux nombres normaux indépendants avec deux nombres uniformes. Le rapport de deux normales indépendantes, lui, suit la loi de Cauchy : le facteur |v| du jacobien et les petites valeurs de Y suffisent à créer des queues si épaisses qu’il n’y a plus d’espérance.

Repères historiques

Ce qu’il faut retenir

Des marges vers le centre, jamais l’inverse

Les marges se lisent sur la loi jointe, en sommant ou en intégrant ; mais des marges identiques peuvent cacher des lois jointes très différentes. Seule l’indépendance permet de reconstruire la jointe par produit.

La probabilité se conserve

Dans un changement de variable, chaque morceau emporte sa probabilité. La densité se divise par le facteur d’étirement : |g′(x)| en dimension 1, |jacobien| en dimension 2.

Sommes, rapports, simulation

La loi d’une somme est une intégrale le long des droites x + y = u (une convolution) ; celle d’un rapport, le long de droites passant par l’origine, avec un jacobien. Box–Muller fabrique la loi normale par un simple changement de variables.
Pour aller plus loin

La formule générale. Si T est une bijection dérivable de l’ouvert A sur l’ouvert B et (X, Y) a la densité f sur A, alors T(X, Y) a la densité f(T⁻¹(u, v))·|det D(T⁻¹)(u, v)| sur B. On utilise souvent la forme équivalente : densité d’arrivée = densité de départ / |det DT|, évaluée au point de départ.

Lois conditionnelles et régression. Pour la loi normale bivariée de corrélation ρ, la loi de Y sachant X = x est normale de moyenne ρx et de variance 1 − ρ² : la droite y = ρx est la droite de régression de Galton, plus plate que la diagonale.

Convolution. La densité de X + Y pour X et Y indépendantes est le produit de convolution f_X ∗ f_Y. La somme de deux exponentielles de paramètre 1 suit la loi gamma de densité u·e⁻ᵘ ; la somme de deux normales centrées réduites est normale de variance 2.