Probabilités

Probabilité conditionnelle et indépendance

Ce que change une information — et ce qu’elle ne change pas.

Une probabilité mesure ce que l’on peut attendre compte tenu de ce que l’on sait. Quand on apprend un fait nouveau — « l’événement B s’est produit » —, il faut réviser ses attentes : c’est la probabilité conditionnelle. Et il arrive que l’information ne change rien : on dit alors que les deux événements sont indépendants.

Rappel du vocabulaire : l’univers Ω est l’ensemble de tous les résultats possibles d’une expérience ; un événement est une partie de Ω ; A ∩ B (« A et B ») est l’ensemble des résultats où les deux se produisent. Toute la page repose sur cinq formules, que chaque planche fait voir puis vérifie par le calcul.

Notion	Formule	En une phrase
Définition	P(A \| B) = P(A ∩ B) / P(B)	On ne garde que les cas où B est vrai, et on mesure la part de A parmi eux (il faut P(B) > 0).
Règle du produit	P(A ∩ B) = P(B) · P(A \| B)	La même formule, lue à l’envers : c’est elle qu’on applique le long des branches d’un arbre.
Probabilités totales	P(A) = Σ P(Bᵢ) · P(A \| Bᵢ)	Si les Bᵢ découpent Ω en morceaux sans chevauchement, on additionne les chemins qui mènent à A.
Formule de Bayes	P(Bᵢ \| A) = P(Bᵢ) · P(A \| Bᵢ) / P(A)	On retourne le conditionnement : de « l’effet sachant la cause » vers « la cause sachant l’effet ».
Indépendance	P(A ∩ B) = P(A) · P(B)	Équivaut à P(A \| B) = P(A) : savoir que B s’est produit ne modifie pas les chances de A.

Conditionner, c’est changer d’univers

Imaginons qu’on lance un point au hasard dans le carré Ω, d’aire 1 : la probabilité d’un événement est simplement son aire. Si l’on nous dit « le point est tombé dans B », tout ce qui est hors de B devient impossible. Le rectangle B devient le nouvel univers, et on l’agrandit pour que son aire vaille 1 : c’est exactement la division par P(B). Dans ce nouvel univers, la part qu’occupe A est P(A | B).

À gauche, l’univers complet : faites glisser les rectangles A (bleu) et B (orange) avec la souris ou le doigt. À droite, le même B étiré pour remplir tout le carré : l’intersection A ∩ B (rouge) y occupe la fraction P(A | B). Les points lancés au hasard servent de contrôle indépendant.

Largeur de A Hauteur de A Largeur de B Hauteur de B

P(A) — aire de A—

P(B) — aire de B—

P(A ∩ B) — aire commune—

P(A | B) = P(A ∩ B) / P(B)—

P(B | A) = P(A ∩ B) / P(A)—en général différent de P(A | B)

Indépendance ? P(A)·P(B) contre P(A ∩ B)—

Contrôle par les points lancés—lancez des points pour comparer

Contrôle : P(A|B)·P(B) − P(B|A)·P(A)—les deux produits valent P(A ∩ B)

Conditionner ne crée aucune probabilité nouvelle : on oublie ce qui est hors de B et on rééchelonne ce qui reste. Remarquez aussi que P(A | B) et P(B | A) ont le même numérateur mais pas le même dénominateur : les confondre est l’erreur la plus répandue du calcul des probabilités. Le bouton « cas indépendant » montre une bande verticale et une bande horizontale : quel que soit le réglage, la part de A dans B reste la part de A dans Ω.

L’arbre pondéré, puis l’arbre retourné

Une usine fabrique des pièces sur trois machines M1, M2, M3. Chacune produit une part du total et a son propre taux de pièces défectueuses. L’arbre se lit de gauche à droite : on choisit d’abord la machine, puis la pièce est bonne ou défectueuse. La probabilité d’un chemin est le produit des probabilités de ses branches ; la probabilité de « défectueuse » est la somme des chemins qui y mènent. Puis vient la question qu’on se pose réellement à la sortie de l’usine : une pièce est défectueuse — de quelle machine vient-elle ?

L’épaisseur de chaque branche est proportionnelle à la probabilité du chemin. Les billes rouges sont les pièces défectueuses. Le compteur à droite de chaque feuille est le nombre de pièces simulées arrivées là (des centaines par image : seule une petite partie est dessinée).

L’arbre retourné. En haut, la part de chaque machine dans la production ; en bas, sa part parmi les pièces défectueuses, P(Mᵢ | D) calculée par Bayes. Les petits traits noirs sous la barre du bas sont les mêmes proportions mesurées sur les pièces simulées.

Poids de M1 Poids de M2 Poids de M3

Défauts M1 Défauts M2 Défauts M3

P(D) par les probabilités totales—

P(D) mesurée sur la simulation—

P(M1 | D) · P(M2 | D) · P(M3 | D)—

Contrôle : Σ P(Mᵢ | D)—le défaut vient forcément d’une machine

Ce que révèle l’inversion—

L’arbre donne naturellement P(D | Mᵢ), « le défaut sachant la machine » ; l’atelier a besoin de P(Mᵢ | D), « la machine sachant le défaut ». La formule de Bayes fait le passage : P(Mᵢ | D) = P(Mᵢ) · P(D | Mᵢ) / P(D). Une machine modeste mais négligente peut ainsi porter la plus grosse part des défauts : avec les réglages initiaux, M3 ne fait que 20 % des pièces mais près de 34,5 % des pièces défectueuses.

L’indépendance, case par case

On lance deux dés équilibrés : les 36 couples (1^er dé, 2^e dé) sont également probables, donc toute probabilité est un nombre de cases divisé par 36. Choisissez deux événements A et B : ils sont indépendants si la proportion de A est la même dans la zone B que dans tout le tableau. Attention au contresens classique : indépendant ne veut pas dire incompatible. Deux événements incompatibles (qui ne peuvent pas se produire ensemble) sont au contraire très dépendants : si l’un arrive, l’autre devient impossible.

Cases bleues : A. Hachures orange : B. Point rouge : A ∩ B. Triangle vert : l’éventuel troisième événement C. Le cadre noir marque le dernier lancer simulé.

A B C

P(A)—

P(B)—

P(A ∩ B)—

P(A) · P(B)—

P(A | B) comparée à P(A)—

Verdict (calcul exact en entiers)—

Lancers simulés—lancez les dés pour comparer

« 1^er dé pair » et « somme = 7 » sont indépendants : quelle que soit la parité du premier dé, il existe exactement une valeur du second qui complète à 7. Avec « somme = 8 », ce n’est plus vrai. Le piège de Bernstein va plus loin : A (1^er dé pair), B (2^e dé pair) et C (somme paire) sont indépendants deux à deux, et pourtant A et B ensemble rendent C certain. L’indépendance de trois événements exige aussi P(A ∩ B ∩ C) = P(A)·P(B)·P(C) ; ici on trouve 1/4 au lieu de 1/8.

Deux applications où l’on se trompe souvent

Le dépistage médical illustre le retournement du conditionnement : la fiabilité d’un test se mesure chez des personnes dont on connaît l’état, alors que le patient veut savoir ce que signifie son résultat. La fiabilité des machines illustre l’hypothèse d’indépendance : doubler un composant ne protège que si les pannes ne surviennent pas ensemble.

Trois nombres décrivent la situation. La prévalence est la proportion de malades dans la population. La sensibilité est P(+ | malade) : la part des malades que le test détecte. La spécificité est P(− | sain) : la part des personnes saines que le test reconnaît comme telles. La question du patient est la valeur prédictive positive : P(malade | +).

malade, test positifmalade, test négatif (manqué)sain, test positif (fausse alerte)sain, test négatifteinte pâle : positif au 1^er test, négatif au 2^e

Mille personnes, en fréquences naturelles : les effectifs sont arrondis à l’unité, ce qui explique le petit écart avec la formule.

Prévalence Sensibilité Spécificité Résultat

P(malade | +) par la formule de Bayes—

La même chose en comptant sur la grille—

Contrôle : 200 000 personnes simulées—

L’erreur du procureur—

P(sain | −) — valeur prédictive négative—

Contrôle par les cotes : a priori × rapport de vraisemblance—

Quand la maladie est rare, les fausses alertes viennent d’un groupe immense (les personnes saines) et noient les vrais positifs, issus d’un groupe minuscule. Avec 1 % de prévalence, 90 % de sensibilité et 95 % de spécificité, un test positif ne donne que 15,4 % de chances d’être malade. Un second test positif, indépendant du premier une fois l’état fixé, fait monter ce chiffre à 76,6 % : c’est pourquoi on confirme toujours un dépistage.

Un système est fait de n composants identiques ; chacun fonctionne avec la probabilité r. En série, le système marche si tous marchent : R = rⁿ. En parallèle (redondance), il tombe en panne seulement si tous tombent en panne : 1 − R = (1 − r)ⁿ. Ces formules supposent les pannes indépendantes. Le curseur β introduit une cause commune (surtension, incendie, erreur de maintenance) : une fraction β des pannes de chaque composant frappe tous les composants à la fois. Chaque composant garde exactement la même fiabilité r ; seule la dépendance change.

Vert : composant en état ; rouge : en panne. L’éclair s’allume quand la cause commune frappe. Le montage montré est l’un des essais simulés (des milliers par image).

Montage Composants n Fiabilité r Cause commune β

P(panne) si les pannes étaient indépendantes—

P(panne) avec la cause commune—

Contrôle : essais simulés—

Ce que coûte la dépendance—

En parallèle, l’indépendance est ce qui rend la redondance si puissante : trois composants à 95 % donnent une panne sur 8 000. Il suffit que 10 % des pannes soient communes pour que le risque soit multiplié par 40 environ — il ne descend alors presque plus sous βq, quel que soit le nombre de composants. Supposer l’indépendance sans la justifier peut ainsi fausser un calcul de plusieurs ordres de grandeur.

Signature — on conditionne sur la façon dont on apprend

Les paradoxes célèbres du calcul des probabilités ont tous la même racine : l’information « B s’est produit » ne suffit pas. Il faut savoir par quel procédé on l’a apprise, car c’est ce procédé qui définit l’événement sur lequel on conditionne. Deux expériences le montrent, chacune avec une version où le résultat bascule.

Une voiture est cachée derrière l’une des n portes, des chèvres derrière les autres. Vous choisissez une porte. L’animateur ouvre alors toutes les autres portes sauf une, et vous propose de changer pour la porte restée fermée. Animateur savant : il sait où est la voiture et n’ouvre que des portes à chèvre. Animateur au hasard : il ouvre des portes sans savoir ; quand il dévoile la voiture, la partie est annulée. Dans les deux cas, les parties conservées ont exactement la même allure : vous voyez n − 2 chèvres et deux portes fermées.

Fréquence de victoire en gardant (bleu) et en changeant (rouge) selon le nombre de parties valides, en échelle logarithmique ; pointillés : valeurs exactes.

Portes n Animateur

Parties valides0

Gagner en gardant—

Gagner en changeant—

Écart à la valeur exacte (changer)—

Avec l’animateur savant, changer gagne avec la probabilité (n − 1)/n : votre premier choix n’a qu’une chance sur n, et l’animateur concentre toutes les autres sur la porte qu’il laisse fermée. Avec l’animateur au hasard, la même scène donne 1/2 : le fait qu’il ait épargné la voiture est cette fois une information qui rend votre porte plus probable. La scène est identique ; c’est l’événement réellement observé qui diffère.

Une famille a deux enfants ; chacun est garçon ou fille avec la même probabilité et naît un jour quelconque de la semaine. Quelle est la probabilité qu’ils soient deux garçons, sachant… La grille énumère les cas également probables : lignes pour l’aîné, colonnes pour le cadet, chacun décrit par son sexe et son jour. On colorie les cases compatibles avec l’information et on compte. Le curseur k remplace les sept jours par k « étiquettes » quelconques, pour voir d’où vient le résultat.

Bleu : deux garçons ; orange : autres familles compatibles ; gris : familles exclues. Une case à moitié remplie compte pour un demi (dernier réglage seulement).

Information Étiquettes k

Familles compatibles (poids total)—

Dont deux garçons—

P(deux garçons | information) par comptage—

Contrôle : formule générale—

« Au moins un garçon » donne 1/3 ; « au moins un garçon né un mardi » donne 13/27, presque 1/2 ; avec k étiquettes, (2k − 1)/(4k − 1), qui tend vers 1/2. Plus le détail est rare, plus il désigne un enfant précis, et l’on se rapproche de « l’aîné est un garçon ». Mais si le parent a simplement parlé d’un de ses enfants pris au hasard, on retombe sur 1/2 exactement, quel que soit k : comme pour Monty Hall, la phrase ne suffit pas, il faut connaître le procédé qui l’a produite.

Repères historiques

1718Abraham de Moivre, dans The Doctrine of Chances, distingue les événements indépendants des événements dépendants et énonce la règle du produit pour chacun.
1763Publication posthume, par Richard Price, de l’essai de Thomas Bayes sur la probabilité d’une cause connaissant son effet.
1774Pierre-Simon Laplace formule indépendamment le « principe de la probabilité des causes », qu’il développe ensuite dans sa Théorie analytique des probabilités (1812).
1889Joseph Bertrand publie son Calcul des probabilités, avec le paradoxe des trois coffrets, ancêtre direct de Monty Hall.
années 1920Serge Bernstein donne l’exemple d’événements indépendants deux à deux mais non mutuellement indépendants.
1933Andreï Kolmogorov, dans ses Grundbegriffe, fait de P(A | B) = P(A ∩ B)/P(B) une définition au sein de la théorie axiomatique.
1959Martin Gardner pose le « problème des trois prisonniers » et le problème des deux enfants dans Scientific American.
1975Steve Selvin décrit le problème de Monty Hall dans The American Statistician ; en 1990, la réponse de Marilyn vos Savant dans Parade déclenche une vaste polémique.
1999–2003Affaire Sally Clark au Royaume-Uni : une condamnation reposant notamment sur une probabilité calculée en supposant à tort l’indépendance de deux décès dans une même famille ; la Royal Statistical Society proteste publiquement en 2001, et la condamnation est annulée en appel en 2003.
2010Gary Foshee présente le problème du « garçon né un mardi » lors d’un Gathering for Gardner.

Ce qu’il faut retenir

Conditionner, c’est restreindre

On ne garde que les cas où B est vrai, et on divise par P(B) pour que ces cas pèsent 1. P(A | B) et P(B | A) ont le même numérateur, pas le même dénominateur.

Indépendant ≠ incompatible

A et B sont indépendants quand P(A ∩ B) = P(A)·P(B) : l’un n’apporte aucune information sur l’autre. Pour trois événements ou plus, l’indépendance deux à deux ne suffit pas.

Le procédé compte

On conditionne sur l’événement réellement observé, qui inclut la façon dont l’information est parvenue. Deux scènes identiques peuvent donner deux probabilités différentes.

Pour aller plus loin

Règle de la chaîne. En appliquant la règle du produit à plusieurs étapes : P(A₁ ∩ A₂ ∩ … ∩ Aₙ) = P(A₁) · P(A₂ | A₁) · P(A₃ | A₁ ∩ A₂) ⋯ C’est la justification complète des arbres pondérés de la planche 2.

Indépendance conditionnelle. Deux tests sont souvent supposés indépendants sachant l’état du patient (planche 4), alors qu’ils ne sont pas indépendants tout court : un premier positif rend un second positif plus probable, parce qu’il rend la maladie plus probable. Les deux notions sont distinctes, et aucune n’entraîne l’autre.

Cotes et rapport de vraisemblance. La formule de Bayes s’écrit de façon multiplicative : cote a posteriori = cote a priori × rapport de vraisemblance, où la cote d’un événement est P/(1 − P). C’est la forme qu’utilisent les médecins et les experts judiciaires ; la page consacrée au rapport de vraisemblance la développe.

Paradoxe de Simpson. Une tendance vraie dans chaque groupe peut s’inverser quand on réunit les groupes : P(A | B) peut dépasser P(A | non-B) dans chaque sous-population et lui être inférieure dans l’ensemble. C’est encore une affaire de conditionnement, traitée dans la page sur la variance et la covariance.