Intervalle de crédibilité et facteur de Bayes
La statistique bayésienne traite l'inconnu comme une grandeur incertaine, décrite par une loi de probabilité que les données viennent préciser. Elle répond alors directement aux questions que l'on se pose : « où est probablement le paramètre ? » (l'intervalle de crédibilité) et « laquelle de deux hypothèses les données soutiennent-elles, et de combien ? » (le facteur de Bayes).
Le fil conducteur : une proportion inconnue
On veut connaître la proportion θ de succès d'un phénomène : la part de graines qui germent, l'efficacité d'un traitement, la probabilité qu'une pièce tombe sur pile. On observe k succès en n essais. La démarche bayésienne a trois ingrédients :
| Ingrédient | Ce que c'est | Ici |
|---|---|---|
| A priori | Ce que l'on croit de θ avant les données | une loi bêta Beta(a, b) |
| Vraisemblance | La probabilité des données pour chaque valeur de θ | θᵏ (1 − θ)ⁿ⁻ᵏ, à une constante près |
| A posteriori | Ce que l'on croit après, proportionnel au produit des deux (formule de Bayes) | Beta(a + k, b + n − k) |
La loi bêta a la propriété d'être conjuguée à la binomiale : l'a posteriori reste une loi bêta, et il suffit d'ajouter les succès à a et les échecs à b. On peut voir a et b comme des « observations fictives » apportées par l'a priori. La page calcule toutefois chaque résultat de deux façons : par la formule exacte, et par une intégration ou une simulation indépendante.
De l'a priori à l'a posteriori : la croyance qui apprend
Idée en une phrase : chaque observation multiplie la courbe de croyance par la probabilité qu'elle avait sous chaque valeur de θ, puis on renormalise ; la courbe se resserre autour de la vérité.
Une pièce de vraie probabilité θ (cachée, révélée par un trait vert) est lancée une fois par seconde. Chaque « pile » multiplie la courbe par θ, chaque « face » par 1 − θ. On choisit l'a priori : uniforme (on ne sait rien), de Jeffreys (une convention « non informative »), ou informatif et faux (on croit fermement à une valeur éloignée).
L'intervalle de crédibilité : deux façons de prendre 95 %
Idée en une phrase : un intervalle de crédibilité à 95 % contient 95 % de la probabilité a posteriori ; on peut couper 2,5 % de chaque côté, ou garder les valeurs les plus probables.
L'intervalle à queues égales va du quantile 2,5 % au quantile 97,5 % de la loi a posteriori. L'intervalle de plus haute densité (HPD) rassemble les valeurs de θ dont la densité dépasse un certain niveau : c'est le plus court des intervalles de probabilité 95 %, et toute valeur à l'intérieur est plus plausible que toute valeur à l'extérieur. Les deux coïncident quand la loi est symétrique ; ils diffèrent quand elle est très dissymétrique, par exemple avec peu de succès. On les retrouve aussi en tirant 20 000 valeurs de θ dans la loi a posteriori.
Crédibilité et confiance : deux garanties différentes
Idée en une phrase : si θ est vraiment tiré dans la loi a priori, l'intervalle de crédibilité couvre θ exactement 95 % du temps en moyenne ; pour une valeur de θ fixée, sa couverture peut être plus haute ou plus basse.
Deux expériences. À gauche, on fixe θ et l'on répète l'expérience (n essais) ; on calcule la proportion des intervalles de crédibilité (a priori de Jeffreys, queues égales) qui contiennent θ, exactement, en sommant sur toutes les valeurs possibles de k. C'est la couverture fréquentiste, tracée pour tous les θ. À droite, θ est lui-même tiré au hasard dans l'a priori à chaque expérience, et l'intervalle est calculé avec ce même a priori : la couverture moyenne doit valoir exactement le niveau annoncé, ce que la simulation vérifie, même pour n très petit.
Le facteur de Bayes : quelle hypothèse les données soutiennent-elles ?
Idée en une phrase : le facteur de Bayes est le rapport des probabilités des données sous deux hypothèses ; il dit de combien les données doivent faire changer la cote entre elles.
Hypothèse H₀ : la pièce est équilibrée, θ = ½. Hypothèse H₁ : θ est inconnu, décrit par une loi a priori Beta(c, c) (c grand : on s'attend à un faible biais ; c = 1 : tout biais est possible). Le facteur de Bayes BF₀₁ = P(données | H₀) / P(données | H₁) se calcule exactement. Une propriété remarquable, due à Dickey et Savage, permet de le voir : BF₀₁ est le rapport entre la hauteur de la densité a posteriori en θ = ½ et la hauteur de la densité a priori au même point. Si les données ont fait monter la densité en ½, elles soutiennent H₀ ; si elles l'ont fait baisser, elles soutiennent H₁.
Le paradoxe de Jeffreys-Lindley
Idée en une phrase : avec beaucoup de données, un résultat « significatif à 5 % » peut être une preuve en faveur de l'hypothèse nulle ; p-valeur et facteur de Bayes ne mesurent pas la même chose.
On fixe la p-valeur du test classique à 0,05 (z = 1,96) et l'on fait grandir n. Pour garder z = 1,96, la proportion observée doit se rapprocher de ½ comme 1/√n : l'écart est « juste significatif » à toute taille. Le facteur de Bayes, lui, compare H₀ (θ = ½ exactement) à H₁ (θ quelconque, a priori uniforme). Quand n grandit, une proportion si proche de ½ devient bien plus probable sous H₀ que sous H₁, qui étale sa probabilité sur tout [0 ; 1] : BF₀₁ croît comme √n.
Un cas réel, analysé par William Jefferys en 1990 : des expériences de « psychokinèse » menées à Princeton, où des sujets tentaient d'influencer par la pensée un générateur aléatoire de 0 et de 1. Sur 104 490 000 essais, on compta 52 263 471 succès, soit 0,500 18 au lieu de 0,5. Le test classique donne une p-valeur d'environ 0,0003 : un résultat « très significatif ». Le facteur de Bayes, avec un a priori uniforme sous H₁, soutient pourtant H₀ (aucun effet) avec un facteur d'environ 12. Le curseur change la largeur de l'a priori sous H₁ : on voit que la conclusion dépend de la taille d'effet que l'on jugeait plausible avant l'expérience.
Repères historiques
- 1763Publication posthume de l'essai de Thomas Bayes sur la probabilité d'une proportion inconnue, avec un a priori uniforme.
- 1774Laplace développe indépendamment le calcul de la probabilité des causes.
- 1939Harold Jeffreys publie la Theory of Probability : a priori invariants, facteur de Bayes et son échelle d'interprétation.
- 1957Dennis Lindley décrit le désaccord entre tests classiques et bayésiens pour de grands échantillons.
- 1970James Dickey précise la formule du rapport de densités, attribuée aussi à Leonard Savage.
- 1990William Jefferys applique le facteur de Bayes aux expériences de psychokinèse de Princeton.
- 1995Robert Kass et Adrian Raftery publient la synthèse de référence sur les facteurs de Bayes.
L'intervalle de crédibilité
Une probabilité sur le paramètre, sachant les données observées. Queues égales ou plus haute densité ; peu sensible à l'a priori dès que les données sont nombreuses.
Le facteur de Bayes
Un rapport de vraisemblances moyennées par l'a priori. Il peut soutenir H₀, se combine avec les croyances initiales, mais dépend fortement de l'a priori sous l'alternative.
Face aux méthodes classiques
Mêmes données, autres questions. Avec un a priori de Jeffreys, intervalles bayésiens et intervalles de confiance se ressemblent ; facteurs de Bayes et p-valeurs peuvent diverger fortement.
Pour aller plus loin
Vraisemblance marginale. Sous H₁, P(k | H₁) = C(n, k) B(k + c, n − k + c)/B(c, c), où B est la fonction bêta. Sous H₀, P(k | H₀) = C(n, k)/2ⁿ. Le coefficient binomial se simplifie dans le rapport.
Savage-Dickey. Si H₀ fixe θ = θ₀ et que l'a priori de H₁ est continu en θ₀, alors BF₀₁ = π(θ₀ | données, H₁) / π(θ₀ | H₁). Cette identité ne vaut que pour une hypothèse nulle ponctuelle emboîtée dans l'alternative.
Échelle de Jeffreys. BF entre 1 et 3 : à peine digne de mention ; 3 à 10 : substantiel ; 10 à 30 : fort ; 30 à 100 : très fort ; au-delà : décisif. Kass et Raftery proposent une échelle voisine en 2 ln BF.
Approximation BIC. Pour de grands échantillons, ln BF₀₁ ≈ ½ ln n − ½ z² + constante : c'est l'origine du √n du paradoxe de Lindley et du critère d'information de Schwarz.