Probabilités

Essai et incertitude : Bernoulli et bêta

La loi de Bernoulli décrit le résultat d'un essai (oui ou non). La loi bêta décrit ce que l'on sait de la probabilité de succès, quand on ne la connaît pas. Utilisées ensemble, elles forment le moteur le plus simple de l'apprentissage à partir des données.

Deux lois, deux rôles

Imaginez un bouton sur un site web. Chaque visiteur clique ou ne clique pas : c'est un essai de Bernoulli, de probabilité de succès p. Mais p lui-même est inconnu. Ce que l'on en sait — « sans doute autour de 10 %, peut-être 15 % » — se décrit par une loi bêta, une courbe posée sur l'intervalle [0 ; 1]. Chaque clic observé déplace et resserre cette courbe.

	Loi de Bernoulli	Loi bêta
Ce qu'elle décrit	le résultat d'un essai	une proportion, une probabilité inconnue
Valeurs possibles	deux : 0 (échec) ou 1 (succès)	une infinité : tout nombre entre 0 et 1
Paramètres	p = probabilité de succès	a et b > 0, qui fixent la forme
Type	discrète (deux bâtons)	continue (une densité)
Question à laquelle elle répond	« Si je connais p, que va-t-il se passer ? »	« Qu'est-ce que je sais de p ? »
Exemples	pile ou face, clic, pièce défectueuse, tir réussi	taux de clic, taux de guérison, part d'électeurs, fiabilité

À gauche, une suite d'essais de Bernoulli (bleu = succès, orange = échec) avec une vraie probabilité p = 0,3 que l'observateur ignore. À droite, la loi bêta qui résume ce que ces essais apprennent sur p : elle se resserre autour du trait vert (la vraie valeur) à mesure que les essais s'accumulent.

La loi de Bernoulli : un essai, deux issues

L'idée : une expérience qui ne peut donner que deux résultats, « succès » ou « échec ». On code le succès par 1 et l'échec par 0 ; la variable X ainsi obtenue suit une loi de Bernoulli de paramètre p, notée ℬ(p).

P(X = 1) = p P(X = 0) = 1 − p · E[X] = p · Var(X) = p(1 − p)
Comme X ne vaut que 0 ou 1, on a X² = X : la moyenne de X² est aussi p, d'où la variance E[X²] − E[X]² = p − p².

Pour fabriquer un essai de Bernoulli, il suffit d'un nombre U tiré au hasard uniformément entre 0 et 1 : si U < p, c'est un succès. Chaque bille ci-dessous est un tel nombre U.

    Exemples d'utilisation :

En haut : la bille U tombe sur le segment [0 ; 1], partagé en p (succès, bleu) et 1 − p (échec, orange). En bas : les deux bâtons de la loi — contour vert pointillé = probabilités exactes, barres pleines = fréquences observées.

La variance p(1 − p) en fonction de p : une parabole. Point rouge : le p choisi ; point bleu : la variance observée f(1 − f) calculée sur les essais.

Essais n

succès : 0

Fréquence f des succès

—

à comparer à p

Écart |f − p|

—

marge à 95 % : 1,96·√(p(1−p)/n)

Variance observée f(1 − f)

—

théorique p(1 − p)

Moyenne de X² − moyenne de X

—

exactement 0, car X² = X

Une seule loi, un seul nombre : tout est dit par p. La variance p(1 − p) est maximale pour p = ½ (elle vaut alors ¼) : c'est quand le succès et l'échec sont également probables que l'issue est la plus imprévisible. Pour p = 0,02 (pièce défectueuse), la variance tombe à 0,0196 : presque tous les essais donnent 0.

Utiliser Bernoulli : répéter l'essai

L'idée : un essai isolé ne dit presque rien ; on s'en sert en le répétant. Si l'on fait n essais indépendants de même p, le nombre de succès S = X₁ + … + X_n suit la loi binomiale ℬ(n, p), et la fréquence S/n se rapproche de p : c'est la loi des grands nombres, démontrée par Jacques Bernoulli en 1713.

P(S = k) = C(n, k) · p^k (1 − p)^n−k · E[S] = np · Var(S) = np(1 − p)
Les variances s'ajoutent car les essais sont indépendants : n fois la variance d'un essai.

Situation

En haut, les n essais de la dernière expérience. En bas, la fréquence des succès après k essais (bleu) ; en gris, les 30 expériences précédentes ; en vert pointillé, l'entonnoir p ± 1,96·√(p(1−p)/k).

Nombre de succès S sur de nombreuses expériences : barres bleues = fréquences observées, points verts = loi binomiale exacte, trait rouge = moyenne np.

Expériences réalisées

chacune de n essais

Moyenne observée de S

—

théorique np

Variance observée de S

—

théorique np(1 − p)

Écart max histogramme / binomiale

—

Σ P(S = k) = 1 à —

Fins d'expérience dans l'entonnoir

—

probabilité exacte —

La binomiale n'est pas une nouvelle hypothèse : c'est la loi de Bernoulli additionnée. L'entonnoir se resserre comme 1/√k : pour diviser l'incertitude par 2, il faut 4 fois plus d'essais. Remarquez que la proportion exacte d'expériences finissant dans l'entonnoir n'est pas tout à fait 95 % : la loi est discrète, et la marge 1,96 vient de l'approximation normale.

La loi bêta : une loi pour une probabilité inconnue

L'idée : quand p est inconnu, on le traite lui-même comme une quantité incertaine, à valeurs entre 0 et 1. La loi bêta ℬêta(a, b) est la famille de courbes la plus naturelle pour cela : avec deux curseurs, elle peut être plate, en cloche, en U, penchée à gauche ou à droite.

f(x) = x^a−1 (1 − x)^b−1 / B(a, b) · moyenne = a/(a + b) · variance = ab / [(a + b)²(a + b + 1)]
B(a, b) = Γ(a)Γ(b)/Γ(a + b) est la constante qui rend l'aire totale égale à 1. Lecture pratique : a se comporte comme un nombre de succès, b comme un nombre d'échecs, et a + b comme la « taille » de l'information.

Densité ℬêta(a, b) en bleu ; zone bleutée = intervalle central contenant le niveau choisi de probabilité ; trait rouge = moyenne ; point violet = mode (sommet). Les barres grises sont un histogramme de valeurs tirées au hasard.

niveau

Moyenne a/(a + b)

—

intégrale numérique —

Écart-type

—

intégrale numérique —

Aire totale sous la courbe

—

intégrale de Simpson

Intervalle central

—

Contrôle de la fonction de répartition

—

fraction continue contre série hypergéométrique

Échantillon tiré

moyenne observée —

La bêta sert à résumer une connaissance sur une proportion : une moyenne (le meilleur pari) et une largeur (le doute). Comparez (2 ; 8) et (20 ; 80) : même moyenne 0,2, mais la seconde est bien plus étroite, parce qu'elle représente dix fois plus d'information. Les tirages aléatoires sont produits par la relation bêta = G₁/(G₁ + G₂), où G₁, G₂ suivent des lois gamma.

La bêta n'est pas une invention arbitraire. Tirez n nombres au hasard entre 0 et 1, rangez-les par ordre croissant et gardez le k-ième : ce nombre suit exactement la loi ℬêta(k, n − k + 1). La raison : pour que le k-ième soit près de x, il faut k − 1 nombres sous x (probabilité x chacun) et n − k au-dessus (probabilité 1 − x chacun) — on retrouve x^k−1(1 − x)^n−k, des essais de Bernoulli cachés dans la bêta.

En haut : un tirage de n points uniformes, le k-ième en rouge. En bas : histogramme des positions du k-ième point (bleu) et densité ℬêta(k, n − k + 1) (vert).

Tirages

loi attendue —

Moyenne du k-ième

—

théorique k/(n + 1)

Distance de Kolmogorov D

—

seuil 5 % : 1,36/√N

Pour n = k = 1, on retrouve la loi uniforme = ℬêta(1, 1). Le maximum de n points (k = n) suit ℬêta(n, 1), de densité n xⁿ⁻¹. La médiane de 7 points (k = 4) suit ℬêta(4, 4), symétrique autour de ½.

Les deux lois ensemble : l'a priori bêta, les essais de Bernoulli, l'a posteriori bêta

L'idée : on commence avec une loi bêta qui décrit ce que l'on croit de p avant les données (l'a priori). On observe n essais de Bernoulli dont s succès. La formule de Bayes multiplie l'a priori par la vraisemblance (la probabilité des données pour chaque valeur de p). Le résultat, l'a posteriori, est encore une loi bêta : il suffit d'ajouter les succès à a et les échecs à b.

p^a−1(1 − p)^b−1 × p^s(1 − p)^n−s = p^a+s−1(1 − p)^b+n−s−1 ⟹ ℬêta(a, b) → ℬêta(a + s, b + n − s)
On dit que la bêta est la loi conjuguée de Bernoulli : l'apprentissage se réduit à compter. Et la probabilité que le prochain essai soit un succès est la moyenne de l'a posteriori, (a + s)/(a + b + n) — une nouvelle loi de Bernoulli.

Orange pointillé : a priori ℬêta(a, b). Violet : vraisemblance p^s(1 − p)^n−s (remise à l'échelle d'une densité). Bleu : a posteriori par la formule ℬêta(a + s, b + n − s). Points verts : produit a priori × vraisemblance calculé point par point puis normalisé par intégration numérique — ils doivent tomber sur la courbe bleue.

n essais

s succès

A posteriori

—

Moyenne a posteriori

—

Poids de l'a priori w

—

w = (a + b)/(a + b + n)

Écart relatif max points verts / courbe

—

sur 399 points de la grille

P(prochain essai = succès)

—

La moyenne a posteriori est un compromis pondéré : w × (moyenne a priori) + (1 − w) × (fréquence observée s/n). Avec peu d'essais, l'a priori pèse ; avec beaucoup, les données l'emportent. Avec l'a priori uniforme (1 ; 1), on retrouve la règle de succession de Laplace : après s succès en n essais, la probabilité du suivant vaut (s + 1)/(n + 2), jamais exactement 0 ni 1.

Un site hésite entre deux versions d'un bouton, A et B. Chaque visiteur voit l'une des deux au hasard et clique ou non : Bernoulli, avec des taux de clic inconnus p_A et p_B. On part de deux a priori uniformes ℬêta(1, 1) ; chaque visiteur met à jour la bêta de sa version. La question de l'entreprise se lit alors directement : quelle est la probabilité que B soit meilleur que A ?

vrai p_A

vrai p_B

vitesse

montrer les vrais taux

Lois a posteriori des deux taux de clic : A en orange, B en bleu. Zones teintées = intervalles à 95 %. Traits verts : vrais taux (si affichés).

Évolution de P(p_B > p_A | données) en fonction du nombre de visiteurs. Bandes rouges : seuils 5 % et 95 %.

Version A

—

Version B

—

P(B meilleur que A), formule exacte

—

somme finie (paramètres entiers)

Contrôle par intégration

—

∫ f_B(x)·F_A(x) dx, Simpson

Contrôle par tirages (20 000)

—

Gain moyen espéré E[p_B − p_A]

—

Tout le test tient en quatre nombres : clics et non-clics de A, clics et non-clics de B. La loi de Bernoulli décrit chaque visiteur, la loi bêta décrit ce que l'on sait des deux taux, et leur comparaison donne une probabilité directement compréhensible. Attention : lorsque les vrais taux sont proches (0,10 contre 0,12), il faut plusieurs milliers de visiteurs pour trancher ; et s'arrêter dès que la courbe touche 95 % augmente le risque de conclure trop vite.

Signature — Thompson : la bêta choisit, Bernoulli répond

L'idée : dans le test A/B, on montre les deux versions à parts égales, même quand l'une est visiblement moins bonne — ce qui coûte cher. L'échantillonnage de Thompson (1933) utilise les deux lois en boucle : à chaque tour, on tire au hasard une valeur dans la bêta de chaque option, on joue l'option dont la valeur tirée est la plus grande, on observe un résultat de Bernoulli, et on met à jour sa bêta. Les options incertaines ont encore leur chance ; les options manifestement mauvaises disparaissent peu à peu.

Tour t : θ_i ~ ℬêta(a_i, b_i) pour chaque machine i → jouer i* = argmax θ_i → X ~ ℬ(p_i*) → a_i* += X, b_i* += 1 − X
Le regret mesure le coût de l'apprentissage : la somme, sur les tours, de (meilleur p) − (p de la machine jouée). Un joueur qui connaîtrait les p aurait un regret nul.

Trois machines à sous, de probabilités de gain inconnues du joueur. Trois stratégies jouent en parallèle 1 000 tours : Thompson, l'équirépartition (on joue les trois à tour de rôle, comme un test A/B) et le glouton (on joue toujours la machine de meilleure moyenne a posteriori, sans jamais explorer).

p₁

p₂

p₃

vitesse

Les trois bêtas de Thompson (machine 1 violet, 2 orange, 3 bleu). Petits traits rouges : les valeurs θ tirées à ce tour ; la machine encadrée est celle qui est jouée. Traits verts : vraies probabilités.

Regret cumulé des trois stratégies au fil des tours. Plus la courbe est basse, moins l'apprentissage a coûté.

Tour

sur 1 000

Thompson : regret

—

Équirépartition : regret

—

Glouton : regret

—

Parts jouées par Thompson

—

machines 1 / 2 / 3

Une seule partie dépend du hasard. Pour juger une stratégie, on la rejoue 200 fois sur 1 000 tours avec les probabilités choisies dans l'onglet précédent, et l'on trace le regret moyen.

Regret moyen sur 200 parties (échelle horizontale logarithmique) : Thompson en rouge, équirépartition en gris, glouton en bleu-vert. Sur une échelle logarithmique, une croissance en log t devient une droite ; une croissance proportionnelle à t devient une exponentielle.

Thompson : regret moyen à t = 1 000

—

Équirépartition

—

Glouton

—

Croissance de 100 à 1 000 tours

—

R(1 000)/R(100) — Thompson / équirépartition

Thompson : R(t) ≈ α + β·ln t

—

ajustement sur t ∈ [100 ; 1 000]

Le regret de l'équirépartition croît proportionnellement au nombre de tours : elle continue de jouer les mauvaises machines. Le glouton peut s'enfermer sur une mauvaise machine après quelques échecs malchanceux de la bonne. Thompson explore tant qu'il doute et exploite dès qu'il sait : son regret croît comme le logarithme du nombre de tours, ce qui est la vitesse optimale (Lai et Robbins, 1985 ; Agrawal et Goyal, 2012). Lancez les 200 parties pour mesurer ces comportements.

Trois siècles de pièces, de billards et de boutons

1713Jacques Bernoulli, Ars Conjectandi (publié après sa mort) : l'essai à deux issues et la première loi des grands nombres — la fréquence converge vers la probabilité.
1763Thomas Bayes (essai publié par Richard Price) : une boule lancée sur un billard fixe une probabilité inconnue ; il calcule ce que l'on en sait après des succès et des échecs — c'est, avant l'heure, la mise à jour d'une bêta uniforme.
1774Pierre-Simon Laplace, Mémoire sur la probabilité des causes par les événements : il généralise le raisonnement de Bayes ; on lui doit la règle de succession (s + 1)/(n + 2), qu'il illustre en 1814 par le lever du soleil.
1895Karl Pearson classe les courbes de fréquence ; son « type I » est la loi bêta, qui prend alors sa place en statistique.
1933William R. Thompson propose, pour des essais cliniques, de choisir le traitement selon la probabilité qu'il soit le meilleur : l'échantillonnage qui porte son nom.
2010 →Les tests A/B bayésiens et les « bandits » de Thompson se répandent dans la publicité en ligne, les recommandations et les essais adaptatifs.

À retenir

Bernoulli : l'essai

Deux issues, un paramètre p. Moyenne p, variance p(1 − p). Répétée, elle donne la binomiale et la loi des grands nombres.

Bêta : l'incertitude sur p

Une densité sur [0 ; 1], réglée par a et b. Elle exprime un meilleur pari a/(a + b) et un doute qui diminue quand a + b grandit.

Ensemble : apprendre, c'est compter

ℬêta(a, b) + s succès et n − s échecs = ℬêta(a + s, b + n − s). De là naissent le test A/B bayésien et l'échantillonnage de Thompson.

Pour aller plus loin

Prévoir plusieurs essais. Si p suit ℬêta(a, b), le nombre de succès parmi m essais futurs suit la loi bêta-binomiale : plus dispersée qu'une binomiale, car elle tient compte du doute sur p.
Plus de deux issues. Pour un dé ou un vote à plusieurs candidats, Bernoulli devient la loi catégorielle (multinomiale) et la bêta devient la loi de Dirichlet ; la mise à jour reste un simple comptage.
Choisir l'a priori. ℬêta(1, 1) est uniforme ; ℬêta(½, ½), l'a priori de Jeffreys, ne dépend pas de la façon de paramétrer le problème. Un a priori ℬêta(a, b) « vaut » a + b observations : c'est une façon honnête de dire combien on croit savoir.
Regarder en continu. Dans un test A/B, consulter les résultats à chaque visiteur et s'arrêter au premier franchissement d'un seuil augmente la proportion de fausses victoires : il faut fixer à l'avance la règle d'arrêt ou un seuil plus exigeant.
La formule exacte de la planche 4. Pour des paramètres entiers, P(p_B > p_A) = Σ_i=0^α_B−1 B(α_A + i, β_A + β_B) / [(β_B + i) B(1 + i, β_B) B(α_A, β_A)].