En 1950, le mathématicien Harold Kuhn réduit le poker à l'os : trois cartes, deux joueurs, une seule mise possible. Le jeu reste assez riche pour exiger le bluff, et assez petit pour être résolu exactement. On y voit comment bluffer « juste ce qu'il faut », pourquoi il faut parfois cacher une main forte, et comment une machine découvre seule ces règles en ruminant ses regrets.
0
Les règles en quatre lignes
Le paquet contient trois cartes : Valet < Dame < Roi. Chaque joueur met 1 jeton au pot et reçoit une carte qu'il est seul à voir ; la troisième reste cachée.
Situation
Choix possibles
Ce qui se passe
Le joueur 1 parle
Parole (ne pas miser) ou Miser 1 jeton
—
Après « Parole »
Le joueur 2 dit Parole ou Mise 1 jeton
Parole – parole : on compare les cartes, la plus haute gagne le pot (gain ±1).
Après une mise
L'autre Suit (met 1 jeton) ou Se couche
Suivre : on compare, gain ±2. Se coucher : celui qui a misé gagne 1 sans montrer sa carte.
Notations de la page : pour le joueur 1, la probabilité de miser d'emblée avec chaque carte, puis celle de suivre si le joueur 2 mise après sa parole ; pour le joueur 2, la probabilité de miser après une parole, puis celle de suivre une mise. Au total, chaque joueur a six décisions — trois cartes et deux situations — appelées ses ensembles d'information : ce qu'il sait au moment de choisir.
Planche 1
Jouer contre une machine qui joue parfaitement
La machine applique une stratégie d'équilibre, calculée aux planches suivantes. Elle ne cherche pas à lire votre jeu : elle se contente d'être impossible à exploiter. Choisissez votre place et jouez quelques dizaines de donnes. Le joueur 1, qui doit parler le premier, est désavantagé : même en jouant parfaitement, il perd en moyenne 1/18 de jeton par donne.
La table : votre carte en bas, celle de la machine en haut (révélée à l'abattage), le pot au centre.
Donnes jouées
0
Votre gain total
0
Votre moyenne par donne (± 2 écarts-types)
—
Le mieux que vous puissiez espérer en moyenne à cette place
—
Une garantie, pas une victoire. Une stratégie d'équilibre assure à la machine sa part — 1/18 de jeton par donne quand elle joue en second, −1/18 quand elle parle en premier — quoi que vous fassiez. Vous pouvez gagner une série de donnes par chance, mais sur la durée votre moyenne ne dépassera pas cette limite. En revanche, la machine ne profite pas de vos erreurs au-delà : elle ne s'adapte pas. Le prix de la sécurité, c'est de renoncer à exploiter (planche 4). Il faut plusieurs centaines de donnes pour que la moyenne sorte du hasard : l'écart-type d'une donne vaut environ 1,3 jeton.
Planche 2
L'arbre du jeu, et sa solution exacte
Le hasard distribue d'abord l'une des six donnes possibles (Valet-Dame, Valet-Roi, …), puis les joueurs parlent tour à tour. Chaque joueur ne voit que sa carte : le joueur 1 qui tient le Valet ne sait pas s'il est dans la donne Valet-Dame ou Valet-Roi. Ces nœuds qu'il ne peut pas distinguer forment un ensemble d'information, relié par un pointillé : il doit y jouer de la même façon. Une stratégie pure fixe un choix dans chacun de ses 6 ensembles : 2⁶ = 64 stratégies pures par joueur. Le jeu devient alors un tableau 64 × 64, que l'on résout par programmation linéaire (méthode du simplexe).
L'arbre complet : ● joueur 1, ● joueur 2, gains du joueur 1 sur les feuilles. Branches de gauche : parole ou se coucher ; branches de droite : miser ou suivre. Touchez un nœud pour colorer son ensemble d'information.
Le tableau 64 × 64 des gains du joueur 1 (rouge : gain, bleu : perte). Sur les bords, en noir, les probabilités des stratégies pures dans la solution trouvée par le simplexe.
Valeur du jeu pour le joueur 1 (simplexe)
—
Écart avec −1/18 = −0,0555…
—
Pivots du simplexe
—
Stratégie trouvée, ramenée à des probabilités par situation
—
Contrôle : ce qu'une meilleure réponse gagnerait contre elle
—
Une solution exacte, et même une famille de solutions. Le simplexe donne une valeur de −1/18 pour le joueur 1, à 10⁻¹⁵ près. Il trouve une stratégie optimale, celle d'un sommet du polyèdre des solutions : bluffer toujours au tiers avec le Valet et miser toujours le Roi. Kuhn a montré qu'il en existe une infinité : pour tout α entre 0 et 1/3, le joueur 1 peut miser le Valet avec la probabilité α, le Roi avec la probabilité 3α, ne jamais miser la Dame, et suivre avec la Dame avec la probabilité α + 1/3. Le joueur 2, lui, n'a qu'une stratégie optimale : miser le Roi, bluffer d'un tiers avec le Valet après une parole, suivre d'un tiers avec la Dame.
Planche 3
Le bluff et la sous-enchère : pourquoi « un tiers » et « trois fois plus »
Deux comportements surprennent dans la solution. Le bluff : miser avec le Valet, la plus mauvaise carte, pour faire coucher la Dame adverse. La sous-enchère (ou « jouer lentement ») : ne pas miser avec le Roi, la meilleure carte, pour laisser l'adversaire bluffer et le punir ensuite. La carte ci-dessous montre, pour chaque couple (fréquence de bluff au Valet, fréquence de mise au Roi), ce que le joueur 1 est sûr de gagner face à un adversaire qui connaîtrait sa stratégie et y répondrait au mieux. Déplacez le point.
Gain garanti du joueur 1 (plus c'est clair, mieux c'est), la Dame n'étant jamais misée et la fréquence de suivi avec la Dame étant choisie au mieux. Le segment rouge est l'ensemble des stratégies optimales : Roi = 3 × Valet.
En haut : le joueur 2 tient la Dame et fait face à une mise ; gain de suivre et de se coucher selon la fréquence de mise au Roi. En bas : le joueur 1 tient la Dame et fait face à une mise après sa parole ; gain de suivre et de se coucher selon la fréquence de bluff du joueur 2 au Valet.
Votre point : bluff au Valet / mise au Roi
—
Gain garanti (meilleure fréquence de suivi avec la Dame)
—
Fréquence de suivi avec la Dame qui l'assure
—
Maximum de la carte, cherché sur toute la grille
—
Le bluff rend l'adversaire indifférent. Quand le joueur 1 mise, le joueur 2 qui tient la Dame affronte soit un Valet (qui bluffe), soit un Roi. Suivre rapporte 2 contre le Valet et coûte 2 contre le Roi ; se coucher coûte toujours 1. Les deux se valent exactement quand les mises au Roi sont trois fois plus fréquentes que les bluffs au Valet : c'est le segment rouge. Bluffer davantage, c'est se faire suivre et perdre ; bluffer moins, c'est voir l'adversaire se coucher à coup sûr. De même, le joueur 2 bluffe au Valet un tiers du temps après une parole, ce qui rend le joueur 1 indifférent entre suivre et se coucher avec sa Dame (graphique du bas). Et le Roi qui ne mise pas (probabilité 1 − 3α) tend un piège à ces bluffs : c'est la sous-enchère.
Planche 4
Exploiter un adversaire, ou se protéger de tous
Face à un adversaire réel, qui a ses manies, on peut faire mieux que l'équilibre : calculer la meilleure réponse à ses manies. Mais une meilleure réponse est une stratégie pure, prévisible, qu'un adversaire attentif pourrait à son tour exploiter. Ici vous êtes le joueur 1, contre un joueur 2 au profil choisi. Deux joueurs 1 s'affrontent sur les mêmes donnes : l'un joue l'équilibre (α = 1/6), l'autre la meilleure réponse au profil.
Gain moyen cumulé par donne : stratégie d'équilibre, meilleure réponse. Les droites en pointillé donnent les espérances exactes.
Équilibre contre ce profil : espérance exacte / simulée
—
Meilleure réponse : espérance exacte / simulée
—
Si l'adversaire découvre la meilleure réponse et s'y adapte
—
L'équilibre, lui, garantit toujours
—
Le dilemme du joueur. Contre le prudent, qui ne suit qu'avec le Roi, la meilleure réponse bluffe à chaque Valet ; contre le curieux, elle ne bluffe jamais et mise la Dame comme le Roi. Elle gagne bien plus que l'équilibre — qui, contre le prudent, ne gagne pas un jeton de plus que −1/18 : il ne profite pas de ses failles. Mais cela ne dure que tant que l'adversaire ne change pas. S'il s'en aperçoit, la meilleure réponse s'effondre, nettement sous −1/18. L'équilibre, lui, ne descend jamais sous −1/18 — mais il gagne souvent moins qu'on ne pourrait. Les joueurs professionnels naviguent entre les deux : partir de l'équilibre et s'en écarter prudemment quand l'adversaire montre ses failles.
Planche 5 — signature
Une machine qui apprend seule à bluffer : la minimisation du regret
Personne n'explique les règles du bluff à cette machine. Elle joue contre elle-même et, après chaque partie, se pose une seule question dans chacune de ses 12 situations : « combien aurais-je gagné de plus si j'avais toujours pris l'autre décision ? » Cette différence s'appelle le regret. La règle d'apprentissage est simple : jouer chaque action proportionnellement à son regret positif accumulé. C'est l'algorithme CFR (minimisation du regret contrefactuel) de Zinkevich, Johanson, Bowling et Piccione (2007). La stratégie du moment oscille sans cesse ; mais sa moyenne au fil des parties converge vers un équilibre de Nash.
Ce qu'un adversaire parfait gagnerait contre la machine (son exploitabilité), en échelles logarithmiques : stratégie moyenne, stratégie du moment, et la pente −1/2 annoncée par la théorie (pointillé).
Le chemin de la stratégie moyenne du joueur 1 dans le plan (bluff au Valet, mise au Roi) ; le segment rouge est l'ensemble des équilibres. Les départs au hasard mènent à des points voisins sur le segment (α entre 0,20 et 0,24 dans nos essais) : la machine choisit d'elle-même un bluff modéré.
Les 12 situations : probabilité apprise de miser ou de suivre (barre) et valeur d'équilibre (trait). Pour le joueur 1, l'équilibre dépend du α appris : il est recalculé à partir du bluff au Valet.
Parties d'entraînement (itérations sur les 6 donnes)
0
Exploitabilité de la stratégie moyenne
—
Pente mesurée sur la dernière décade
—
Gain du joueur 1, contre −1/18
—
Bluff appris au Valet α ; mise au Roi / α
—
Bluff du joueur 2 au Valet ; suivi du joueur 2 avec la Dame
—
Du regret au poker de haut niveau. Le bluff émerge seul : au début, la machine joue tout au hasard ; elle découvre vite qu'il ne faut jamais miser la Dame, puis ajuste le bluff au Valet et la mise au Roi jusqu'à respecter le rapport 3 — qu'aucune ligne du programme n'indique. L'erreur diminue comme 1/√T (pente −1/2 mesurée), ce qui est lent mais fonctionne sur des jeux gigantesques. Une variante, CFR+, a permis en 2015 de résoudre pratiquement le Texas hold'em limité à deux joueurs (programme Cepheus, université de l'Alberta) ; des descendants de CFR sont au cœur de Libratus (2017), qui a battu des professionnels au hold'em sans limite à deux joueurs, puis de Pluribus (2019) à six joueurs.
Synthèse
Ce qu'il faut retenir
Le bluff est mathématique
Avec le Valet, miser une fois sur trois quand on mise le Roi à coup sûr : ni plus ni moins. L'adversaire devient incapable de savoir s'il doit suivre — et c'est précisément le but.
Cacher sa force
Le Roi ne mise pas toujours : en parlant, il laisse l'adversaire bluffer et le punit. Être imprévisible avec ses bonnes mains protège aussi ses mauvaises.
Apprendre par le regret
Sans rien savoir du poker, une machine qui compte ses regrets converge vers l'équilibre. C'est la méthode qui a fait battre les meilleurs joueurs humains.
Pour aller plus loin
Les valeurs exactes. La valeur du jeu est −1/18 pour le joueur 1. Pour α entre 0 et 1/3, la stratégie (Valet : miser α, suivre 0 ; Dame : miser 0, suivre α + 1/3 ; Roi : miser 3α, suivre 1) est optimale pour le joueur 1 ; pour le joueur 2, la stratégie (Valet : miser 1/3 après parole, se coucher sur mise ; Dame : parole, suivre 1/3 ; Roi : toujours miser et suivre) est l'unique optimale. La page vérifie ces résultats de trois façons indépendantes : par le calcul exact des meilleures réponses (planches 2 à 4), par le simplexe sur la forme normale 64 × 64 (planche 2) et par l'apprentissage (planche 5).
Références. H. W. Kuhn, « A simplified two-person poker », Contributions to the Theory of Games I (1950) ; J. von Neumann et O. Morgenstern, Theory of Games and Economic Behavior (1944), chapitre sur le poker ; M. Zinkevich, M. Johanson, M. Bowling, C. Piccione, « Regret minimization in games with incomplete information » (2007) ; M. Bowling et coll., « Heads-up limit hold'em poker is solved », Science (2015) ; N. Brown et T. Sandholm, Science (2018 et 2019).
Pages voisines. Calculer les équilibres de Nash d'un jeu 3 × 3 ; pierre-papier-ciseaux et le minimax ; le jeu de bridge et les ensembles d'information ; l'histoire de la théorie des jeux (le bluff chez von Neumann).