Théorie des jeux

Les jeux répétés : quand l'avenir rend la coopération possible

Joué une seule fois, le dilemme du prisonnier pousse chacun à trahir. Mais deux voisins, deux entreprises ou deux pays se retrouvent jour après jour : trahir aujourd'hui, c'est risquer la vengeance demain. En 1980, le politologue Robert Axelrod organise un tournoi entre programmes informatiques, et c'est le plus simple, « donnant-donnant », qui gagne. Les théoriciens connaissaient déjà un résultat si répandu qu'on l'appelle le folk theorem, le « théorème du folklore » : quand l'avenir compte assez, presque n'importe quel partage des gains peut être un équilibre. Cette page fait jouer des matchs, reconstitue un tournoi, dessine les gains réalisables, calcule le seuil de patience et trace la région du folk theorem.

Vocabulaire

Les mots de la répétition

MotSens
Dilemme du prisonnierChacun choisit de coopérer (C) ou de trahir (D). Gains d'Axelrod : 3 chacun si les deux coopèrent, 1 chacun si les deux trahissent, 5 pour le traître et 0 pour la victime sinon.
StratégieDans un jeu répété, une règle qui dit quoi jouer à chaque tour en fonction de ce qui s'est passé.
Facteur d'actualisation δLe poids du tour suivant par rapport au tour présent, ou la probabilité que le jeu continue. Plus δ est proche de 1, plus l'avenir compte.
Gain minimaxLe gain qu'un joueur peut toujours garantir, quoi que fasse l'autre : ici 1, en trahissant toujours.
Folk theoremTout gain moyen réalisable qui donne à chacun plus que son minimax peut être obtenu à l'équilibre, si les joueurs sont assez patients.
Planche 1

Un match répété : deux stratégies face à face

Choisissez deux stratégies et faites-les jouer 200 tours, comme dans le tournoi d'Axelrod. Chaque tour, les deux joueurs choisissent en même temps C ou D, puis découvrent le choix de l'autre. Le bruit fait parfois jouer un coup à la place d'un autre, par erreur : une main qui tremble, un message mal compris. Observez comment une seule erreur peut déclencher une longue querelle entre deux « donnant-donnant ».

Les 200 tours, cinquante par ligne : pour chaque tour, le coup du joueur 1 (en haut) et celui du joueur 2 (en bas). Vert : coopérer ; rouge : trahir.
Gain moyen par tour de chaque joueur au fil du match, entre 1 (trahison mutuelle) et 3 (coopération mutuelle) pour la plupart des matchs.
Score total : joueur 1 / joueur 2
—
Tours de coopération mutuelle
—
Première trahison
—
Contrôle : chaque tour rapporte au total 6, 5 ou 2
—
Gagner un match ne sert à rien. Donnant-donnant ne bat jamais son adversaire : au mieux, il fait match nul ; contre « toujours trahir », il perd de 5 points. Mais il entraîne ses partenaires vers la coopération, qui rapporte 3 par tour, alors que la guerre ne rapporte que 1. Dans un tournoi où l'on additionne les points de tous les matchs, c'est cela qui compte.
Planche 2

Le tournoi d'Axelrod en détail

En 1980, Axelrod invite des spécialistes à envoyer un programme. Quatorze programmes, plus un qui joue au hasard, s'affrontent tous deux à deux en matchs de 200 tours. Le vainqueur est le plus court de tous : donnant-donnant, envoyé par le psychologue Anatol Rapoport. Un second tournoi réunit 62 programmes venus de six pays, en sachant que donnant-donnant avait gagné : il gagne encore. La page reconstitue un tournoi avec douze stratégies classiques (cinq matchs de 200 tours par paire, y compris contre soi-même). Puis elle fait une expérience « écologique » : chaque stratégie se reproduit en proportion de ses points.

Le tableau des matchs : gain moyen par tour de la stratégie en ligne contre la stratégie en colonne (de 0, en rouge, à 5, en vert). À droite (en dessous sur téléphone), le classement final ; « DD » abrège donnant-donnant.
L'expérience écologique : part de chaque stratégie dans la population au fil des générations. Les stratégies qui exploitent les autres prospèrent un temps, puis s'effondrent quand leurs proies disparaissent.
Vainqueur du tournoi
—
Rang de donnant-donnant
—
Survivants après 200 générations
—
Stratégies « gentilles » (qui ne trahissent jamais les premières) parmi les quatre premières
—
Les quatre qualités selon Axelrod. Être gentil : ne jamais trahir le premier. Être susceptible : répondre aussitôt à une trahison. Être indulgent : revenir à la coopération dès que l'autre y revient. Être clair : avoir un comportement simple, que l'adversaire comprend vite. Axelrod remarquait que « donnant-donnant indulgent », qui ne punit qu'après deux trahisons, aurait gagné le premier tournoi s'il avait été présenté. Avec du bruit, les versions qui pardonnent, comme la version généreuse, s'en sortent mieux que donnant-donnant, qui s'enferme dans des représailles en écho.
Planche 3

Les gains réalisables à long terme

À long terme, ce qui compte est le gain moyen par tour. Si les joueurs répètent un cycle, par exemple trois tours de coopération puis un tour où le joueur 1 trahit seul, le gain moyen est la moyenne des gains du cycle. En dosant les quatre issues possibles, on obtient tous les points d'un quadrilatère : l'ensemble des gains réalisables, dont les sommets sont (3, 3), (0, 5), (5, 0) et (1, 1). Personne n'acceptera pourtant moins que 1, puisqu'il peut toujours l'obtenir en trahissant : seule la partie au-dessus de (1, 1) est individuellement rationnelle.

Le plan des gains : gain moyen du joueur 1 en abscisse, du joueur 2 en ordonnée. Le quadrilatère gris contient tous les gains réalisables ; la zone verte ceux qui donnent plus de 1 à chacun. Le point noir suit la moyenne du cycle joué.
Le cycle choisi, répété : chaque case est un tour (couleur selon l'issue). En dessous, la moyenne courante des gains de chaque joueur, qui se rapproche de la moyenne du cycle.
Gain moyen du cycle (joueur 1, joueur 2)
—
Individuellement rationnel ?
—
Moyenne courante après les tours joués
—
Contrôle : le point est dans le quadrilatère
—
Coopérer n'est qu'un point parmi d'autres. Le point (3, 3) est le meilleur pour la somme des gains, mais il y en a beaucoup d'autres : un cycle où le joueur 1 trahit un tour sur quatre lui donne 3,5 et laisse 2,25 à l'autre. Celui-ci y perd, mais garde plus que les 1 qu'il obtiendrait en déclenchant la guerre. Toute la question devient : lesquels de ces points peut-on obtenir à l'équilibre ?
Planche 4

Le seuil de patience δ

Un tour plus tard, un gain ne vaut plus que δ fois sa valeur : δ mesure la patience, ou la probabilité que la relation continue (Axelrod parle de « l'ombre de l'avenir »). Avec la stratégie rancunière, on coopère tant que l'autre coopère, et on trahit pour toujours dès sa première trahison. Coopérer rapporte R à chaque tour. Trahir rapporte T une fois, puis P pour toujours. La coopération tient si et seulement si δ ≥ (T − R) / (T − P), soit 1/2 avec les gains d'Axelrod. Pour donnant-donnant, il faut aussi résister à l'alternance de trahisons, d'où le seuil max[(T − R)/(T − P) ; (T − R)/(R − S)] = 2/3.

Les gains tour par tour, pondérés par δt : en vert ceux de la coopération, en rouge ceux de la trahison suivie de la punition. Les courbes donnent les totaux cumulés.
Valeur totale (moyenne pondérée) de la coopération et de la trahison selon δ. Les courbes se croisent au seuil de patience ; le trait violet marque le seuil de donnant-donnant.
Coopérer / trahir (valeur moyenne pondérée)
—
Seuil du rancunier / de donnant-donnant
—
Durée moyenne de la relation, 1 / (1 − δ)
—
Contrôle : au seuil, les deux valeurs sont égales
—
L'ombre de l'avenir. Ce qui rend la coopération possible n'est pas la gentillesse, c'est la durée. Quand δ = 1/2, la relation dure en moyenne deux tours : c'est le minimum pour que la menace de punition l'emporte sur la tentation, avec les gains d'Axelrod. Plus la tentation T est forte, ou plus la punition P est douce, plus il faut de patience. C'est pourquoi la coopération est fragile à la fin d'un contrat, à l'approche d'une retraite, ou quand une entreprise va disparaître.
Signature

Le folk theorem dessiné dans le plan des gains

Quels gains moyens peut-on obtenir à l'équilibre ? On cherche des accords soutenus par la menace la plus dure : au premier écart, on trahit pour toujours, ce qui ramène chacun à son minimax 1. Les joueurs tirent au sort en public, à chaque tour, l'issue qu'ils vont jouer (par exemple (C, C) avec probabilité 3/4 et (D, C) avec probabilité 1/4). Pour chaque mélange, la page vérifie qu'aucun joueur ne gagne à s'écarter, compte tenu de δ. Quand δ approche de 1, la région remplit toute la zone verte de la planche 3 : c'est le folk theorem, démontré dans sa forme générale par Drew Fudenberg et Eric Maskin en 1986.

En bleu, les gains moyens soutenables à l'équilibre pour la valeur de δ choisie ; en pointillé vert, la région limite du folk theorem (réalisable et au-dessus de 1 pour chacun). Touchez un point pour vérifier s'il est soutenable.
Aire de la région soutenable, en part de la région limite, selon δ. La région apparaît à δ = 0,4, la coopération mutuelle (3, 3) devient possible à δ = 1/2, et la région tend vers 100 % quand δ tend vers 1.
Part de la région limite soutenable
—
(3, 3) soutenable ?
—
Point choisi
—
Contrôle : à δ = 0,999, la région couvre la région limite
—
Tout est possible, et c'est le problème. Le folk theorem dit que la coopération peut être un équilibre, mais aussi beaucoup d'autres choses : un partage inégal où l'un exploite l'autre un tour sur quatre, une alternance où chacun se fait exploiter à son tour (soutenable dès δ = 0,4), ou la guerre perpétuelle (1, 1), qui reste toujours un équilibre. La théorie dit ce qui est possible, pas ce qui arrivera. Le nom « folk » vient de ce que le résultat circulait parmi les théoriciens des jeux dès les années 1950, sans auteur reconnu ; James Friedman (1971) en a donné la version avec retour à la trahison mutuelle.
Synthèse

Ce qu'il faut retenir

La répétition change tout

La menace de représailles futures peut rendre la coopération rationnelle, même entre égoïstes.

Le seuil de patience

La coopération tient si δ ≥ (T − R)/(T − P) avec une punition éternelle ; plus la tentation est forte, plus il faut de patience.

Le folk theorem

Avec assez de patience, tout gain réalisable qui donne à chacun plus que son minimax est un équilibre : la théorie ne choisit pas.

Pour aller plus loin

Les conventions de la page. Gains d'Axelrod : T = 5, R = 3, P = 1, S = 0. Le tournoi de la planche 2 n'est pas celui de 1980 : c'est une reconstitution avec douze stratégies classiques, certaines présentes en 1980 (donnant-donnant, le rancunier de Friedman, Joss, le hasard), d'autres inventées plus tard (donnant-donnant généreux, Pavlov). Le « Testeur » vient du second tournoi. Dans la planche 5, la région est calculée exactement : pour chaque ensemble d'issues tirées au sort, on prend leur enveloppe convexe et on la coupe par les contraintes d'incitation vi ≥ 1 + (1 − δ)/δ × (gain de l'écart).

Références. R. Axelrod, « Effective choice in the Prisoner's Dilemma » (1980) et The Evolution of Cooperation (1984) ; J. Friedman, « A non-cooperative equilibrium for supergames » (1971) ; D. Fudenberg et E. Maskin, « The folk theorem in repeated games with discounting or with incomplete information » (1986) ; M. Nowak et K. Sigmund, sur donnant-donnant généreux (1992) et Pavlov (1993).

Pages voisines. Le dilemme du prisonnier, les jeux bayésiens, l'histoire de la théorie des jeux.