francebalade.fr           Cours de Mathématiques

Le transport optimal

Déplacer une masse vers une autre au moindre coût : un problème de terrassier posé en 1781, devenu une géométrie des lois de probabilité — et l'outil qui apprend à un ordinateur que deux formes se ressemblent.

1Monge : les déblais et les remblais

1781 — comment porter chaque pelletée de terre du tas au trou sans gaspiller un pas.

déblais (départ) — déplaçables à la souris remblais (arrivée)

Monge cherche une application T qui envoie chaque grain de terre sur une place et une seule, en minimisant le coût total ∑ c(x, T(x)). Le problème est redoutable : rien ne garantit qu'une telle application existe (que faire si un tas doit se scinder en deux ?), et l'ensemble des candidats n'a aucune structure convexe.

Avec n points de chaque côté, il y a n! appariements possibles. L'algorithme hongrois (Kuhn, 1955, d'après Kőnig et Egerváry) trouve le meilleur en n³ opérations.

Regardez les segments : pour un coût convexe, la solution optimale ne se croise jamais. Si deux trajets se croisaient, les échanger raccourcirait le total — c'est l'inégalité du quadrilatère, et c'est tout l'argument. Passez en appariement glouton : les croisements apparaissent, le coût monte.

2Kantorovich : le plan de transport

1942 — on renonce à envoyer chaque grain à un seul endroit, et le problème devient linéaire.

Un plan γij dit quelle quantité part du site i vers le site j. Les seules contraintes sont les marges : ∑j γij = μi et ∑i γij = νj. Minimiser ∑ cij γij est un programme linéaire — donc soluble, et surtout muni d'un dual : trouver des prix ui, vj avec ui + vj ≤ cij qui maximisent ∑ uiμi + ∑ vjνj. Un transporteur concurrent facture l'enlèvement ui et la livraison vj : il ne peut jamais faire payer plus que le trajet direct, et à l'optimum il facture exactement autant.

Ici, sur une droite et pour un coût convexe, l'optimum a une forme explicite : la règle du coin nord-ouest. On sert les sites de gauche à droite, sans jamais croiser. Les cellules actives forment un escalier de m + n − 1 cases, sur lequel les prix se propagent de proche en proche.

Le tableau des coûts réduits cij − ui − vj est le certificat : toutes les cases positives ou nulles, et nulles exactement là où passe la marchandise. Aucune amélioration n'est possible — la preuve tient dans un tableau.

3La distance de Wasserstein

Le coût minimal devient une distance entre lois — celle qui voit qu'une bosse a bougé.

Pourquoi pas la distance L² ?

En dimension 1 tout se calcule : W1 est exactement l'aire comprise entre les deux fonctions de répartition, et Wp la distance Lp entre les fonctions quantiles. Pour deux gaussiennes, W2² = (m1 − m2)² + (σ1 − σ2)².

La courbe du bas explique l'engouement : quand on éloigne deux bosses, la distance L² (et la variation totale, et la divergence de Kullback–Leibler) sature dès qu'elles ne se recouvrent plus — elles disent seulement « différentes », sans mesurer de combien. W2 croît linéairement avec le décalage : elle garde la géométrie de l'espace sous-jacent. C'est pourquoi elle sert à comparer des images, des nuages de points ou des distributions apprises.

4Sinkhorn : flouter pour aller vite

Cuturi, 2013 — on ajoute un peu d'entropie, et le programme linéaire devient une suite de divisions.

On remplace le coût par ∑ cijγij − ε H(γ). La solution prend alors la forme γ = diag(a) K diag(b) avec Kij = e−cij, et il ne reste qu'à ajuster alternativement les deux vecteurs pour respecter chaque marge : c'est l'algorithme de Sinkhorn–Knopp, deux produits matrice-vecteur par itération.

Le prix à payer se voit à l'œil : le plan s'épaissit. Petit ε, plan net mais convergence lente et risque de dépassement numérique ; grand ε, convergence immédiate et transport flou qui surestime la distance. Ce compromis, et le fait que l'algorithme soit dérivable, ont fait entrer le transport optimal dans l'apprentissage automatique.

5Élément signature — déplacer plutôt que fondre

McCann, 1997 : l'interpolation par déplacement suit la géodésique, le mélange traverse l'espace en ligne droite.

déplacement (géodésique de Wasserstein) mélange (1−t)μ + tν

Les deux courbes partent de μ et arrivent à ν. Entre les deux, tout diffère. Le mélange fait décroître la première bosse et croître la seconde : à mi-chemin, la matière est aux deux endroits à la fois, et jamais entre les deux. Le déplacement transporte chaque quantile en ligne droite : la bosse voyage sans se déformer, et sa variance suit ((1−t)σ1 + tσ2)² au lieu d'enfler du terme parasite t(1−t)(m1 − m2)².

Cette famille μt est la géodésique de l'espace de Wasserstein : W2(μ, μt) = t · W2(μ, ν), exactement comme un segment dans le plan euclidien. La formulation dynamique de Benamou et Brenier (2000) lit la même chose comme un écoulement de fluide qui minimise son énergie cinétique.

Le théorème de Brenier (1987) referme la boucle ouverte par Monge : pour le coût quadratique, dès que μ n'a pas d'atomes, le plan optimal de Kantorovich est porté par une vraie application, et cette application est le gradient d'une fonction convexe. Le terrassier avait raison, il fallait deux siècles pour le démontrer.

Appariements par l'algorithme hongrois, plans optimaux par la règle du coin nord-ouest avec certificat dual, Sinkhorn calculé dans le navigateur.