Comment calculer avec l'infini sans se tromper ? D'Archimède, qui l'évitait, à Weierstrass, qui l'a dompté, en passant par Newton, Leibniz et Euler, qui l'ont manié avec audace. Chaque époque est rejouée sur une planche, et chaque résultat historique est recalculé par la page.
L'analyse est la partie des mathématiques qui étudie le continu et les passages à la limite : aires de figures courbes, tangentes, vitesses instantanées, sommes d'une infinité de termes. Toutes ces questions obligent à manier l'infiniment petit ou l'infiniment grand, et toute son histoire est celle d'un compromis entre l'audace, qui fait trouver, et la rigueur, qui garantit.
| Éviter l'infini | Archimède encadre une aire courbe par des figures finies et conclut par l'absurde. Planche 1. |
| L'apprivoiser | Fermat calcule aires et maximums en laissant une petite quantité s'évanouir. Planche 2. |
| Le manier | Newton et Leibniz font du calcul infinitésimal un algorithme ; Newton en tire π, Euler résout avec des produits infinis un problème qui résistait depuis 1650. Planches 3 et 4. |
| Le dompter | Au XIXᵉ siècle, des contre-exemples obligent Cauchy, Abel, Riemann et Weierstrass à tout redéfinir. Planche 5. |
Archimède, La Quadrature de la parabole, vers −250 · méthode d'exhaustion d'Eudoxe
Les Grecs refusent l'infini « en acte ». Pour mesurer le segment de parabole, Archimède le remplit de triangles : un grand triangle d'aire T, puis dans chaque espace restant un triangle dont le sommet est le point où la tangente est parallèle à la base. Il prouve que chaque génération de triangles a une aire totale égale au quart de la précédente. L'aire vaut donc T + T/4 + T/16 + … et Archimède montre, par une double réduction à l'absurde, qu'elle ne peut être ni plus grande ni plus petite que 4/3 de T.
Pierre de Fermat, Toulouse, vers 1636–1658 · Cavalieri, Geometria indivisibilibus, 1635
Pour l'aire sous la courbe y = xk entre 0 et 1, Fermat découpe l'intervalle non pas en parts égales, mais aux points 1, q, q², q³, … qui se resserrent vers 0. Les rectangles forment alors une suite géométrique, dont la somme se calcule exactement : (1 − q)/(1 − qk+1). Quand q se rapproche de 1, les rectangles s'affinent et la somme tend vers 1/(k + 1) — même pour un exposant fractionnaire, ce que Cavalieri ne savait pas faire.
Problème de Fermat : partager un segment de longueur b en deux parties a et b − a dont le produit soit le plus grand possible. Il compare f(a) = a(b − a) à f(a + e), les « adégale » (les pose presque égaux), divise par e, puis supprime e. Il reste b − 2a = 0, soit a = b/2. C'est déjà, sans le mot, l'annulation de la dérivée.
Isaac Newton, Woolsthorpe, 1665–1666 · Leibniz, Nova methodus, 1684
Réfugié à la campagne pendant la peste, Newton découvre que (1 − x)1/2 se développe en une série infinie 1 − x/2 − x²/8 − x³/16 − …, comme une puissance entière. Il l'applique au cercle de diamètre 1 : l'aire A sous l'arc entre 0 et 1/4 s'intègre terme à terme. Or la géométrie dit que A est un secteur d'aire π/24 moins un triangle d'aire √3/32. D'où π = 24 A + 3√3/4. Newton avoue plus tard avoir poussé ce calcul jusqu'à seize décimales, « n'ayant alors rien d'autre à faire ».
Pietro Mengoli pose la question en 1650 · Leonhard Euler la résout en 1734–1735
Que vaut la somme des inverses des carrés ? La série converge si lentement qu'après mille termes on n'a que trois décimales. Euler procède en deux temps. D'abord il accélère la convergence : il ajoute à la somme partielle une correction en 1/n, 1/n², … (la formule d'Euler-Maclaurin) et obtient 1,644934 en 1731. Puis, en 1735, il devine la valeur exacte par un raisonnement audacieux : il écrit sin x / x comme un polynôme infini qui s'annule en ±π, ±2π, …, donc comme un produit (1 − x²/π²)(1 − x²/4π²)…, et compare le coefficient de x² à celui de la série de sin x / x, soit −1/6.
Cauchy, Cours d'analyse (1821) · Abel (1826) · Riemann (vers 1861) · Weierstrass (1872) · Hardy (1916) · Gerver (1970)
Au XIXᵉ siècle, les séries de Fourier (1807) produisent des fonctions que personne n'avait imaginées. Cauchy redéfinit limite, continuité et convergence avec des inégalités, mais il « démontre » encore en 1821 qu'une somme de fonctions continues est continue. Deux épisodes montrent comment des contre-exemples ont forcé la rigueur moderne, celle de Weierstrass et de ses ε et δ.
Abel signale en 1826 que le théorème de Cauchy « admet des exceptions » : la série sin x − sin 2x/2 + sin 3x/3 − … converge vers x/2 pour −π < x < π, mais vaut 0 en x = π. Chaque terme est continu, la somme a un saut. Ce qui manque, c'est la convergence uniforme (Seidel et Stokes, 1847) : l'écart doit devenir petit partout à la fois, pas seulement point par point.
Riemann aurait proposé vers 1861 la fonction R(x) = sin x + sin 4x/4 + sin 9x/9 + … comme exemple de fonction continue nulle part dérivable. Weierstrass, faute de preuve, publie en 1872 son propre exemple. L'histoire ne s'arrête pas là : Hardy montre en 1916 que R n'est pas dérivable aux multiples irrationnels de π, et Gerver découvre en 1970 qu'elle est pourtant dérivable, de dérivée −1/2, aux points π(2p+1)/(2q+1) — et seulement là. Le quotient (R(x₀ + h) − R(x₀))/h est calculé ici avec un million de termes.
Plusieurs planches ouvrent sur des pages plus détaillées de ce cahier : le calcul infinitésimal (triangle de Leibniz, procès de Berkeley, nombres duaux) ; les bases de l'analyse ; limites et continuité (dont la fonction de Weierstrass) ; les séries (dont le phénomène de Gibbs) ; primitives et intégrales ; la théorie de l'intégration de Cauchy à Lebesgue ; les formules de Taylor ; les suites de Cauchy.
Lectures : Jean Dhombres et coll., Mathématiques au fil des âges ; Carl Boyer, The History of the Calculus and Its Conceptual Development ; Judith Grabiner, The Origins of Cauchy's Rigorous Calculus ; William Dunham, Euler, the Master of Us All.
Précautions : l'attribution de la fonction R à Riemann repose sur un témoignage de Weierstrass, sans écrit de Riemann. Les quotients de la fonction de Riemann sont calculés avec un million de termes ; leur troncature introduit une erreur de l'ordre de 10⁻² pour h = 10⁻⁴, ce qui suffit à distinguer les comportements mais pas à certifier la troisième décimale.