Quels nombres premiers s'écrivent x² + y² ? Ceux de la forme 4k + 1, a vu Fermat. Et x² + 2y² ? x² + 3y² ? x² + 5y² ? À chaque fois, la réponse se lit sur un reste, sauf quand elle ne se lit plus. Pour comprendre, Lagrange puis Gauss étudient toutes les expressions ax² + bxy + cy², les formes quadratiques binaires. Ils les classent, les réduisent et, chez Gauss, les composent : leurs classes forment un groupe, le premier groupe abstrait de l'histoire. Cinq planches pour suivre ce chemin.
Une forme quadratique binaire est f(x, y) = ax² + bxy + cy², avec a, b, c entiers. Son discriminant D = b² − 4ac ne change pas quand on change de base dans le réseau ℤ². Ici, D < 0 et a > 0 : la forme ne prend que des valeurs positives, et ses courbes de niveau sont des ellipses.
| Forme | Discriminant | Les premiers p qu'elle représente |
|---|---|---|
| x² + y² | −4 | p = 2 et p ≡ 1 (mod 4) (Fermat, Euler) |
| x² + 2y² | −8 | p = 2 et p ≡ 1, 3 (mod 8) |
| x² + 3y² | −12 | p = 3 et p ≡ 1 (mod 3) |
| x² + 5y² | −20 | p = 5 et p ≡ 1, 9 (mod 20) ; les p ≡ 3, 7 (mod 20) vont à 2x² + 2xy + 3y² |
| x² + 27y² | −108 | p ≡ 1 (mod 3) et 2 est un cube modulo p (Gauss) : aucune condition de reste ne suffit |
Une condition de reste suffit souvent, mais pas toujours.
Pour que p = x² + ny², il faut que −n soit un carré modulo p : c'est la condition des résidus quadratiques, qui ne dépend que du reste de p modulo 4n. Elle suffit quand toutes les formes de discriminant −4n sont équivalentes à x² + ny². Sinon, elle désigne seulement un ensemble de formes, et il faut savoir laquelle représente p. Pour n = 5, la condition donne les p ≡ 1, 3, 7, 9 (mod 20), mais ceux en 3 et 7 sont représentés par 2x² + 2xy + 3y², pas par x² + 5y². Pour n = 27, aucune congruence ne suffit : il faut une condition cubique.
Deux formes équivalentes prennent exactement les mêmes valeurs.
Remplacer (x, y) par (px + qy, rx + sy) avec ps − qr = 1 transforme une forme f en une forme g. Le changement est inversible et à coefficients entiers, donc g et f représentent exactement les mêmes nombres : elles sont équivalentes. Deux changements suffisent à tout engendrer : T : (x, y) ↦ (x + y, y), qui ajoute 2a à b, et S : (x, y) ↦ (−y, x), qui échange a et c. Géométriquement, f(x, y) est le carré de la longueur du vecteur x·u + y·v dans un réseau du plan, et changer de forme revient à changer de base dans ce même réseau.
Dans chaque classe, une seule forme vérifie |b| ≤ a ≤ c.
Lagrange (1773) puis Gauss (1801) montrent que toute forme définie positive est équivalente à une forme réduite : −a < b ≤ a ≤ c (avec b ≥ 0 si a = c), et qu'elle est unique. L'algorithme alterne deux gestes : une translation Tk pour ramener b entre −a et a, et un retournement S si a > c. Le coefficient a diminue à chaque retournement, donc l'algorithme s'arrête. Dans le demi-plan de Poincaré, le point τ = (−b + i√|D|)/(2a) de la forme subit les transformations τ ↦ τ + k et τ ↦ −1/τ, et finit dans le domaine fondamental |Re τ| ≤ 1/2, |τ| ≥ 1. Comme a ≤ √(|D|/3) pour une forme réduite, il n'y a qu'un nombre fini de classes.
Combien de formes réduites pour un discriminant donné ?
Le nombre de classes h(D) compte les formes réduites primitives de discriminant D. Il mesure de combien l'arithmétique de ℤ[(D + √D)/2] s'écarte de la factorisation unique : h(D) = 1 exactement quand cet anneau est factoriel. Gauss conjecture que h(D) = 1 seulement pour neuf discriminants fondamentaux, −3, −4, −7, −8, −11, −19, −43, −67, −163. C'est démontré en 1952 par Heegner, dont la preuve est d'abord jugée incomplète, puis par Baker et Stark (1966-1967). En moyenne, h(D) croît comme √|D| (Siegel, 1935), avec de fortes fluctuations.
Gauss découvre qu'on peut multiplier les formes, et que les classes forment un groupe.
L'identité (x² + y²)(z² + t²) = (xz − yt)² + (xt + yz)² montre que le produit de deux valeurs de x² + y² en est encore une. Gauss généralise en 1801 : deux formes de même discriminant se « composent » en une troisième, qui représente les produits de leurs valeurs. Pour la composition, les classes forment un groupe commutatif. Le neutre est la forme principale x² + … ; l'inverse de (a, b, c) est (a, −b, c). La page compose les formes par l'algorithme de Dirichlet et vérifie toutes les propriétés de groupe. Le groupe peut être cyclique (D = −23 : ordre 3) ou non (D = −84 : chaque élément est d'ordre 2).
Euler cherchait de grands nombres premiers avec des formes x² + ny². Il remarque que pour certains n, ses « nombres idoines », un nombre impair m premier avec n qui s'écrit d'une seule façon comme x² + ny² (avec x, y ≥ 0 et x premier avec ny) est forcément un nombre premier ou une puissance d'un premier. Il en trouve 65, de 1 à 1 848, et s'en sert pour certifier des premiers de huit chiffres, comme 18 518 809 = 197² + 1 848 × 100², un exploit vers 1778. En termes de Gauss, n est idoine quand toutes les classes de discriminant −4n sont d'ordre au plus 2 : chaque forme réduite est alors « ambiguë » (b = 0, a = b ou a = c). On n'en connaît pas d'autre : il en existe au plus deux de plus, et aucun si l'hypothèse de Riemann généralisée est vraie (Weinberger, 1973).
Une forme seule est difficile à compter, mais toutes les formes réduites d'un même discriminant ensemble obéissent à une formule exacte, due à Dirichlet (1839) : le nombre total de représentations de n (premier avec D) par l'ensemble des formes réduites de discriminant D vaut w·Σd|n (D/d), où (D/d) est le symbole de Kronecker et w le nombre d'unités (2 en général, 4 pour D = −4, 6 pour D = −3). Pour D = −4, c'est la formule de Jacobi sur les sommes de deux carrés. Dirichlet en tire, par l'analyse, la formule du nombre de classes h(D) = (w√|D|/2π)·L(1, χD).
Écrire p = x² + ny² demande que −n soit un carré modulo p ; cela suffit quand le discriminant −4n n'a qu'une forme par genre.
Changements de base du réseau et réduction de Gauss donnent un représentant unique par classe, et un nombre fini h(D) de classes.
Les classes forment un groupe ; il prépare les idéaux de Dedekind et la théorie algébrique des nombres.
Formes indéfinies. Pour D > 0, les formes prennent des valeurs des deux signes ; la réduction ne donne plus une forme unique mais un cycle de formes, lié au développement en fraction continue de √D et à l'équation de Pell-Fermat.
x² + ny² en général. Pour tout n, il existe un polynôme fn tel que p = x² + ny² si et seulement si −n est un carré modulo p et fn a une racine modulo p : c'est la théorie des corps de classes (livre de David Cox, Primes of the form x² + ny²).
Liens. Entiers de Gauss ; résidus quadratiques ; fractions continues ; théorie algébrique des nombres (idéaux) ; polynôme d'Euler n² + n + 41, lié à D = −163.