Informatique

Une histoire de l'intelligence artificielle

Des règles écrites à la main aux réseaux de neurones qui apprennent seuls, soixante-dix ans de promesses, d'hivers et de percées. Cinq planches pour refaire, en petit, les expériences qui ont marqué l'histoire de l'intelligence artificielle, et comprendre comment fonctionnent les systèmes d'aujourd'hui.

Printemps et hivers

En 1950, Alan Turing publie « Computing Machinery and Intelligence » et propose de remplacer la question « une machine peut-elle penser ? » par un jeu : un interrogateur, conversant par écrit, saura-t-il distinguer la machine d'un être humain ? En 1955, John McCarthy forge l'expression intelligence artificielle pour un atelier tenu l'été suivant au Dartmouth College. Depuis, le domaine a connu des périodes d'enthousiasme et de financements abondants, suivies de déceptions et de crédits coupés : les hivers de l'IA. Deux grandes approches s'y sont succédé : l'IA symbolique, qui écrit des règles, et l'IA connexionniste, qui fait apprendre des réseaux de neurones artificiels à partir d'exemples.

Une représentation qualitative de l'optimisme et des moyens consacrés à l'IA, avec ses deux hivers. La couleur des événements indique l'approche : bleu pour l'IA symbolique, rouge pour l'IA par apprentissage.
Planche 1

L'IA symbolique : des règles écrites à la main

1956 – 1987

La première IA cherche à reproduire le raisonnement en manipulant des symboles selon des règles. En 1966, au MIT, Joseph Weizenbaum écrit ELIZA, un programme qui imite une psychothérapeute : il repère des mots-clés dans la phrase de l'utilisateur et la retourne en question, en transformant « je » en « vous ». Weizenbaum fut stupéfait de voir des personnes lui confier leurs secrets. Dans les années 1970-1980, la même idée donne les systèmes experts, comme MYCIN qui conseillait des traitements contre les infections : des centaines de règles « si… alors… » rédigées avec des spécialistes. Parlez avec cette petite ELIZA en français.

vous >

La règle utilisée pour la dernière réponse


    

      
Règles du programme
—

      
Échanges / règles différentes utilisées
—

      
Réponses « par défaut » (aucun mot-clé reconnu)
—

    

  

  
Ce qu'il faut retenir. ELIZA ne comprend rien : elle applique quelques dizaines de règles de réécriture, et l'illusion vient de nous, qui prêtons volontiers une intention à ce qui nous répond (on parle depuis d'« effet ELIZA »). Les systèmes experts ont rendu de vrais services, mais se sont heurtés à un mur : il faut écrire chaque règle à la main, elles se contredisent, et le monde réel comporte toujours un cas imprévu. À la fin des années 1980, le marché des machines spécialisées s'effondre : c'est le deuxième hiver de l'IA. L'idée de faire apprendre les machines à partir d'exemples, née en même temps que l'IA symbolique, allait prendre le relais.







  
Planche 2
Le perceptron, et ce qu'il ne peut pas apprendre
1957 – 1969

  
En 1957, Frank Rosenblatt présente le perceptron, un neurone artificiel : il fait une somme pondérée de ses entrées, et répond 1 si elle dépasse un seuil, 0 sinon. Il apprend par une règle très simple : à chaque erreur, il corrige ses poids dans le sens de la bonne réponse. Graphiquement, il trace une droite qui sépare les exemples. Essayez de lui apprendre les fonctions logiques ET, OU, puis le OU exclusif (XOR : vrai si les deux entrées diffèrent).

  

    

    
    
    
8

  

  

    
Les quatre exemples (vert : la réponse attendue est 1, gris : 0) et la droite du perceptron. La zone bleutée est celle où il répond 1. Un exemple mal classé est cerclé de rouge.

    
Nombre d'exemples mal classés à la fin de chaque passage sur les quatre exemples (une « époque »).

  

  

    
Poids w₁, w₂ et seuil b
—

    
Époques / corrections
—

    
Erreurs actuelles
—

    
Contrôle : recherche d'une droite séparatrice sur 1 030 301 essais
—

  

  
Ce qu'il faut retenir. Pour ET et OU, le perceptron trouve une droite en quelques corrections : c'est garanti dès qu'une telle droite existe (théorème de convergence, 1962). Pour XOR, il tourne en rond indéfiniment, car aucune droite ne sépare les deux 1 des deux 0. La preuve tient en une ligne : il faudrait b ≤ 0, w₁ + b > 0, w₂ + b > 0 et w₁ + w₂ + b ≤ 0 ; en additionnant les deux inégalités du milieu, w₁ + w₂ + 2b > 0, donc w₁ + w₂ + b > −b ≥ 0, ce qui contredit la dernière. En 1969, le livre Perceptrons de Marvin Minsky et Seymour Papert démontre rigoureusement ces limites. Le message retenu, « les réseaux de neurones sont une impasse », assèche les crédits pour une quinzaine d'années.







  
Planche 3
La rétropropagation : plusieurs couches de neurones
1986

  
La solution était connue : empiler plusieurs couches de neurones, avec une réponse progressive (la fonction sigmoïde) au lieu d'un seuil brutal. Restait à savoir comment corriger les poids des couches cachées. En 1986, David Rumelhart, Geoffrey Hinton et Ronald Williams popularisent la rétropropagation du gradient : on mesure l'erreur en sortie, puis on remonte le réseau couche par couche en calculant, par la règle de dérivation des fonctions composées, la part de chaque poids dans l'erreur. Voici un réseau à deux entrées, trois neurones cachés et une sortie, qui apprend XOR.

  

    
    
    
300

  

  

    
Le réseau : épaisseur et couleur des liaisons selon le poids (bleu positif, rouge négatif). À droite, la réponse du réseau sur tout le carré [0, 1]² : il découpe le plan avec deux frontières, ce qu'un neurone seul ne peut pas faire.

    
L'erreur quadratique moyenne au fil des époques, en échelle logarithmique.

  

  

    
Époque
—

    
Sorties pour (0,0), (0,1), (1,0), (1,1)
—

    
Erreur quadratique moyenne
—

    
Contrôle du gradient par différences finies
—

    
Contrôle : même entraînement exécuté par Python (5 000 époques)
—

  

  
Ce qu'il faut retenir. Le réseau finit par répondre presque 0 pour (0,0) et (1,1), presque 1 pour les deux autres : les neurones cachés ont inventé seuls des « sous-règles » intermédiaires. Pour vérifier la rétropropagation, on compare chaque dérivée qu'elle calcule à une mesure directe (on bouge un poids d'un millionième et on observe l'erreur) : les deux calculs concordent sur au moins six chiffres significatifs, l'écart restant venant des arrondis. Pendant longtemps, ces réseaux restent pourtant petits, faute de données et de puissance. Yann LeCun en tire tout de même, dès 1989, des réseaux convolutifs qui lisent les codes postaux, puis les chèques bancaires.







  
Planche 4
Les jeux : explorer l'arbre des possibles
1950 – 2016

  
Les jeux ont toujours servi de banc d'essai à l'IA. L'idée de base, décrite par Claude Shannon en 1950, est l'algorithme minimax : l'ordinateur explore tous les coups possibles, en supposant que l'adversaire joue au mieux, et choisit le coup qui garantit le meilleur résultat. L'élagage alpha-bêta évite d'explorer les branches dont on sait déjà qu'elles ne changeront pas la décision. Au morpion, l'arbre complet est petit ; aux échecs, il est astronomique, et Deep Blue (IBM), vainqueur de Garry Kasparov en 1997, combinait cette recherche avec une évaluation des positions écrite par des experts. Jouez contre la machine (vous avez les croix).

  

    
Touchez une case. La machine calcule son coup par minimax avec élagage alpha-bêta. Les nombres en gris indiquent, pour chaque case libre, ce que vaut ce coup pour le joueur dont c'est le tour si chacun joue ensuite parfaitement (+1 victoire, 0 nul, −1 défaite).

      

    

      
État de la partie
—

      
Positions examinées pour le dernier coup : minimax complet / avec alpha-bêta
—

      
Parties possibles au morpion (énumération complète)
—

      
Nœuds de l'arbre complet / valeur de la position initiale
—

      
Victoires des croix / des ronds / nuls parmi ces parties
—

    

  

  
Ce qu'il faut retenir. Le morpion compte exactement 255 168 parties possibles, que l'ordinateur énumère en une fraction de seconde, et sa valeur est 0 : deux joueurs parfaits font toujours match nul ; vous ne pourrez donc pas battre la machine. Aux échecs, on estime le nombre de parties à plus de 10¹²⁰ (le « nombre de Shannon ») : impossible de tout explorer. Au go, plus vaste encore, la recherche seule ne suffisait pas : AlphaGo (DeepMind) a battu Lee Sedol en mars 2016 en guidant sa recherche par des réseaux de neurones entraînés sur des millions de positions, puis en jouant contre lui-même. C'est la rencontre des deux traditions de l'IA : la recherche symbolique et l'apprentissage.







  
Planche 5 · signature
Prédire la suite : le principe des modèles de langage
1948 – 2026

  
Les assistants conversationnels apparus en 2022 reposent sur une idée ancienne : un modèle de langage estime la probabilité de chaque suite possible d'un texte. Claude Shannon l'illustrait dès 1948 avec des lettres tirées au hasard selon les fréquences de l'anglais. Le modèle ci-dessous fait la même chose en petit : il a appris sur les textes français de cette page, en comptant quel caractère suit chaque groupe de n caractères. Plus il regarde loin en arrière (plus n est grand), plus il « écrit » comme le texte d'origine. Les grands modèles actuels prédisent de même le morceau de mot suivant, mais à partir de milliers de mots de contexte, grâce à des réseaux de neurones de type Transformer (2017) aux milliards de paramètres.

  

    
3

    
1,0

    

    
  

  

    
Texte produit

    
Pour le contexte actuel (les n derniers caractères, en rouge), les caractères suivants les plus probables selon le modèle. Le caractère tiré est encadré.

  

  
La perplexité mesurée sur la fin du texte, que le modèle n'a pas vue pendant l'apprentissage, selon la longueur du contexte. Elle se lit comme « le nombre de caractères entre lesquels le modèle hésite en moyenne ». Bleu : mesure dans votre navigateur ; points verts : même calcul fait par Python.

  

    
Caractères d'apprentissage / de test / alphabet
—

    
Contextes différents mémorisés (n choisi)
—

    
Perplexité sur le texte de test (n choisi)
—

    
Contrôle : perplexités calculées par Python
—

  

  
Ce qu'il faut retenir. Sans contexte (n = 0), le modèle tire les lettres selon leur seule fréquence et produit une bouillie ; avec quelques caractères de contexte apparaissent des syllabes, puis des mots, puis des bouts de phrases de cette page. Mais au-delà d'un certain n, la perplexité sur le texte de test remonte : le modèle a appris par cœur des suites qu'il ne retrouve pas dans un texte nouveau, faute d'exemples. C'est tout l'enjeu des réseaux de neurones modernes : généraliser à partir d'énormément de textes plutôt que recopier. La température règle la prudence : basse, le modèle choisit toujours le plus probable et se répète ; haute, il ose davantage et dérape. Ces modèles produisent un texte vraisemblable, pas nécessairement vrai : c'est l'origine des « hallucinations ».






  
Ce que l'IA fait aujourd'hui

  

    
Voir
Depuis la victoire du réseau AlexNet au concours ImageNet (2012), la vision par ordinateur reconnaît visages, panneaux, cellules et tumeurs ; elle aide au diagnostic sur les radiographies et guide les véhicules autonomes.

    
Comprendre et écrire
Traduction automatique, résumé, assistants conversationnels : depuis ChatGPT (novembre 2022), les grands modèles de langage sont utilisés par des centaines de millions de personnes, au travail comme pour étudier.

    
Découvrir
AlphaFold prédit la forme des protéines à partir de leur séquence ; ses auteurs, Demis Hassabis et John Jumper, ont reçu le prix Nobel de chimie 2024, l'année où John Hopfield et Geoffrey Hinton recevaient celui de physique pour les réseaux de neurones.

    
Encadrer
Biais, désinformation, vie privée, consommation d'énergie, emploi : l'Union européenne a adopté en 2024 le règlement sur l'intelligence artificielle, qui classe les usages selon leur niveau de risque.

  






  
Frise des jalons

  






  Pour aller plus loin
  
  
La courbe de l'introduction est une illustration qualitative, sans unité. Les entraînements des planches 3 et 5 ont été refaits par Python au moment de la fabrication de la page ; leurs résultats sont inclus pour contrôle.