Estimer le prix de vente d'un appartement à partir de sa surface, de son nombre de chambres et de sa distance au métro — sur les données de quatre ventes récentes du quartier.
On cherche à expliquer une variable à expliquer (ou « réponse ») à l'aide de plusieurs variables explicatives :
La régression linéaire multiple postule que le prix est, en première approximation, une combinaison linéaire de ces trois critères :
où β0 est la constante (valeur de base), β1, β2, β3 mesurent l'effet marginal de chaque critère « toutes choses égales par ailleurs », et ε est le terme d'erreur (ce que le modèle ne capture pas : étage, état, exposition…).
Contrairement à la régression simple (une seule variable), la régression multiple permet de démêler des effets qui se superposent : un grand appartement a souvent plus de chambres, et l'on veut séparer l'effet « surface » de l'effet « chambres ».
Quatre ventes récentes dans le même quartier constituent notre échantillon :
| Appartement | Surface x1 (m²) | Chambres x2 | Métro x3 (min) | Prix réel y (k€) |
|---|---|---|---|---|
| Appartement A | 45 | 1 | 4 | 260 |
| Appartement B | 70 | 2 | 12 | 340 |
| Appartement C | 85 | 3 | 3 | 480 |
| Appartement D | 55 | 2 | 8 | 295 |
Nous avons n = 4 observations pour estimer 4 paramètres (β0, β1, β2, β3). Le système est donc exactement déterminé : la méthode des moindres carrés fournira un modèle qui passe exactement par les quatre points. C'est parfait pour comprendre la mécanique du calcul — mais, en pratique, il faut toujours beaucoup plus d'observations que de paramètres (voir la section 7).
On empile les quatre observations. Chaque ligne de la matrice X commence par un 1 (qui multiplie la constante β0), suivi des valeurs de x1, x2, x3 :
| 260 |
| 340 |
| 480 |
| 295 |
| 1 | 45 | 1 | 4 |
| 1 | 70 | 2 | 12 |
| 1 | 85 | 3 | 3 |
| 1 | 55 | 2 | 8 |
| β0 |
| β1 |
| β2 |
| β3 |
La méthode des moindres carrés ordinaires (MCO) cherche le vecteur β̂ qui minimise la somme des carrés des écarts entre prix observés et prix prédits. La solution générale est donnée par les équations normales :
Ici, comme X est carrée (4 × 4) et inversible, cette formule se simplifie en β̂ = X−1y : résoudre la régression revient à résoudre un système de 4 équations à 4 inconnues.
Écrivons les quatre équations, une par appartement :
Éliminer β0 en soustrayant les équations deux à deux :
Éliminer β2 en soustrayant à nouveau :
Résoudre le système 2 × 2. On multiplie la seconde équation par 3 (soit 15 β1 − 39 β3 = 315), puis on soustrait la première :
Remonter pour trouver β2 puis β0 :
Chaque coefficient se lit « toutes choses égales par ailleurs » — c'est toute la force de la régression multiple :
Valeur de base du modèle. Elle cale la droite ; elle n'a pas d'interprétation concrète directe (un appartement de 0 m² n'existe pas).
À nombre de chambres et distance au métro identiques, chaque m² supplémentaire ajoute environ 4 674 € au prix.
À surface égale, une chambre de plus (un agencement mieux découpé) vaut environ 13 372 €.
Chaque minute de marche supplémentaire jusqu'au métro fait perdre environ 6 279 € : l'éloignement pénalise le prix.
Appliquons l'équation à chacun des quatre appartements :
| Appartement | Calcul de ŷ | Prix prédit | Prix réel | Résidu |
|---|---|---|---|---|
| A | 61,40 + 4,674 × 45 + 13,37 × 1 − 6,279 × 4 | 260,0 | 260 | 0 |
| B | 61,40 + 4,674 × 70 + 13,37 × 2 − 6,279 × 12 | 340,0 | 340 | 0 |
| C | 61,40 + 4,674 × 85 + 13,37 × 3 − 6,279 × 3 | 480,0 | 480 | 0 |
| D | 61,40 + 4,674 × 55 + 13,37 × 2 − 6,279 × 8 | 295,0 | 295 | 0 |
Ce n'est pas le signe d'un excellent modèle : avec 4 observations et 4 coefficients, il reste zéro degré de liberté (n − p − 1 = 0). Le modèle interpole les données au lieu d'en dégager une tendance ; le R² vaut mécaniquement 1 et aucune incertitude (écart-type des coefficients, test de Student, intervalle de confiance) ne peut être calculée. Les coefficients obtenus restent une estimation ponctuelle très fragile.
Utilisez le modèle pour estimer un bien qui arrive sur le marché. Déplacez les curseurs :
Cet exemple montre la mécanique de la régression multiple. Pour une étude sérieuse du marché, il faudrait :
Enfin, corrélation n'est pas causalité : le coefficient « métro » capture peut-être aussi l'effet d'un quartier plus central, plus commerçant, mieux coté — autant de variables omises du modèle.