Lycée > Terminale > Mathématiques complémentaires > La droite de régression : la méthode des moindres carrés

La droite de régression : la méthode des moindres carrés

Fiche de cours
Quiz
Profs en ligne
Videos
Application mobile

Objectifs

Calculer et interpréter un coefficient de corrélation.
Déterminer une droite de régression par la méthode des moindres carrés.
Effectuer un ajustement se ramenant, par changement de variable, à un ajustement affine.
Dans le cadre d’une résolution de problème, utiliser un ajustement pour interpoler ou extrapoler.

Points clés

Soit une série statistique à deux variables x et y. Pour savoir si un ajustement affine est envisageable, on peut utiliser le coefficient de corrélation linéaire de la série, noté r, avec r = où σ_x et σ_y sont les écarts-types respectifs des séries x et y, et σ_xy la covariance des séries x et y.
r est un nombre compris entre –1 et 1. Plus il est proche de ces deux valeurs, plus l’ajustement affine est pertinent. En revanche, plus il est proche de 0, moins il l’est. De plus, si r est très proche de 1, la droite d’ajustement affine est croissante, et si r est très proche de –1, elle est décroissante.
Pour déterminer l'équation de la droite d'ajustement d'un nuage de points donné, on peut utiliser une méthode basée sur la minimisation des carrés des écarts entre les points du nuage et des points de la droite d'ajustement. La méthode des moindres carrés consiste à déterminer la droite dite « de régression de y en x » qui rend minimale la somme .

Les coefficients a et b de l’équation de cette droite sont définis par a = et , où σ_x est l’écart-type de la série x, et σ_xy la covariance des séries x et y.

Pour bien comprendre

Représenter un nuage de points.
Calculer les coordonnées d’un point moyen.
Connaitre les fonctions polynôme, exponentielle et logarithme.

1. Rappels : nuage de points et ajustement affine

On considère les points du nuage associés à une série statistique double.
Lorsque ces points sont sensiblement alignés, on peut construire une droite passant « au plus près de ces points ». On dit alors que cette droite réalise un ajustement affine du nuage de points de la série statistique double.

Exemple
Les points du nuage représenté ci-dessous sont presque alignés.

Remarque
Se référer à la fiche « Point moyen et droite d’ajustement » pour plus de précisions.

2. Coefficient de corrélation linéaire

Soit une série statistique à deux variables x et y. Pour savoir si un ajustement affine est envisageable, on peut utiliser le coefficient de corrélation linéaire de la série, noté r, avec r =

où σ_x et σ_y sont les écarts-types respectifs des séries x et y, et σ_xy la covariance des séries x et y.

r est un nombre compris entre –1 et 1. Plus il est proche de ces deux valeurs, plus l’ajustement affine est pertinent. En revanche, plus il est proche de 0, moins il l’est.

De plus, si r est très proche de 1, la droite d’ajustement affine est croissante et si r est très proche de –1, elle est décroissante.

Remarque
On peut utiliser la calculatrice pour calculer le coefficient de corrélation linéaire.

Exemple
On considère la série statistique suivante.

x_i	100	110	120	130	140	150	160
y_i	105	95	75	68	53	46	31

Sur la calculatrice (ici, la TI-83 Premium CE) :

Entrer dans le menu Stats.
Entrer les deux listes de données dans l'éditeur de listes.
Revenir dans le menu Stats et sélectionner CALC puis 4:RégLin(ax+b).
Compléter l’écran, puis valider Calculer.
L’écran suivant s’affiche et on peut lire la valeur de r.

Ici, le coefficient de corrélation r ≈ –0,994 : il est très proche de –1, ce qui signifie que l’ajustement linéaire est pertinent.

Remarque
Avec la calculatrice Casio Graph 90+E, on utilise le menu Statistique, puis on entre les valeurs de la série dans les colonnes List1 et List2. Après avoir vérifié les réglages, on appuie sur REG, puis F1 X puis F1 pour obtenir le coefficient de corrélation linéaire.

3. La méthode « des moindres carrés »

Pour déterminer l'équation de la droite d'ajustement d'un nuage de points donné, on préférera utiliser une méthode basée sur la minimisation des carrés des écarts entre les points du nuage et des points de la droite d'ajustement.

La méthode des moindres carrés consiste à déterminer la droite dite « de régression de y en x » qui rend minimale la somme :

Remarque
Dans la pratique, on détermine cette droite de régression de y en x, d'équation y = ax + b, à l'aide de la calculatrice.

Propriété
Les coefficients a et b de l’équation de cette droite sont définis par a =

et b =

, où σ_x est l’écart-type de la série x, et σ_xy la covariance des séries x et y.

Remarque importante
Par définition, la droite de régression de y en x du nuage passe toujours par le point moyen du nuage de la série.

Exemple
On considère la série statistique de l'exemple précédent.

x_i	100	110	120	130	140	150	160
y_i	105	95	75	68	53	46	31

Avec les mêmes manipulations sur la calculatrice (ici, la TI-83 Premium CE), on a obtenu l’écran suivant.

En plus du coefficient de corrélation, on obtient directement sur cet écran les coefficients a et b, ce qui donne pour équation de la droite de régression y = –1,221x + 226,357 en arrondissant au millième.

Remarque
On pourrait aussi trouver ces coefficients par le calcul.
À titre d'exemple, ici on a :

Alors .

4. Changement de variable et régression linéaire

Parfois, le nuage de points obtenu à partir d’une série statistique à deux variables peut ne pas avoir l’allure d’une fonction affine et ne peut donc pas être ajusté par une droite de régression. En revanche, il peut avoir l’allure d’une fonction polynôme, d’une fonction exponentielle ou encore d’une fonction logarithme.
On procède dans ce cas à un changement de variable z = f (y), amenant à une nouvelle série à deux variables pouvant être ajustée par une droite de régression avant de revenir à la variable initiale.

Exemple
Soit la série statistique suivante.