Statistique III - Cours 1

1. Hypothèses implicites de la régression multiple

La méthode suppose que les prédicteurs sont exogènes, c’est-à-dire :

Ces hypothèses ne sont pas testées mais sont implicites dans la régression multiple.

2. Limites en psychologie

• Les théories psychologiques décrivent souvent des processus interconnectés (ex. : stress influence communication, qui influence qualité relation).
• La régression multiple traite souvent ces variables comme indépendantes, ce qui est rarement réaliste.
• L’effet estimé d’un prédicteur dépend du modèle spécifié, et n’est pas une valeur fixe dans la réalité.

3. Illustration par simulation

Considérons un effet causal direct connu de $X_1$ sur $Y$ égal à 0.2. Les coefficients estimés dans différents modèles sont :

Tous les modèles sont statistiquement corrects (bon ajustement, hypothèses respectées), mais l’effet estimé varie fortement selon la spécification.

À retenir : L’effet estimé par régression multiple dépend du modèle choisi et ne reflète pas nécessairement l’effet causal réel.

4. Conséquence méthodologique

• La régression multiple n’est pas un outil neutre : elle introduit implicitement des hypothèses sur la structure causale des données.
• Pour des phénomènes complexes et interconnectés, il faut préférer une modélisation guidée par la théorie, qui explicite les relations causales entre variables.
• Cela implique de modéliser les liens entre prédicteurs (médiations, influences réciproques) et de ne pas considérer les prédicteurs comme strictement exogènes.

5. Synthèse

Cette approche théorique évite les pièges d’interprétation liés à la régression multiple classique et permet une meilleure compréhension des mécanismes sous-jacents.

1. Limites des hypothèses implicites

• Les questions comme « Quelle est l’ampleur de l’effet de $X_1$ sur $Y$ ? » ou « $X_1$ est-il le prédicteur le plus important ? » ne peuvent pas recevoir de réponse univoque sans une théorie explicite sur la structure des variables.
• La réponse dépend des autres variables incluses dans le modèle, car la régression multiple est aveugle aux relations entre prédicteurs.
• Ce n’est pas un défaut, mais une caractéristique du design de la méthode.

2. Objectifs de Statistique III

• Rendre visibles, explicites et testables les hypothèses cachées du modèle de régression multiple.
• Passer de la question « Le modèle s’ajuste-t-il aux données ? » à « Correspond-il à notre théorie du système sous-jacent ? »
• Exprimer formellement des hypothèses théoriques dans des modèles statistiques.
• Modéliser explicitement les relations entre prédicteurs (médiation, chaînes causales, modération).
• Utiliser les graphes orientés acycliques (DAGs) comme langage précis pour représenter ces relations.
• Comprendre comment ces choix influencent l’interprétation des effets, le choix des variables de contrôle et les conclusions.

3. Pourquoi ce passage est nécessaire

4. Points clés à retenir

La régression multiple seule ne suffit pas pour comprendre les processus causaux : il faut expliciter et tester les hypothèses sur les relations entre variables pour interpréter correctement les effets.

5. En résumé

• La régression multiple suppose implicitement une structure des variables qui n’est pas justifiée par la théorie.
• Sans modélisation causale explicite, les conclusions sur l’importance ou l’effet des prédicteurs sont ambiguës.
• Statistique III vise à combler cette lacune en intégrant la théorie causale dans la modélisation statistique.

1. Rappel : régression multiple

• Régression simple : $Y \sim X$
• Régression multiple : $Y \sim X_1 + X_2 + X_3 + \dots$
• Utilisée pour :
  • Décrire des relations
  • Faire des prédictions
  • Estimer des effets en contrôlant d'autres variables
• Question centrale :
  « Comment $Y$ est-il lié à $X_1$ lorsque toutes les autres variables sont maintenues constantes ? »
• Hypothèses classiques :
  linéarité, homoscédasticité, résidus normalement distribués, absence de valeurs extrêmes

2. Hypothèses implicites de la régression multiple

• Les prédicteurs sont exogènes (donnés, non influencés par d'autres variables du modèle)
• Indépendance entre prédicteurs et terme d'erreur $\varepsilon$
• Prédicteurs introduits simultanément et traités comme indépendants les uns des autres
• Aucune structure causale ou corrélation modélisée entre prédicteurs

3. Pourquoi ces hypothèses posent problème en psychologie

4. En résumé

La régression multiple suppose tacitement que les prédicteurs sont indépendants et exogènes, ce qui est rarement vrai en psychologie, rendant l'interprétation des coefficients instable et dépendante du modèle choisi.

5. Conséquence pratique

• Les coefficients de régression peuvent varier considérablement selon les variables ajoutées ou retirées.
• La question « Quel prédicteur est vraiment important ? » n’a pas de réponse unique sans modéliser explicitement les relations entre prédicteurs.
• La régression multiple ne suffit pas pour comprendre les mécanismes causaux complexes.

6. Illustration par simulation (à faire en R)

• Simuler des données où les prédicteurs sont liés causalement
• Observer que les coefficients changent selon les variables incluses dans le modèle
• Mettre en évidence la nécessité d’une modélisation plus structurée (ex. modèles à variables latentes, SEM, DAGs)

Cette démonstration pratique montre que la régression multiple, bien que flexible, est limitée pour modéliser des relations causales complexes et que des approches plus avancées sont nécessaires.

1. Dépendance du modèle et instabilité des coefficients

La régression multiple est souvent aveugle à la théorie concernant les relations entre prédicteurs. Sans hypothèses explicites sur ces dépendances, l’interprétation des coefficients est instable.

2. Simulation illustrant l’instabilité des coefficients

• On simule un jeu de données avec $n=1000$ observations.
• Variables exogènes $X_1, X_2, X_3$ générées avec dépendances entre elles.
• Variable cible $Y$ définie par : $$Y = 0.2 \times X_1 + 0.9 \times X_2 + \varepsilon, \quad \varepsilon \sim \mathcal{N}(0,1)$$
• $X_2$ dépend de $X_1$, $X_3$ dépend de $X_1$ et $Y$.

3. Modèles estimés et résultats

• Valeur réelle de l’effet causal de $X_1$ sur $Y$ : 0.20.
• Les coefficients estimés varient fortement selon les variables incluses.

4. Points clés

• Chaque modèle est statistiquement acceptable (significativité, $R^2$).
• Les coefficients dépendent arbitrairement du choix des variables incluses.
• La régression ignore les interdépendances entre prédicteurs, ce qui peut biaiser les résultats.
• Sans hypothèses explicites sur la structure causale, l’interprétation est instable et peu fiable.

À retenir :
Les coefficients de régression sont dépendants du modèle choisi et peuvent être instables sans hypothèses causales explicites. La régression multiple seule ne garantit pas une interprétation fiable.

5. Implications pour la statistique avancée

• Statistique III vise à rendre visibles et testables les hypothèses causales sous-jacentes.
• Cela permet d’éviter les conclusions erronées dues à la dépendance du modèle.

6. Références clés (disponibles sur Moodle)