Correlación y regresión lineal: condiciones, diagnóstico de residuos y observaciones influyentes
Correlaciones
Pearson mide la relación lineal y Spearman mide la relación monótona (aunque no sea lineal).
- r próximo a +1 indica correlación positiva fuerte.
- r próximo a −1 indica correlación negativa fuerte.
- r próximo a 0 indica ausencia de correlación lineal (Pearson).
Si p < 0,05, la correlación es estadísticamente significativa.
Regresión lineal
- R² alto indica que el modelo explica más variabilidad.
- R² ajustado alto es mejor, porque penaliza las variables innecesarias.
- AIC y BIC: cuanto menores, mejor.
- En ANOVA, si p < 0,05, añadir variables mejora significativamente el ajuste; si p ≥ 0,05, no hay evidencia suficiente de mejora.
- Stepwise añade o elimina variables buscando minimizar el AIC.
Condiciones de la regresión
- Linealidad: los residuos deben estar dispersos aleatoriamente, sin curvas.
- Media de los residuos ≈ 0.
- Homocedasticidad: varianza constante. En el test de Breusch-Pagan, p < 0,05 indica heterocedasticidad.
- Independencia: Durbin-Watson ≈ 2 indica ausencia de autocorrelación de primer orden; próximo a 0, autocorrelación positiva; próximo a 4, autocorrelación negativa.
- Correlación residuos-predictores ≈ 0.
- Multicolinealidad: VIF próximo a 1 es bueno; VIF > 5 puede indicar problemas.
- Varianza de las variables independientes > 0.
- Normalidad: tests de Lilliefors, Anderson-Darling y Cramér-von Mises; p < 0,05 indica evidencia de falta de normalidad.
En OLS con intercepto, las condiciones 2 y 5 se cumplen por construcción.
Gráficas de residuos
- Nube aleatoria alrededor de 0: buen indicio.
- Forma de embudo: heterocedasticidad.
- Forma de U o de curva: posible falta de linealidad.
- Q-Q con puntos próximos a la diagonal: normalidad aproximada; puntos alejados: posible falta de normalidad.
- Escala-localización con dispersión creciente: varianza no constante.
Observaciones influyentes
- Distancia de Cook: mide la influencia global (punto de corte de la práctica: 4 × media de Cook).
- DFBETAS: mide cuánto cambia cada coeficiente (límite ±2/√n).
- DFFITS: mide cuánto cambia la predicción (límite ±2√(p/n)).
- Residuos studentizados: detectan valores atípicos (|r| > 2; especialmente > 3).
- Leverage: detecta valores extremos en X (límite 2p/n).
Donde n es el número de observaciones y p el número de parámetros, incluido el intercepto. Un dato atípico no siempre es influyente y no debe eliminarse automáticamente.
Resultados de mi práctica
- Breusch-Pagan: p = 0,00043 → heterocedasticidad.
- Durbin-Watson = 1,009 → indicios de autocorrelación positiva.
- Correlación residuos-X ≈ 0 → ausencia de correlación lineal.
- VIF = 1,023 → sin multicolinealidad importante.
- Observación 242 → atípica e influyente, con residuo studentizado −3,53, O₃ real = 78 y predicho = 131,24.
Reglas clave
En los tests, p < 0,05 → se rechaza H₀; p ≥ 0,05 → no se rechaza H₀. En regresión buscamos un R² ajustado alto y un AIC bajo.
Para interpretar: «El resultado indica que se cumple/no se cumple la condición, ya que el estadístico obtenido es X y supera/no supera el umbral establecido».
No rechazar H₀ no significa demostrar que sea verdadera.