Errores estándar consistentes con la heterocedasticidad

format_list_bulleted Contenido keyboard_arrow_down

ImprimirCitar

El tema de los errores estándar consistentes con la heterocedasticidad (HC) surge en estadística y econometría en el contexto de la regresión lineal y el análisis de series de tiempo. También se conocen como errores estándar robustos a la heterocedasticidad (o simplemente errores estándar robustos), errores estándar de Eicker-Huber-White (también errores estándar de Huber-White o errores estándar de White), para reconocer las contribuciones de Friedhelm Eicker, Peter J. Huber y Halbert White.

En el modelado de la regresión y las series temporales, las formas básicas de los modelos hacen uso de la suposición de que los errores o perturbaciones u_i tienen la misma varianza en todos los puntos de observación. Cuando este no es el caso, se dice que los errores son heteroskedastic, o tienen heteroskedasticidad, y este comportamiento se reflejará en los residuos. ${\textstyle {\widehat {\fn} {\fn}}$ estimado en un modelo ajustado. Se utilizan errores estándar consistentes en heteroskedasticidad para permitir el ajuste de un modelo que contiene residuales heteroskedastic. El primer enfoque de este tipo fue propuesto por Huber (1967), y se han producido nuevos procedimientos mejorados desde entonces para datos transversales, datos de series temporales y estimación GARCH.

Los errores estándar consistentes con la heterocedasticidad que difieren de los errores estándar clásicos pueden indicar una especificación errónea del modelo. Sustituir los errores estándar consistentes con la heterocedasticidad no resuelve esta especificación errónea, lo que puede generar sesgo en los coeficientes. En la mayoría de los casos, el problema debería detectarse y solucionarse. Otros tipos de ajustes de errores estándar, como los errores estándar agrupados o los errores estándar HAC, pueden considerarse extensiones de los errores estándar HC.

Historia

Los errores estándar consistentes en la heterocedasticidad son introducidos por Friedhelm Eicker y popularizados en econometría por Halbert White.

Problema

Considere el modelo de regresión lineal para el escalar $y$ .

{\displaystyle y=\mathbf {x} {\top}{\boldsym {bol\beta} "varepsilon"

Donde $\mathbf {x$ es un k x 1 columna vector de variables explicativas (features), ${\boldsymbol {\beta$ es un k × 1 columna vector de parámetros a estimar, y $\varepsilon$ es el error residual.

El estimador de mínimos cuadrados ordinarios (OLS) es

{\widehat {\boldsymbol {\beta {\fnMicrosoft Sans Serif}\mathbf {X}\top }\mathbf {X})}\mathbf} {X} ^{\top }\mathbf {y

Donde $\mathbf {y$ es un vector de observaciones ${\displaystyle Y...$ , y $\mathbf {X$ denota la matriz de apilado $\mathbf {x} _{i$ valores observados en los datos.

Si los errores de muestra tienen igual variabilidad $\sigma ^{2$ y son incorrelacionados, luego la estimación de menos cuadras ${\boldsymbol {\beta$ es BLUE (mejor estimador lineal imparcial), y su diferencia se calcula con

{\displaystyle {\hat {\fnMithbb {\fnK}\left {\fnMicrosoft {\beta}}\left {\fnMicrosoft {\f}}}\left {\fnuncio {\fnK}}}\m}}\m}}\left {\m} {\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m {\fnMicrosoft {\fnMicrosoft} {\fnMicrosoft} {\fnMicrosoft} {\f}\mathbf {X}}}\f}\\fnMitbf}\f}\fnMitbf {\f} s^{2}={\frac {\sum {\cHFF} {\cHFF} {\varepsilon} {\fn}} {\f}} {\fn}} {\fn}}} {\fn}}}} {\fn}}} {\fn}}}}} {\fn}}}}}} {\fn}}}}}}}}}}}}}}} {\}}}}}}}}}}}}}} {\}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}} {}}}}}}}}}}}}}}}}} {}}}}}}}}}}} {}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}} {\

Donde ${\widehat {\varepsilon }_{i}=y_{i}-\mathbf {\fnMicrosoft Sans Serif} #{\widehat {\boldsymbol {\beta {\fnMicrom}}$ son los residuos de regresión.

Cuando los términos de error no tienen varianza constante (es decir, el supuesto de $\mathbb {E} [\mathbf {u} \mathbf {u} ^{\top }=\sigma ^{2}\mathbf {\fn$ no es cierto), el estimador OLS pierde sus propiedades deseables. Ahora no se puede simplificar la fórmula de la varianza:

\mathbb {V} \left[{\widehat {\boldsymbol {\beta # Mathbb {\big [\] {X} {\fn}\fnK}\mathbf} [X] ^{\top }\mathbf {\big]}=(\mathbf {X} {\top }\mathbf {X})}\mathbf}\mathbf} {X} } {\top }\mathbf {\Sigma } \mathbf {X} {X} {\fn} {\fnMitbf}} {\f}

Donde $\mathbf {\Sigma} =\mathbb {V} [\mathbf {u}.$

Si bien el estimador de puntos OLS sigue siendo imparcial, no es "mejor" en el sentido de tener un error cuadrado mínimo medio, y el estimador de varianza OLS ${\hat {\fnMithbb {\fnK}\left {\fnMicrosoft {\fnMicrosoft {\beta}}}\left {\fnMicrosoft {\fnK}\f}\f}\f}\fn}\fnK}\b}}\left {\m} {\m} {\m}\m}\m}\m}\m}}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\m}\ {\fnMicrosoft Sans Serif} {\fnMicrosoft Sans Serif$ no proporciona una estimación coherente de la diferencia de las estimaciones de la OLS.

Para cualquier modelo no lineal (por ejemplo, los modelos logit y probit), sin embargo, la heteroscedasticidad tiene consecuencias más graves: las estimaciones de máxima probabilidad de los parámetros estarán sesgadas (en una dirección desconocida), así como inconsistentes (a menos que la función de probabilidad se modifique correctamente en cuenta la forma precisa de la forma heterocada). Como señaló Greene, "simplemente calcular una matriz de covarianza robusta para un estimador inconsistente no le da redención".

Solución

Si los errores de regresión $\varepsilon _{i$ son independientes, pero tienen diferencias distintas $\sigma _{i}{2$ Entonces $\mathbf {\Sigma } =\operatorname {diag} (\sigma _{1}^{2},\ldots\sigma _{n}}}}$ que se puede calcular con ${\displaystyle {\widehat {\sigma {\fnMicrosoft Sans Serif} - Sí.$ . Esto proporciona el estimador de White (1980), a menudo conocido como HCE (estimador heteroskedasticity-consistent):

{\begin{aligned}{\hat {\mathbb {V} {\fnMicrosoft} {\fnMicrosoft} {\fnMicrosoft Sans Serif} {\beta} {\fnMicrosoft Sans Serif} {\fnMicrosoft Sans Serif} {\fnMicrosoft Sans Serif} {1} {\fn}{\bigg}{\frac} {\fn} {\fn} {\fn}} {\bigg} {\fn} {\fn}} {\fn}} {\fn}} {\fn}} {\f}} {\fn} {\f}}}} {\fn} {\fn}}}}} {\f}}}}}} {\f}}}}}} {\f}}} {\f} {\f} {\f} {\f} {\f} {\f} {\f} {\fn}} {\fn}}}}}}}}}}}}}}}} {\f} {\f} {\f} {\fn}} {\fn}}} {\f} {\fn}\f}}}}}}}}}}}}}}}}}}}}}}}}}} {\f}} {\f} {\f}}}}} {1}{n}\sum} "Mathbf" ¿Por qué? "Mathbf" ¿Qué? #{\widehat {\varepsilon {\fnMicrosoft Sans Serif} {1}{n}\sum} "Mathbf" ¿Por qué? }_{1} {2},\ldots{\widehat {\varepsilon ¿Qué? {X} {\fnMitbf {X} {\fnMicrosoft} {\fnMicrosoft}}

, donde se encuentra $\mathbf {X$ denota la matriz de apilado ${\displaystyle \mathbf {x} ¿Qué?$ valores de los datos. El estimador puede derivarse en términos del método generalizado de los momentos (GMM).

También a menudo discutido en la literatura (incluyendo el papel blanco) es la matriz de covariancia ${\widehat {\mathbf {\Omega } } {n$ de la ${\sqrt {n}$ - distribución de límites consistente:

{\fnK} {\fn} {\fnK} {\fnK} {\fn\fnK} {\fn\fn} {\fn}} {\fn\fn\fn\fn\fn\fn\fn\fn}} {\\fn\fn\fn\fnK\fn\fn\fn}}}}}\\\\\fn\\fn\fn\\\\fnK\fn\\fn\fnK\fnK\fnK\fn\fnK\fn\fnK\fn\fn\fnK\fn\\fn\fn\\fnK\fnK\fnK\fnK\fnK\fnK\\\\\fnK\fnK\fnK\\fnK\fnK\fnK\fn\\fnK\fn\\\fn}}}}}}}}}} ##### {\beta}\xrightarrow {d} {\fnMicrosoft Sans}

dónde

\mathbf {\Omega} =\mathbb {E} {X} {\fn} {\fnMicrosoft}\fnMitbb [\mathbf {X} {\varepsilon }] {E} [X] ^{\top } {-1

{\begin{aligned}{\widehat {\Mathbf {\\\fnMicrosoft} {\f}\\fnMicrosoft {\f}\f}\fnMicrosoft {\f}\\fnMicrosoft {\f}\fnMicrosoft} {\f}\fnMicrosoft}}\f}\f}}}\\\f}\f}}\\\f}\\\\\fnK\f}\\\fnK\fnK\fn\fnK\fnK\fnK\fnK\fnK\fn\fnH\fnK\\f}\fnK\fnK\fnK\fnK\fnK\fnK\fnK\fnK\fnK\fnK\f}}}}\fnH\fnH\fn\fn\f}}}}\\\\fnK\f}}}}}\fn Omega {\fn} {\fn} {\fn} {\fn}\fn}\sum _{i}\mathbf {x} ¿Por qué? "Mathbf" ¿Qué? #{\widehat {\varepsilon {\fnMicrosoft Sans Serif} {1}{n}\sum} "Mathbf" ¿Por qué? }_{1} {2},\ldots{\widehat {\varepsilon ¿Qué? {X} {\fn} {\fnMitbf} {\fnK}\f} {\fnK}

Por lo tanto,

{\displaystyle {\widehat {\Mathbf {\Omega } }_{n}=n\cdot {\hat {\mathbb {\fnK} {\fnMicrosoft} {\fnMicrosoft} {\fnMicrosoft} {\beta} ♪♪♪♪♪♪

{\fnMicrosoft {\fnMicrosoft {\fnMicrosoft {\fnMicrosoft {\\fnMicrosoft {\\\\fnMicrosoft {\\fnMicrosoft {\fnMicrosoft {\fnMicrosoft {\\\\fnMicrosoft {\\\\fnMicrosoft {\\\\\\\\\\\\\\\\fnMicrosoft {\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\fnMinMinMinMinMin {\fnK} {\fnK} {\fnMicrosoft} {\cHFF} {\cHFF} {\cHFF} {\cHFF} {\cHFF} {\cHFF}} {\cHFF}} {\cHFF} {\cHFF} {\cH}}} {\f}}\\fnK\f}}}}} }={\frac {1} {n}\sum "Mathbf" "Mathbf" ¿Qué? #{\widehat {\varepsilon - ¿Qué? [1} {n}\mathbf {X}\top }\operatorname {diag} ({\widehat {\varepsilon }_{1} {2},\ldots{\widehat {\varepsilon Mathbf {X}

La determinación precisa de qué matriz de covarianza es motivo de preocupación depende del contexto.

MacKinnon y White (1985) propusieron estimadores alternativos que corrigen las varianzas desiguales de los residuos de regresión debido a diferentes apalancamientos. A diferencia del estimador asintótico de White, sus estimadores son insesgados cuando los datos son homocedásticos.De las cuatro opciones disponibles, a menudo denominadas HC0-HC3, la especificación HC3 parece ser la más eficaz, ya que las pruebas basadas en el estimador HC3 presentan mayor potencia y mayor proximidad al tamaño objetivo, especialmente en muestras pequeñas. Cuanto mayor sea la muestra, menor será la diferencia entre los diferentes estimadores.Una alternativa al modelado explícito de la heterocedasticidad es utilizar un método de remuestreo como el bootstrap salvaje. Dado que el bootstrap estudentizado, que estandariza la estadística remuestreada por su error estándar, produce un refinamiento asintótico, los errores estándar robustos a la heterocedasticidad siguen siendo útiles.En lugar de tener en cuenta los errores heterocedásticos, la mayoría de los modelos lineales pueden transformarse para incluir términos de error homocedásticos (a menos que el término de error sea heterocedástico por construcción, por ejemplo, en un modelo de probabilidad lineal). Una forma de hacerlo es mediante mínimos cuadrados ponderados, que también presenta propiedades de eficiencia mejoradas.

Véase también

Método Delta
Plazas mínimas generalizadas
Ecuaciones de estimación generalizadas
Montaje de mínimos cuadrados, una formulación alternativa
Prueba blanca: una prueba para si la heterosquedasticidad está presente.
Estimador de Newey-West
Estimación de la probabilidad de cuasi máximo

Software

EViews: EViews versión 8 ofrece tres métodos diferentes para los mínimos cuadrados robustos: M-estimación (Huber, 1973), S-estimación (Rousseeuw y Yohai, 1984), y MM-estimación (Yohai 1987).
Julia: CovarianceMatrices paquete ofrece varios métodos para matrices de varianza robusta heteroskedastic.
MATLAB: Vea el hac función en la caja de herramientas Econometrics.
Python: El paquete Statsmodel ofrece varias estimaciones de errores estándar robustas, ver Estadísticasmodels.regression.linear_model.RegressionResultados para más descripciones
R: el vcovHC() comando from the sandwich paquete.
RATS: terroristas robustos opción está disponible en muchos de los comandos de regresión y optimización (linreg, nlls, etc.).
Stata: robust opción aplicable en muchos procedimientos basados en la pseudo-preferencia.
Gretl: la opción --robust a varios comandos de estimación (como ols) en el contexto de un conjunto de datos transversal produce errores estándar robustos.

Referencias

^ Kleiber, C.; Zeileis, A. (2006). "Econometría aplicada con R" (PDF). Conferencia UseR-2006. Archivado desde el original (PDF) el 22 de abril de 2007.
^ Eicker, Friedhelm (1967). "Teoremas para la regresión con errores inigualables y dependientes". Proceedings of the fifth Berkeley Symposium on Mathematical Statistics and Probability. Vol. 5. pp. 59–82. MR 0214223. Zbl 0217.51201.
^ Huber, Peter J. (1967). "El comportamiento de las estimaciones de probabilidad máxima bajo condiciones no estándar". Proceedings of the fifth Berkeley Symposium on Mathematical Statistics and Probability. Vol. 5. pp. 221 –233. MR 0216620. Zbl 0212.21504.
^ White, Halbert (1980). "A Heteroskedasticity-Consistent Covariance Matrix Estimator y una prueba directa para la heteroskedasticidad". Econometrica. 48 4): 817–838. CiteSeerX 10.1.1.11.7646. doi:10.2307/1912934. JSTOR 1912934. MR 0575027.
^ King, Gary; Roberts, Margaret E. (2015). "How Robust Standard Errores exponen problemas metodológicos que no fijan, y qué hacer al respecto". Análisis político. 23 2): 159 –179. doi:10.1093/pan/mpu015. ISSN 1047-1987.
^ Eicker, F. (1963). "La Normalidad y la Consistencia Sintomáticas de los Estimadores de las Plazas Menores para Familias de Regresos Lineales". Los Anales de las Estadísticas Matemáticas. 34 2): 447 –456. doi:10.1214/aoms/1177704156.
^ Eicker, Friedhelm (enero de 1967). "Teoremas para regresiones con errores desiguales y dependientes". Proceedings of the fifth Berkeley Symposium on Mathematical Statistics and Probability, Volumen 1: Statistics. 5 1): 59–83.
^ Giles, Dave (8 de mayo de 2013). "Robust Standard Errores para modelos no lineales". Econometrics Beat.
^ Guggisberg, Michael (2019). "Misspecificified Discrete Choice Models and Huber-White Standard Errores". Journal of Econometric Métodos. 8 (1). doi:10.1515/jem-2016-0002.
^ Greene, William H. (2012). Econometric Analysis (Seventh ed.). Educación Pearson. pp. 692 –693. ISBN 978-0-273-75356-8.
^ MacKinnon, James G.; White, Halbert (1985). "Some Heteroskedastic-Consistent Covariance Matrix Estimators with Improved Finite Sample Properties". Journal of Econometrics. 29 3): 305–325. doi:10.1016/0304-4076(85)90158-7. hdl:10419/189084.
^ Long, J. Scott; Ervin, Laurie H. (2000). "Using Heteroscedasticity Consistent Standard Errores en el modelo de regresión lineal". El Estadístico Americano. 54 3): 217–224. doi:10.2307/2685594. ISSN 0003-1305.
^ C., Davison, Anthony (2010). Métodos de arranque y su aplicación. Cambridge Univ. ISBN 978-0-521-57391-7. OCLC 740960962.{{cite book}}: CS1 maint: múltiples nombres: lista de autores (link)
^ "EViews 8 Robo de regresión".
^ Covariancia Matrices: Robust Covariance Matrix Estimators
^ "Heteroskedasticity and autocorrelation consistent covariance estimators". Econometrics Toolbox.
^ sandwich: Robust Covariance Matrix Estimators
^ Kleiber, Christian; Zeileis, Achim (2008). Econometría aplicada con R. Nueva York: Springer. pp. 106–110. ISBN 978-0-387-77316-2.
^ Vea la ayuda en línea para _robust opción y el comando de regresión.
^ "Estimación de la matriz de covariancia rotativa" (PDF). Guía del usuario Gretl, capítulo 22.

Más lectura

Freedman, David A. (2006). "En The So-Called 'Huber Sandwich Estimator' y 'Robust Standard Errores '". El Estadístico Americano. 60 4): 299 –302. doi:10.1198/000313006X152207. S2CID 6222876.
Hardin, James W. (2003). "La estimación sándwich de variación". En Fomby, Thomas B.; Hill, R. Carter (eds.). Maximum Likelihood Estimation of Misspecificified Models: Veinte años después. Amsterdam: Elsevier. pp. 45 –74. ISBN 0-7623-1075-8.
Hayes, Andrew F.; Cai, Li (2007). "Using heteroskedasticity-consistent standard error estimators in OLS regression: Introducción e implementación de software". Métodos de investigación del comportamiento. 39 4): 709 –722. doi:10.3758/BF03192961. PMID 18183883.
King, Gary; Roberts, Margaret E. (2015). "How Robust Standard Errores exponen problemas metodológicos que no fijan, y qué hacer al respecto". Análisis político. 23 2): 159 –179. doi:10.1093/pan/mpu015.
Wooldridge, Jeffrey M. (2009). "Heteroskedasticity-Robust Inference after OLS Estimation". Econometría introductoria: un enfoque moderno (Cuarta edición). Sudoccidental. pp. 265–271. ISBN 978-0-324-66054-8.
Buja, Andreas, et al. "Modelos como aproximaciones-una conspiración de regredores aleatorios y desviaciones modelo contra la inferencia clásica en la regresión." Ciencia Estadística (2015): 1. pdf

Más resultados...