Análisis de la varianza (ANOVA)

Mª Isabel Aguilar, Eugenia Cruces y Bárbara Díaz UNIVERSIDAD DE MÁLAGA Departamento de Economía Aplicada (Estadística y Econometría) Parcialmente financiado a través del PIE13-024 (UMA) Análisis de la varianza (ANOVA) Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Introducción ANOVA de un factor Hipótesis básicas ANOVA multifactorial Diseño por bloques ANOVA no paramétrico 2 Análisis de la Varianza (ANOVA) Introducción Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Técnica multivariante desarrollada por Fisher en la década de los 20 y 30. Inicialmente se aplicó para analizar el efecto de distintos niveles de fertilizante sobre las cosechas El ANOVA estudia la influencia de uno o más factores (variables categóricas) sobre una variable de respuesta (variable continua) El factor se presenta en diferentes tratamientos o niveles (ej. el factor “abono” tiene tres tratamientos: A, B y C) 4 Introducción Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Generalización del contraste de la diferencia de medias en dos poblaciones normales a k poblaciones. Considera el efecto de factores no controlables por el experimento, intentando aislar los errores atribuibles al mismo. Puede enfocarse también como un caso especial de regresión: análisis de la influencia de una serie de variables explicativas (factores) sobre una variable dependiente (variable respuesta). ANOVA unifactorial (un único factor: por ejemplo, abono) y multifactorial (varios factores: abono, riego,…). 5 Introducción Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Ejemplo: Se tienen 15 parcelas en las que se prueba el efecto de tres niveles de abono en la cosecha (A, B y C). Se asignan de forma aleatoria 5 parcelas a cada nivel de abono. En el siguiente gráfico, puede observarse que la respuesta media es diferente para cada nivel de factor. En concreto, se registra una mayor cosecha media para el nivel o tratamiento C que para el A o el B. 6 Introducción Aguilar, M., Cruces, E. y Díaz, B.: ANOVA 7 Introducción Aguilar, M., Cruces, E. y Díaz, B.: ANOVA 8 Introducción Aguilar, M., Cruces, E. y Díaz, B.: ANOVA En ANOVA se distingue entre el modelo de efectos fijos y el modelo de efectos aleatorios. Modelo de efectos fijos: los niveles del factor (o factores) están fijados de antemano. Las conclusiones únicamente pueden aplicarse a los niveles estudiados. Modelo de efectos aleatorios: los niveles del factor (o factores) se extraen de forma aleatoria de un conjunto más amplio de niveles. Los resultados son válidos para el conjunto de niveles que se tuvo en cuenta en el diseño inicial. Estudiaremos tan sólo el modelo de efectos fijos. 9 Introducción Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Dado que τj = µj - µ y εij = yij – µj , la expresión anterior puede escribirse: yij = µ + (µj - µ) + (yij - µj) Reordenando, la diferencia respecto a la media global de la observación de la unidad experimental i sometida al tratamiento j, se descompone en dos sumandos: 16 ANOVA de un factor yij = µ + τj + εij (yij - µ) = (µj - µ) + (yij - µj) Aguilar, M., Cruces, E. y Díaz, B.: ANOVA (yij - µ): Diferencia respecto a la media global de la observación de la unidad experimental i sometida al tratamiento j. Se descompone en dos partes: (µj - µ): Diferencia debida al tratamiento. Es la diferencia entre la media del grupo de unidades experimentales sometidas al tratamiento j y la media global del experimento. (yij - µj): Diferencia aleatoria. Es la diferencia entre la respuesta de la unidad experimental i sometida al tratamiento j y la media del grupo sometido al tratamiento j. Por tanto, no viene explicada por el factor y recoge el error experimental. 17 ANOVA de un factor Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Al trabajar con las medias muestrales como estimadores de las poblacionales, la descomposición anterior queda: 𝑦𝑦𝑖𝑖𝑖𝑖 − 𝑌𝑌 � : Refleja la desviación de la respuesta de la unidad experimental i sometida al tratamiento j respecto a la media muestral global. 𝑌𝑌 � .𝑖𝑖− 𝑌𝑌 � : Refleja la desviación de la media muestral del tratamiento j respecto a la media muestral global. 𝑦𝑦𝑖𝑖𝑖𝑖 − 𝑌𝑌 � .𝑖𝑖: Refleja la desviación no explicada por el tratamiento j (se denomina desviación residual). 18 ANOVA de un factor 𝑦𝑦𝑖𝑖𝑖𝑖 − 𝑌𝑌 � = 𝑌𝑌 � .𝑖𝑖−𝑌𝑌 � + 𝑦𝑦𝑖𝑖𝑖𝑖 − 𝑌𝑌 � .𝑖𝑖 Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Elevando al cuadrado ambos miembros de la igualdad y sumando para todos los individuos de cada grupo de la muestra, se llega a la ecuación fundamental del ANOVA : De forma abreviada, esto significa que las variaciones totales en la respuesta (SCT: suma de cuadrados total) se explican por los efectos de las variaciones inducidas por los distintos tratamientos (SCTR: suma de cuadrados de los tratamientos), más una componente residual que recoge las variaciones debidas al error experimental (SCE: suma de cuadrado de los errores). 19 ANOVA de un factor ∑∑ ∑∑∑∑ = = = == = −+−=− k j n i k j n ijijj k j n iij j jj YyYYYy 1 1 1 1 2 . 2 . 1 1 2)()()( SCT = SCTR + SCE Aguilar, M., Cruces, E. y Díaz, B.: ANOVA No es excesivamente complicado demostrar que: Además, SCTR y SCE son independientes, por lo que: 𝑆𝑆𝑆𝑆𝑆𝑆𝑆𝑆 𝜎𝜎2 ⁄ 𝑘𝑘 − 1 ⁄ 𝑆𝑆𝑆𝑆𝐸𝐸 𝜎𝜎2 ⁄ 𝑛𝑛 − 𝑘𝑘 ⁄ =𝑆𝑆𝐶𝐶𝑆𝑆𝑆𝑆 𝑆𝑆𝐶𝐶𝐸𝐸 →𝜒𝜒𝑘𝑘−1 2𝑘𝑘 − 1 ⁄ 𝜒𝜒𝑛𝑛−𝑘𝑘 2𝑛𝑛 − 𝑘𝑘 ⁄ ~F 𝑘𝑘−1,𝑛𝑛−𝑘𝑘 CMTR: cuadrados medios de los tratamientos CME: cuadrados medios de los errores 20 ANOVA de un factor χ σ ~2 1 2−k SCTR χ σ 2 2~k n SCE − Aguilar, M., Cruces, E. y Díaz, B.: ANOVA 21 ANOVA de un factor Resumen del ANÁLISIS DE LA VARIANZA de un factor Hipótesis nula y alternativa del contraste 𝐻𝐻0: 𝜇𝜇1=𝜇𝜇2=⋯=𝜇𝜇𝑖𝑖=⋯ 𝜇𝜇𝑘𝑘=𝜇𝜇 𝐻𝐻1: 𝑛𝑛𝑛𝑛 𝑡𝑡𝑛𝑛𝑡𝑡𝑡𝑡𝑡𝑡 𝑙𝑙𝑡𝑡𝑡𝑡 𝜇𝜇𝑖𝑖 𝑡𝑡𝑛𝑛𝑛𝑛 𝑖𝑖𝑖𝑖𝑖𝑖𝑡𝑡𝑙𝑙𝑖𝑖𝑡𝑡 Estadístico de Prueba Región Crítica La región crítica viene dada por la cola derecha de la distribución F (valores altos de CMTR frente a los de CME llevan a rechazar H0) k-n 1,-k k j n ijij k j n ij F~ knYy kYY CME CMTR j j ∑∑ ∑∑ = = = = −− −− = 1 1 2 . 1 1 2 . /)( 1/)( Aguilar, M., Cruces, E. y Díaz, B.: ANOVA 22 ANOVA de un factor Tabla ANOVA Fuente de variación Grados de libertad Suma de cuadrados Cuadrados medios F observada - Tratamientos (Entre grupos) - Error (Dentro grupos) k-1 n-k SCTR SCE SCTR/k-1 SCE/n-k Total n-1 SCT ⇒ η 2 =R2=(SCTR/STC) ∑∑ = = − k j n ij j YY 1 1 2 . )( ∑∑ = = − k j n ijij jYy 1 1 2 .)( CME CMTR F obs = ∑∑ = = − k j n iij jYy 1 1 2 .. )( El significado de η 2 (eta cuadrado), similar al de R2 en el análisis de regresión, da el porcentaje de variabilidad en la respuesta que viene explicado por el factor o variable explicativa Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Si se rechaza la H0 de igualdad de medias, han de localizarse el/los tratamientos con medias diferentes en la variable de respuesta. Para ello existen distintos contrastes que realizan comparaciones de medias dos a dos. LSD (Mínima Diferencia Significativa) de Fisher.  Bonferroni  Tuckey  Scheffé 23 ANOVA de un factor: comparaciones múltiples Aguilar, M., Cruces, E. y Díaz, B.: ANOVA LSD: No garantiza el mantenimiento del nivel de significación para el conjunto del experimento. Bonferroni: Garantiza el nivel de significación para el conjunto del experimento pero no debe haber muchos tratamientos distintos. Si los hubiera, el nivel de significación individual de cada contraste sería muy bajo por lo que rechazar la igualdad de las dos medias se hace bastante más difícil que en las comparaciones individuales del método LSD. 24 ANOVA de un factor ANOVA de un factor: comparaciones múltiples Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Tuckey: Es más conservador que el test LSD pero necesita que el experimento sea equilibrado (mismo número de unidades experimentales en cada tratamiento). Scheffé: Es el más conservador de todos. Garantiza el del nivel de significación para el conjunto del experimento, en todos los posibles contrastes que se puedan realizar entre medias, no sólo por parejas, sino también entre subconjuntos de medias. Más indicado para contrastes planificados, diseñados ex-ante por el investigador. 25 ANOVA de un factor: comparaciones múltiples Aguilar, M., Cruces, E. y Díaz, B.: ANOVA La interacción entre factores se produce cuando el efecto de un factor está influenciado por los niveles de otros factores (no son independientes). Este efecto puede estudiarse de forma aislada. Procedimientos de comparaciones múltiples: Si en el modelo la interacción es significativa, no pueden realizarse pruebas de comparación múltiple, ya que el comportamiento de cada uno de los factores está distorsionado por el otro. Si no existe interacción las pruebas de comparaciones múltiples estudiadas para el ANOVA simple siguen siendo válidas. 32 ANOVA de 2 factores Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Especificación del modelo: Donde: La descomposición de la suma de cuadrados sería: 33 ANOVA de 2 factores sin interacción yijk= µ + αi + βj + εijk αi es el efecto diferencial del tratamiento i del factor 1 βj es el efecto diferencial del tratamiento j del factor 2 εijk es el residuo no explicado por los factores, debido al azar SCT = SCTR1+ SCTR2 + SCE Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Especificación del modelo: Donde: La descomposición de la suma de cuadrados sería: 34 ANOVA de 2 factores con interacción yijk= µ + αi + βj +(αβ)ij +εijk αi es el efecto diferencial del tratamiento i del factor 1 βj es el efecto diferencial del tratamiento j del factor 2 (αβ)ij es el efecto de interacción entre el nivel i del factor 1 y el nivel j del factor 2 εijk es el residuo no explicado por los factores, debido al azar SCT = SCTR1+ SCTR2 +SCInt+ SCE Diseño por bloques Aguilar, M., Cruces, E. y Díaz, B.: ANOVA A veces, las unidades experimentales no son homogéneas (en el ejemplo de las parcelas, pueden existir diferencias en función del tipo de terreno, la localización, el tamaño, etc.). El diseño en bloques aleatorios es apropiado y eficiente en estas situaciones porque elimina las diferencias iniciales entre las unidades experimentales, permitiendo verificar las diferencias entre los promedios de k tratamientos en condiciones homogéneas. Este diseño adjudica todos los tratamientos a cada uno de los bloques de unidades experimentales homogéneas. Así, se obtiene un efecto real de los tratamientos, no distorsionado o encubierto por la variación entre bloques de diferentes características. 36 Diseño por bloques Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Bloques Niveles de factor 1 2 k Ti. 1 2 ... ... n y11 y21 … … yn1 y12 y22 … … yn2 ... … … … … y1k y2k … … ynk T1. T2. … ... Tn. T.j T.1 T.2 ... T.k T ... Diseño por bloques k Y . 1. Y 2. Y Y SCT = SCB+ SCTR + SCE Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Tabla ANOVA para un diseño en bloques Fuente de variación Grados de libertad Suma de cuadrados Cuadrados medios F observada Bloques Tratamientos Error n-1 k-1 (n-1)(k-1) SCB= SCTR= SCE= CMTR=SCTR/k-1 CME=SCE/(n-1)(k-1) Total nk-1 STC= η2 =R2=(SCTR/STC) η2ajustado=R2ajustado=(CMTR/CMT) Diseño por bloques ∑∑ = = − n i k jiYY 1 1 2 .)( ∑∑ = = − n i k jjYY 1 1 2 .)( ∑∑ = = +−− n i k jjiij YYYy 11 2 .. )( CME CMTR F obs = ∑∑ = = − n i k jij Yy 1 1 2 )( Aguilar, M., Cruces, E. y Díaz, B.: ANOVA En el estudio de este modelo debe de tenerse en cuenta que nunca existe interacción entre el factortratamiento y el factor-bloque. La SCB (suma de cuadrados del bloque) se usa con el fin de aislar el efecto provocado por la falta de homogeneidad de las unidades experimentales. El tratamiento estadístico para el modelo de diseño de experimentos con un factor tratamiento y un factor bloque es exactamente igual que el diseño de experimentos con dos factores tratamiento sin interacción. Sin embargo, su planteamiento y objetivos son diferentes. 39 Diseño por bloques ANOVA no paramétrico Aguilar, M., Cruces, E. y Díaz, B.: ANOVA Test no paramétrico de localización (mediana) para k muestras aleatorias independientes. Test de Kruskal-Wallis. Diseños de un factor completamente aleatorizado. Aplicable a variables cuantitativas y a ordinales. Generalización del test de suma de rangos de Wilcoxon de comparación de medianas de dos poblaciones con muestras independientes. 41 ANOVA no paramétrico 𝑯𝑯𝟎𝟎: 𝑴𝑴𝒊𝒊𝟏𝟏=𝑴𝑴𝒊𝒊𝟐𝟐=⋯=𝑴𝑴𝒊𝒊𝒋𝒋=⋯𝑴𝑴𝒊𝒊𝒌𝒌=𝑴𝑴𝒊𝒊 𝑯𝑯𝟏𝟏: 𝒏𝒏𝒏𝒏 𝒕𝒕𝒏𝒏𝒕𝒕𝒕𝒕𝒕𝒕 𝒍𝒍𝒕𝒕𝒕𝒕 𝑴𝑴𝒊𝒊𝒋𝒋 𝒕𝒕𝒏𝒏𝒏𝒏 𝒊𝒊𝒊𝒊𝒊𝒊𝒕𝒕𝒍𝒍𝒊𝒊𝒕𝒕