1. YKSISUUNTAINEN VARIANSSIANALYYSI: AINEISTON ESITYSMUODOT

Transkriptio

1 Mat Tilastollisen analyysin perusteet / Ratkaisut Aiheet: Avainsanat: Yksisuuntainen varianssianalyysi Bartlettin testi, Bonferronin menetelmä, F-testi, Jäännösneliösumma, χ 2 -testi, Kokonaiskeskiarvo, Kokonaisneliösumma, Kokonaisvaihtelu, Luottamusväli, Neliösumma, Odotusarvo, Odotusarvojen vertailu, Ryhmien sisäinen vaihtelu, Ryhmien välinen vaihtelu, Ryhmä, Ryhmäkeskiarvo, Ryhmäneliösumma, Taso, Testi, Vapauaste, Varianssi, Varianssianalyysihajotelma, Yksisuuntainen varianssianalyysi, Yleinen lineaarinen malli 1. YKSISUUNTAINEN VARIANSSIANALYYSI: AINEISTON ESITYSMUODOT Alihankkijat A, B ja C toimittavat tehtaalle osia 500 kappaleen erissä. Kaikkien kolmen alihankkijan toimittamien erien joukosta poimittiin satunnaisesti 6 erää tarkastettavaksi. Alla olevassa taulukossa on annettu tarkastetuista eristä löytyneiden viallisten osien lukumäärät. Poikkeavatko viallisten osien keskimääräiset lukumäärät eri ali-hankkijoiden toimittamissa erissä tilastollisesti merkitsevästi toisistaan? Alihankkija A Alihankkija B Alihankkija C Tehtävä ratkaistaan käyttämällä yksisuuntaista varianssianalyysia. (a) (b) (c) RATKAISU: Talleta aineisto STATISTIX-tiedostoksi DEFECT1 taulukkomuodossa, jolloin eri alihankkijoita koskevat tiedot talletetaan erillisinä muuttujina. Talleta aineisto STATISTIX-tiedostoksi DEFECT2 kategorisessa muodossa, jolloin eri alihankkijoita koskevat tiedot talletetaan yhdeksi muuttujaksi, mutta tiedostoon lisättään indikaattorimuuttuja, joka kertoo mihin alihankkijaan mikin havainto liittyy. Anna indikaattorimuuttujalle arvoiksi luvut 1, 2, 3. Tee yksisuuntaiset varianssianalyysit sekä (a)- että (b)-kohdan tiedostoille ja tarkista, että saat samat tulokset. Yksisuuntaisessa varianssianalyysissa perusjoukko jaetaan ryhmiin yhden tekijän suhteen ja päämääränä on testata ryhmäkohtaisten odotusarvojen yhtäsuuruutta. TKK/SAL Ilkka Mellin (2005) 1/1

2 Tehtävän tavoitteena on näyttää, kuinka yksisuuntaisen varianssianalyysin aineistot voidaan tallettaa STATISTIX-tiedostoiksi kahdessa eri muodossa: (i) (ii) Taulukkomuodossa eri ryhmiin kuuluvat havainnot talletetaan tiedostoon erillisiksi muuttujiksi. Kategorisessa muodossa kaikki havainnot talletetaan yhdeksi muuttujaksi ja ryhmä ilmaistaan indikaattorimuuttujan avulla. (a) AINEISTON TAULUKKOMUOTO Talletetaan aineisto STATISTIX-tiedostoksi DEFECT1 taulukkomuodossa. Muuttujat: SUPA = Alihankkija A SUPB = Alihankkija B SUPC = Alihankkija C Tulostetaan tiedosto DEFECT1. File > Print Print Variables = SUPA, SUPB, SUPC DEFECT1 SUPA SUPB SUPC (b) AINEISTON KATEGORINEN MUOTO Talletetaan aineisto STATISTIX-tiedostoksi DEFECT2 kategorisessa muodossa. Muuttujat: DEFECT = Alihankkija A, Alihankkija B, Alihankkija C I = Indikaattorimuuttuja I = 1 Alihankkija A I = 2 Alihankkija B I = 3 Alihankkija C TKK/SAL Ilkka Mellin (2005) 2/2

3 Tulostetaan tiedosto DEFECT2. File > Print Print Variables = DEFECT, I DEFECT2 DEFECT I TKK/SAL Ilkka Mellin (2005) 3/3

4 (c) YKSISUUNTAINEN VARIANSSIANALYYSI Varianssianalyysi aineiston taulukkomuodosta Tehdään yksisuuntainen varianssianalyysi tiedoston DEFECT1 aineistolle. Statistics > Linear Models > One-Way AOV Model Specification = Table Table Variables = SUPA, SUPB, SUPC DEFECT1 ONE-WAY AOV FOR: SUPA SUPB SUPC SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 6.0 SAMPLE GROUP VARIABLE MEAN SIZE STD DEV SUPA SUPB SUPC TOTAL CASES INCLUDED 18 MISSING CASES 0 TKK/SAL Ilkka Mellin (2005) 4/4

5 Varianssianalyysi aineiston kategorisesta muodosta Tehdään yksisuuntainen varianssianalyysi tiedoston DEFECT2 aineistolle. Statistics > Linear Models > One-Way AOV Model Specification = Categorical Dependent Variable = DEFECT Categorical Variable = I DEFECT2 ONE-WAY AOV FOR DEFECT BY I SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 6.0 SAMPLE GROUP I MEAN SIZE STD DEV TOTAL CASES INCLUDED 18 MISSING CASES 0 Yksisuuntaisen varianssianalyysin tulostukset tiedostoista DEFECT1 ja DEFECT2 vastaavat täydellisesti toisiaan. TKK/SAL Ilkka Mellin (2005) 5/5

6 2. YKSISUUNTAISEN VARIANSSIANALYYSIN TULOSTEN TULKINTA Tutustu tarkemmin STATISTIX-ohjelman antamiin tuloksiin tehtävän 1 aineistolle. (a) (b) (c) (d) (e) (f) (g) RATKAISU: Mitkä ovat ryhmäkohtaiset keskiarvot ja kokonaiskeskiarvo? Mitkä ovat ryhmien välinen neliösumma, ryhmien sisäinen neliösumma ja kokonaisneliösumma? Yksisuuntaisessa varianssianalyysissa testataan oletusta, jonka mukaan ryhmäkohtaiset odotusarvot ovat yhtä suuria. Mikä on oletusta testaavan testisuureen arvo ja vastaava p- arvo? Onko oletus perusteltu? Laske varianssianalyysin testisuureen arvo varianssianalyysihajotelman neliösummien avulla ja tarkista, että tulos on sama kuin (c)-kohdassa. Kun yksisuuntaisessa varianssianalyysissa testataan oletusta, jonka mukaan ryhmäkohtaiset odotusarvot ovat yhtä suuria, oletetaan, että ryhmien sisäiset varianssit ovat yhtä suuria. Onko oletus perusteltu? Laske ryhmien sisäistä vaihtelua kuvaava neliösumma ryhmäkohtaisten varianssien avulla. Vertaile odotusarvoja käyttämällä Bonferronin menetelmää. Montako ryhmää aineistosta löytyy? Yksisuuntaisessa varianssianalyysissa perusjoukko jaetaan ryhmiin yhden tekijän suhteen ja päämääränä on testata ryhmäkohtaisten odotusarvojen yhtäsuuruutta. Tehtävän tavoitteena on tutustuttaa STATISTIX-ohjelman yksisuuntaista varianssianalyysia koskeviin tulostuksiin. TKK/SAL Ilkka Mellin (2005) 6/6

7 Tehdään yksisuuntainen varianssianalyysi tehtävän 1 tiedoston DEFECT1 aineistolle. Statistics > Linear Models > One-Way AOV Model Specification = Table Table Variables = SUPA, SUPB, SUPC DEFECT1 ONE-WAY AOV FOR: SUPA SUPB SUPC SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 6.0 SAMPLE GROUP VARIABLE MEAN SIZE STD DEV SUPA SUPB SUPC TOTAL CASES INCLUDED 18 MISSING CASES 0 TKK/SAL Ilkka Mellin (2005) 7/7

8 (a) RYHMÄKESKIARVOT JA KOKONAISKESKIARVO Ryhmien SUPA, SUPB, SUOC ryhmäkohtaiset aritmeettiset keskiarvot, ryhmäkoot ja ryhmäkohtaiset otoskeskihajonnat sekä kaikkien havaintojen kokonais- eli yleiskeskiarvo ja otoskeskihajonta on annettu alla olevassa taulukossa. SAMPLE GROUP VARIABLE MEAN SIZE STD DEV SUPA SUPB SUPC TOTAL Esimerkiksi ryhmästä SUPB on annettu seuraavat tiedot rivillä SUPB: Havaintojen aritmeettinen keskiarvo (MEAN) = Ryhmän koko (SAMPLE SIZE) = 6 Havaintojen otoskeskihajonta (GROUP STD DEV) = Yhdistetystä aineistosta taulukossa on annettu tiedot rivillä TOTAL: Havaintojen aritmeettinen keskiarvo (MEAN) = Ryhmän koko (SAMPLE SIZE) = 18 Havaintojen otoskeskihajonta (GROUP STD DEV) = Yksisuuntaisen varianssianalyysin ryhmäkohtaisten odotusarvojen yhtäsuuruutta koskeva testi perustuu ryhmäkohtaisten aritmeettisten keskiarvojen ja yleiskeskiarvon vertailuun. Taulukossa ryhmäkeskiarvot (ryhmä SUPA), (ryhmä SUPB), (ryhmä SUPC) on annettu sarakkeessa MEAN. Ryhmien sisäistä vaihtelua kuvaavat ryhmäkohtaiset otoskeskihajonnat (ryhmä SUPA), (ryhmä SUPB), (ryhmä SUPC) on annettu sarakkeessa GROUP STD DEV. (b) VARIANSSIANALYYSIHAJOTELMAN NELIÖSUMMAT Varianssianalyysin testi ryhmäkohtaisten odotusarvojen yhtäsuuruudelle perustuu varianssianalyysihajotelmalle jossa SST = SSG + SSE SST = kokonaisneliösumma (TOTAL SS) SSG = ryhmien välistä vaihtelua kuvaava ryhmäneliösumma (BETWEEN SS) SSE = ryhmien sisäistä vaihtelua kuvaava jäännösneliösumma (WITHIN SS) TKK/SAL Ilkka Mellin (2005) 8/8

9 Varianssianalyysihajotelman neliösummat on annettu alla olevassa taulukossa sarakkeessa SS: SOURCE DF SS MS F P BETWEEN WITHIN TOTAL Taulukosta nähdään, että SST = SSG + SSE eli = (c) VARIANSSIANALYYSIN TESTI ODOTUSARVOJEN YHTÄSUURUUDELLE Testisuure ryhmäkohtaisten odotusarvojen yhtäsuuruudelle on muotoa jossa n k SSG F = k 1 SSE n = havaintojen kokonaislukumäärä k = ryhmien lukumäärä SSG = ryhmien välistä vaihtelua kuvaava ryhmäneliösumma (BETWEEN SS) SSE = ryhmien sisäistä vaihtelua kuvaava jäännösneliösumma (WITHIN SS) Testisuureen arvo ryhmäkohtaisten odotusarvojen yhtäsuuruudelle on annettu alla olevassa taulukossa sarakkeessa F. SOURCE DF SS MS F P BETWEEN WITHIN TOTAL Taulukosta nähdään, että testisuureen arvo on F = Testisuureen arvoa vastaava p-arvo saadaan sarakkeesta P: p = TKK/SAL Ilkka Mellin (2005) 9/9

10 Johtopäätös: Nollahypoteesi ryhmäodotusarvojen yhtäsuuruudesta voidaan hylätä: Viallisten keskimääräiset lukumäärät alihankkijoilla A, B ja C poikkevat tilastollisesti merkitsevästi toisistaan. (d) VARIANSSIANALYYSIN TESTI ODOTUSARVOJEN YHTÄSUURUUDELLE JA VARIANSSIANALYYSHAJOTELMA F-testisuureen arvo määrätään varianssianalyysihajotelman neliösummista: n k SSG F = = = k 1 SSE Tulos on sama kuin (c)-kohdassa annettu F-testisuureen arvo. (e) VARIANSSIANALYYSIN TESTI VARIANSSIEN YHTÄSUURUUDELLE Varianssianalyysissa oletetaan, että ryhmäkohtaiset varianssit ovat yhtä suuria. Tätä oletusta voidaan testata Bartlettin testillä. CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES Bartlettin testin χ 2 -testisuureen arvo (CHI-SQ) on 2 χ = 0.80 ja vapausasteiden lukumäärä (DF) on k 1 = 3 1 = 2. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi varianssien yhtäsuuruudesta jää voimaan. (f) RYHMIEN SISÄINEN VAIHTELU JA RYHMÄKOHTAISET VARIANSSIT Ryhmien sisäistä vaihtelua kuvaava neliösumma voidaan laskea ryhmäkohtaisten varianssien avulla; ks. kohta (a): k ( i 1) i i= 1 SSE = n s = + + = TKK/SAL Ilkka Mellin (2005) 10/10

11 (g) ODOTUSARVOJEN VERTAILU Kohdassa (c) todettiin, että nollahypoteesi ryhmäkohtaisten odotusarvojen yhtäsuuruudesta voidaan hylätä. Tällöin on luontevaa vertailla ryhmäkohtaisia odotusarvoja pareittain toisiinsa. Tehdään odotusarvojen vertailu Bonferronin menetelmällä. One-Way AOV AOV Table > Results Comparison of Means Comparison Method = Bonferroni Alpha = 0.05 DEFECT1 BONFERRONI COMPARISON OF MEANS HOMOGENEOUS VARIABLE MEAN GROUPS SUPC I SUPA I SUPB I THERE ARE 2 GROUPS IN WHICH THE MEANS ARE NOT SIGNIFICANTLY DIFFERENT FROM ONE ANOTHER. CRITICAL T VALUE REJECTION LEVEL CRITICAL VALUE FOR COMPARISON STANDARD ERROR FOR COMPARISON Analyysin mukaan aineisto koostuu kolmen sijasta kahdesta ryhmästä. Toiseen ryhmään kuuluvat ryhmien SUPC ja SUPA alkiot ja toiseen ryhmään ryhmän SUPB alkiot. Ryhmien SUPC ja SUPA havaintojen odotusarvot eivät eroa tilastollisesti merkitsevästi toisistaan. Sen sijaan ryhmien SUPC SUPA ja SUPB odotusarvot eroavat tilastollisesti merkitsevästi toisistaan. Yleinen johtopäätös: Viallisten keskimääräiset lukumäärät alihankkijoilla C ja A eivät poikkea tilastollisesti merkitsevästi toisistaan, mutta viallisten keskimääräiset lukumäärät niillä ja alihankkijalla B poikkeavat tilastollisesti merkitsevästi toisistaan. TKK/SAL Ilkka Mellin (2005) 11/11

12 3. YKSISUUNTAINEN VARIANSSIANALYYSI JA YLEINEN LINEAARINEN MALLI Tehtävässä käytetään tehtävän 1 (b)-kohdan tiedostoa DEFECT2. (a) (b) (c) RATKAISU: Lisää tiedostoon DEFECT2 kolme indikaattorimuuttujaa IA, IB, IC. Indikaattorimuuttujat määritellään seuraavalla tavalla: I i = 1, jos havainto kuuluu ryhmään i 0, jos havainto ei kuulu ryhmään i Estimoi lineaarinen malli, jossa selittäjinä käytetään muuttujia IA, IB, IC. Vertaa regressiokertoimia tehtävän 1 tulostuksista löytyviin ryhmäkohtaisiin aritmeettisiin keskiarvoihin. Huomautus: Mallissa ei saa olla vakiotermiä! Miksi? Testaa regressiokertoimien yhtäsuuruutta ja vertaa testin tulosta tehtävässä 1 saatuun yksisuuntaisen varianssianalyysin testitulokseen. Testin suoritus on esitetty tehtäväpaperin lopussa. Yksisuuntaisessa varianssianalyysissa perusjoukko jaetaan ryhmiin yhden tekijän suhteen ja päämääränä on testata ryhmäkohtaisten odotusarvojen yhtäsuuruutta. Tehtävän tavoitteena on näyttää, että yksisuuntaisen varianssianalyysin malli on erikoistapaus yleisestä lineaarisesta mallista. TKK/SAL Ilkka Mellin (2005) 12/12

13 Mat Tilastollisen analyysin perusteet (a) INDIKAATTORIMUUTTUJAT Lisätään tehtävän 1 kategorisessa muodossa olevaan STATISTIX-tiedostoon DEFECT2 indikaattorimuuttujat IA, IB, IC. Indikaattorimuuttujat määritellään seuraavalla tavalla: I ji = Tulostetaan tiedosto DEFECT2. 1, jos havainto j kuuluu ryhmään i 0, jos havainto j ei kuulu ryhmään i File > Print Print Variables = DEFECT, IA, IB, IC DEFECT2 DEFECT IA IB IC TKK/SAL Ilkka Mellin (2005) 13/13

14 (b) REGRESSIOANALYYSI Estimoidaan lineaarinen regressiomalli (1) DEFECT = µ 1 IA + µ 2 IB + µ 3 IC + ε Huomaa, että mallissa ei ole mukana vakioselittäjää! Statistics > Linear Models > Linear Regression Dependent Variable = DEFECT Independent Variables = IA, IB, IC DEFECT2 UNWEIGHTED LEAST SQUARES LINEAR REGRESSION OF DEFECT NOTE: MODEL FORCED THROUGH ORIGIN PREDICTOR VARIABLES COEFFICIENT STD ERROR STUDENT'S T P VIF IA IB IC R-SQUARED RESID. MEAN SQUARE (MSE) ADJUSTED R-SQUARED STANDARD DEVIATION SOURCE DF SS MS F P REGRESSION RESIDUAL TOTAL CASES INCLUDED 18 MISSING CASES 0 Mallin (1) regressiokertoimien estimaateiksi saadaan: Kertoimen µ 1 estimaatti = Kertoimen µ 2 estimaatti = Kertoimen µ 3 estimaatti = Estimaatit ovat samat kuin havaintoarvojen ryhmäkohtaiset aritmeettiset keskiarvot; ks. tehtävä 2, kohta (a). Estimoitu malli on siten muotoa DEFECT = IA IB IC Mallin (1) jäännösneliösumma (RESIDUAL SS) on sama kuin varianssi-analyysissa laskettava ryhmien sisäistä vaihtelua kuvaava neliösumma SSE; kts. tehtävä 2, kohta (b). TKK/SAL Ilkka Mellin (2005) 14/14

15 Huomautus: Malliin (1) ei voi liittää vakioselittäjää, koska mallin DEFECT = β + µ 1 IA + µ 2 IB + µ 3 IC + ε selittäjien välillä olisi tarkka lineaarinen riippuvuus: CONSTANT = IA + IB + IC jossa CONSTANT on vakioselittäjä: CONSTANT = 1 kaikille havainnoille Selittäjien lineaarinen riippuvuus tekee regressiokertoimien estimoimisen tavanomaisella PNS-keinolla mahdottomaksi. (c) REGRESSIOKERTOIMIEN YHTÄSUURUUDEN TESTAAMINEN Asetetaan lineaarisen mallin (1) DEFECT = µ 1 IA + µ 2 IB + µ 3 IC + ε kertoimille nollahypoteesi H 0 : µ 1 = µ 2 = µ 3 = µ Jos nollahypoteesi H 0 pätee, malli (1) voidaan kirjoittaa muotoon (2) DEFECT = µ CONSTANT + ε Testi nollahypoteesille H 0 perustuu testisuureeseen jossa n k SSER SSE F = k 1 SSE n = havaintojen kokonaislukumäärä k = ryhmien lukumäärä SSE R = jäännösneliösumma mallista (2) SSE = jäännösneliösumma mallista (1) Lisätään tiedostoon DEFECT2 muuttuja CONSTANT. Muuttuja CONSTANT määritellään seuraavalla tavalla: CONSTANT = 1 kaikille havainnoille TKK/SAL Ilkka Mellin (2005) 15/15

16 Tulostetaan tiedosto DEFECT2. File > Print Print Variables = DEFECT, CONSTANT DEFECT2 DEFECT CONSTANT TKK/SAL Ilkka Mellin (2005) 16/16

17 Estimoidaan lineaarinen regressiomalli (2) DEFECT = µ CONSTANT + ε Statistics > Linear Models > Linear Regression Dependent Variable = DEFECT Independent Variables = CONSTANT DEFECT2 UNWEIGHTED LEAST SQUARES LINEAR REGRESSION OF DEFECT NOTE: MODEL FORCED THROUGH ORIGIN PREDICTOR VARIABLES COEFFICIENT STD ERROR STUDENT'S T P CONSTANT R-SQUARED RESID. MEAN SQUARE (MSE) ADJUSTED R-SQUARED STANDARD DEVIATION SOURCE DF SS MS F P REGRESSION RESIDUAL TOTAL CASES INCLUDED 18 MISSING CASES 0 Mallin (2) regressiokertoimen estimaatiksi saadaan: Kertoimen µ estimaatti = Estimaatti on sama kuin havaintoarvojen yleiskeskiarvo; ks. tehtävä 2, kohta (a). Estimoitu malli on siten muotoa DEFECT = IA Mallin (2) jäännösneliösumma (RESIDUAL SS) on sama kuin varianssianalyysissa laskettava havaintojen kokonaisvaihtelua kuvaava neliösumma SST; ks. tehtävä 2, kohta (b). Yhdistämällä saatu tulos (b)-kohdan tulokseen saadaan testisuureen arvoksi n k SSER SSE F = = = k 1 SSE Tulos on täsmälleen sama kuin tehtävän 2 kohdassa (d) saatu tulos, mikä on ymmärrettävää, kun huomataan, että Johtopäätös: SSER SSE = SSG Nollahypoteesi regressiokertoimien yhtäsuuruudesta voidaan hylätä. TKK/SAL Ilkka Mellin (2005) 17/17

18 4. YKSISUUNTAINEN VARIANSSIANALYYSI: SOVELLUS 1 USA:ssa toimiva yritys on etsimässä sopivaa automerkkiä hoitamaan kuljetuksiaan. Ehdolla on kotimainen, japanilainen ja eurooppalainen automerkki. Jokaista merkkiä tilataan 5 kappaletta, tilatuilla autoilla ajetaan 10,000 mailia normaaliajoa ja autojen ajokustannukset (c/maili) mitataan. Tiedot mittauksista on annettu STATISTIX-tiedostossa CARS1. RATKAISU: Onko eri automerkkien keskimääräisissä ajokustannuksissa tilastollisesti merkitsevää eroa? Yksisuuntaisessa varianssianalyysissa perusjoukko jaetaan ryhmiin yhden tekijän suhteen ja päämääränä on testata ryhmäkohtaisten odotusarvojen yhtäsuuruutta. Tehtävän tavoitteena on esittää sovellusesimerkki yksisuuntaisesta varianssianalyysista, tilanteessa, jossa oletus odotusarvojen yhtäsuuruudesta jää voimaan. Tehdään yksisuuntainen varianssianalyysi tiedoston CARS1 aineistolle. Statistics > Linear Models > One-Way AOV Model Specification = Table Table Variables = DOM, JAP, EUR Ryhmäkohtaisten varianssien yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten varianssien yhtäsuuruudesta. Bartlettin testin χ 2 -testisuureen arvo (CHI-SQ) on 2 χ = 0.54 ja vapausasteiden lukumäärä (DF) on k 1 = 3 1 = 2. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi varianssien yhtäsuuruudesta jää voimaan. TKK/SAL Ilkka Mellin (2005) 18/18

19 Ryhmäkohtaisten odotusarvojen yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten odotusarvojen yhtäsuuruudesta. F-testisuureen arvo (F) on F = 0.40 ja vapausasteiden lukumäärät (DF) ovat k 1 = 2 ja n k = 12. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi odotusarvojen yhtäsuuruudesta jää voimaan. CARS1 ONE-WAY AOV FOR: DOM EUR JAP SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 5.0 SAMPLE GROUP VARIABLE MEAN SIZE STD DEV DOM EUR JAP TOTAL CASES INCLUDED 15 MISSING CASES 0 Yleinen johtopäätös: Eri automerkkien keskimääräiset ajokustannukset eivät eroa tilastollisesti merkitsevästi toisistaan. TKK/SAL Ilkka Mellin (2005) 19/19

20 5. YKSISUUNTAINEN VARIANSSIANALYYSI: SOVELLUS 2 Eräs korkeajännitekaapeli punotaan 12 teräslangasta, joilta vaaditaan suurta vetolujuutta. Lankojen vetolujuuden tutkimiseksi valitaan satunnaisesti 9 kaapelia ja jokaisen kaapelin kaikkien teräslankojen vetolujuudet mitataan. Mitattujen veto-lujuuksien poikkeamat arvosta 340 kg on annettu kiloina STATISTIX-tiedostossa CABLES. Indikaattorimuuttuja I1 ilmaisee mistä kaapelista kukin teräslanka on otettu. (a) (b) (c) (d) RATKAISU: Testaa nollahypoteesia, että eri kaapeleista otetuilla teräslangoilla on samat keskimääräiset vetolujuudet. Tee myös ryhmäkohtaisten odotusarvojen vertailut Bonferronin menetelmällä. Kohdassa (a) nollahypoteesi hylätään. Asiaa tarkemmin tutkittaessa havaitaan, että kaapeleiden 1-4 langat on valmistettu teräserästä A, kaapeleiden 5-8 langat on valmistettu teräserästä B ja kaapelin 9 langat on valmistettu teräserästä C. Indikaattorimuuttuja I2 ilmaisee mistä teräserästä kaapelin langat on valmistettu. Testaa nollahypoteesia, että teräserästä A valmistettujen kaapeleiden teräslangoilla on samat keskimääräiset vetolujuudet. Testaa nollahypoteesia, että teräserästä B valmistettujen kaapeleiden teräslangoilla on samat keskimääräiset vetolujuudet. Mikä on johtopäätös? Testaa nollahypoteesia, että eri teräseristä valmistettujen kaapeleiden teräslangoilla on samat keskimääräiset vetolujuudet. Tee myös ryhmä-kohtaisten odotusarvojen vertailut Bonferronin menetelmällä. Tee tuloksista yhteenveto. Yksisuuntaisessa varianssianalyysissa perusjoukko jaetaan ryhmiin yhden tekijän suhteen ja päämääränä on testata ryhmäkohtaisten odotusarvojen yhtäsuuruutta. Tehtävän tavoitteena on esittää sellainen sovellusesimerkki yksisuuntaisesta varianssianalyysista, jossa tulee esiin ryhmityksen vaikutus. TKK/SAL Ilkka Mellin (2005) 20/20

21 (a) VARIANSSIANALYYSI RYHMILLE 1-9 Tehdään yksisuuntainen varianssianalyysi tiedoston CABLES aineistolle käyttäen indikaattorimuuttujana muuttujaa I1, jolla on yhdeksän tasoa. Statistics > Linear Models > One-Way AOV Model Specification = Categorical Dependent Variable = TENSSTR Categorical Variables = I1 CABLES ONE-WAY AOV FOR TENSSTR BY I1 SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 12.0 SAMPLE GROUP I1 MEAN SIZE STD DEV TOTAL CASES INCLUDED 108 MISSING CASES 0 TKK/SAL Ilkka Mellin (2005) 21/21

22 Ryhmäkohtaisten varianssien yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten varianssien yhtäsuuruudesta. Bartlettin testin χ 2 -testisuureen arvo (CHI-SQ) on 2 χ = ja vapausasteiden lukumäärä (DF) on k 1 = 9 1 = 8. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi varianssien yhtäsuuruudesta jää voimaan. Ryhmäkohtaisten odotusarvojen yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten odotusarvojen yhtäsuuruudesta. F-testisuureen arvo (F) on F = 9.07 ja vapausasteiden lukumäärät (DF) ovat k 1 = 8 ja n k = 99. Testisuureen arvoa vastaava p-arvo (P) on (4:llä desimaalilla) Johtopäätös: Nollahypoteesi odotusarvojen yhtäsuuruudesta voidaan hylätä. TKK/SAL Ilkka Mellin (2005) 22/22

23 Odotusarvojen vertailu Tehdään odotusarvojen vertailu Bonferronin menetelmällä. One-Way AOV AOV Table > Results Comparison of Means Comparison Method = Bonferroni Alpha = 0.05 CABLES BONFERRONI COMPARISON OF MEANS OF TENSSTR BY I1 HOMOGENEOUS I1 MEAN GROUPS I I I I I I I I I I I I I I I I I I I I I I I THERE ARE 5 GROUPS IN WHICH THE MEANS ARE NOT SIGNIFICANTLY DIFFERENT FROM ONE ANOTHER. CRITICAL T VALUE REJECTION LEVEL CRITICAL VALUE FOR COMPARISON STANDARD ERROR FOR COMPARISON Analyysin mukaan aineisto koostuu yhdeksän sijasta viidestä ryhmästä. Uusia ryhmiä voidaan muodostaa usealla eri tavalla. Esimerkiksi alkuperäisen ryhmityksen ryhmä 6 voidaan liittää neljään eri ryhmään. (b) VARIANSSIANALYYSIT RYHMILLE 1-4 JA 5-8 Tehdään yksisuuntainen varianssianalyysi tiedoston CABLES aineistolle erikseen ryhmille 1-4 ja 5-8 käyttäen indikaattorimuuttujana muuttujaa I1. TKK/SAL Ilkka Mellin (2005) 23/23

24 Varianssianalyysi ryhmille 1-4 Rajoitetaan havainnot ryhmiin 1-4. Data > Omit / Select / Restore Cases Omit / Select / Restore Expression Omit I1 > 4 Statistics > Linear Models > One-Way AOV Model Specification = Categorical Dependent Variable = TENSSTR Categorical Variables = I1 CABLES ONE-WAY AOV FOR TENSSTR BY I1 SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 12.0 SAMPLE GROUP I1 MEAN SIZE STD DEV TOTAL CASES INCLUDED 48 MISSING CASES 0 TKK/SAL Ilkka Mellin (2005) 24/24

25 Ryhmäkohtaisten varianssien yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten varianssien yhtäsuuruudesta. Bartlettin testin χ 2 -testisuureen arvo (CHI-SQ) on 2 χ = 1.83 ja vapausasteiden lukumäärä (DF) on k 1 = 4 1 = 3. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi varianssien yhtäsuuruudesta jää voimaan. Ryhmäkohtaisten odotusarvojen yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten odotusarvojen yhtäsuuruudesta. F-testisuureen arvo (F) on F = 1.31 ja vapausasteiden lukumäärät (DF) ovat k 1 = 3 ja n k = 44. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi odotusarvojen yhtäsuuruudesta jää voimaan. TKK/SAL Ilkka Mellin (2005) 25/25

26 Varianssianalyysi ryhmille 5-8 Rajoitetaan havainnot ryhmiin 5-8. Data > Omit / Select / Restore Cases Omit / Select / Restore Expression Omit I1 < 5 Data > Omit / Select / Restore Cases Omit / Select / Restore Expression Omit I1 > 8 Statistics > Linear Models > One-Way AOV Model Specification = Categorical Dependent Variable = TENSSTR Categorical Variables = I1 CABLES ONE-WAY AOV FOR TENSSTR BY I1 SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 12.0 SAMPLE GROUP I1 MEAN SIZE STD DEV TOTAL CASES INCLUDED 48 MISSING CASES 0 TKK/SAL Ilkka Mellin (2005) 26/26

27 Ryhmäkohtaisten varianssien yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten varianssien yhtäsuuruudesta. Bartlettin testin χ 2 -testisuureen arvo (CHI-SQ) on 2 χ = 2.84 ja vapausasteiden lukumäärä (DF) on k 1 = 4 1 = 3. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi varianssien yhtäsuuruudesta jää voimaan. Ryhmäkohtaisten odotusarvojen yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten odotusarvojen yhtäsuuruudesta. F-testisuureen arvo (F) on F = 0.96 ja vapausasteiden lukumäärät (DF) ovat k 1 = 3 ja n k = 44. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi odotusarvojen yhtäsuuruudesta jää voimaan. Yleinen johtopäätös: Ryhmät 1-4 ja 5-8 ovat sisäisesti homogeenisia odotusarvojensa suhteen. TKK/SAL Ilkka Mellin (2005) 27/27

28 (c) VARIANSSIANALYYSI YHDISTETYILLE RYHMILLE Yhdistetään ryhmät 1-4 ja 5-8 ja olkoon ryhmä 9 kolmantena ryhmänä. Tätä ryhmitystä edustaa tiedostossa CABLES muuttuja I2. Statistics > Linear Models > One-Way AOV Model Specification = Categorical Dependent Variable = TENSSTR Categorical Variables = I2 CABLES ONE-WAY AOV FOR TENSSTR BY I2 SOURCE DF SS MS F P BETWEEN WITHIN TOTAL CHI-SQ DF P BARTLETT'S TEST OF EQUAL VARIANCES COCHRAN'S Q LARGEST VAR / SMALLEST VAR COMPONENT OF VARIANCE FOR BETWEEN GROUPS EFFECTIVE CELL SIZE 32.0 SAMPLE GROUP I2 MEAN SIZE STD DEV TOTAL CASES INCLUDED 108 MISSING CASES 0 TKK/SAL Ilkka Mellin (2005) 28/28

29 Ryhmäkohtaisten varianssien yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten varianssien yhtäsuuruudesta. Bartlettin testin χ 2 -testisuureen arvo (CHI-SQ) on 2 χ = 6.40 ja vapausasteiden lukumäärä (DF) on k 1 = 3 1 = 2. Testisuureen arvoa vastaava p-arvo (P) on Johtopäätös: Nollahypoteesi varianssien yhtäsuuruudesta voidaan juuri ja juuri hylätä 5 %:n merkitsevyystasolla. Ryhmäkohtaisten odotusarvojen yhtäsuuruuden testaaminen Testataan oletusta ryhmäkohtaisten odotusarvojen yhtäsuuruudesta. F-testisuureen arvo (F) on F = ja vapausasteiden lukumäärät (DF) ovat k 1 = 2 ja n k = 105. Testisuureen arvoa vastaava p-arvo (P) on (4:llä desimaalilla) Johtopäätös: Nollahypoteesi odotusarvojen yhtäsuuruudesta voidaan hylätä, kun todisteet nollahypoteesia vastaan ovat näin voimakkaita, vaikka ryhmäkohtaisten varianssien yhtäsuuruusoletusta vastaan on lieviä todisteita. TKK/SAL Ilkka Mellin (2005) 29/29

30 Odotusarvojen vertailu Tehdään odotusarvojen vertailu Bonferronin menetelmällä. One-Way AOV AOV Table > Results Comparison of Means Comparison Method = Bonferroni Alpha = 0.05 CABLES BONFERRONI COMPARISON OF MEANS OF TENSSTR BY I2 HOMOGENEOUS I2 MEAN GROUPS I I I ALL 3 MEANS ARE SIGNIFICANTLY DIFFERENT FROM ONE ANOTHER. CRITICAL T VALUE REJECTION LEVEL STANDARD ERRORS AND CRITICAL VALUES OF DIFFERENCES VARY BETWEEN COMPARISONS BECAUSE OF UNEQUAL SAMPLE SIZES. Analyysin mukaan aineisto koostuu kolmesta ryhmästä, joiden odotusarvot eroavat tilastollisesti merkitsevästi toisistaan. (d) YHTEENVETO TULOKSISTA (i) (ii) Teräserällä, josta kaapelit on valmistettu, on tilastollisesti merkitsevä vaikutus kaapeleiden vetolujuuteen; ks. kohta (c). Samasta teräserästä valmistettujen kaapeleiden vetolujuudet eivät poikkea tilastollisesti merkitsevästi toisistaan; ks. kohta (b). TKK/SAL Ilkka Mellin (2005) 30/30

31 Mat Tilastollisen analyysin perusteet KAAVOJA Tehtävässä 3 pyydetään testaamaan yksisuuntaisen varianssianalyysin mallia vastaavassa regressiomallissa regressiokertoimien yhtäsuuruutta. Tämä testi ja yksisuuntaisen varianssianalyysin testi ryhmäkohtaisten odotusarvojen yhtäsuuruudelle ovat ekvivalentteja. Yksisuuntaisen varianssianalyysin malli Olkoon (1) y j n i k 2 ji = µ i + ε ji, ε ji N(0, σ ), = 1, 2,, i, = 1, 2,, yksisuuntaisen varianssianalyysin malli, jossa jäännöstermit ε ji oletetaan lisäksi korreloimattomiksi. Yksisuuntaisen varianssianalyysin malli ja yleinen lineaarinen malli Varianssinalyysimallia (1) vastaava yleinen lineaarinen malli on muotoa (2) y = µ 1I1 + µ 2I2 + + µ I + ε, j = 1, 2,, n, i = 1, 2,, k ji k k ji i jossa jäännöstermistä ε ji tehdään samat oletukset kuin mallissa (1). Olkoon nollahypoteesina H : µ = µ = = µ = µ k Testin suoritus (i) (ii) Estimoidaan lineaarinen regressiomalli (2) PNS-menetelmällä. Olkoon SSE tuloksena saatava jäännösneliösumma. Estimoidaan lineaarinen regressiomalli, jossa selittäjänä on pelkkä vakio. Olkoon SSE R tuloksena saatava jäännnösneliösumma. Huomautus: jossa SSE = ( n 1) s R 2 y 2 s y on kaikkien y-havaintojen varianssin harhaton estimaattori. TKK/SAL Ilkka Mellin (2005) 31/31

32 Mat Tilastollisen analyysin perusteet (iii) Muodostetaan testisuure jossa (iv) Jos nollahypoteesi pätee, n k SSER SSE F = k 1 SSE n = n + n + + n 1 2 k H : µ = µ = = µ = µ F F( k 1, n k) k Testin idea Nollahypoteesi H : µ = µ = = µ = µ k merkitsee (k 1) lineaarisen rajoituksen spesifioimista malli (2) regressiokertoimille. Huomaa, että rajoituksien lukumäärä on (k 1). Miksi? Jos rajoitukset otetaan huomioon, malli (2) voidaan kirjoittaa muotoon (3) y = µ + ε, j = 1, 2,, n, i = 1, 2,, k ji ji i Esitetyssä testissä mallin (2) jäännösneliösummaa SSE verrataan rajoitetun mallin (3) jäännösneliösummaan SSE R. Voidaan osoittaa, että mallin (3) jäännösneliösumma SSE R on aina vähintään yhtä suuri kuin mallin (2) jäännösneliösumma SSE. Nollahypoteesi H 0 hylätään, jos jäännösneliösumma kasvaa kyllin voimaakkaasti, kun nollahypoteesin määrämät rajoitukset otetaan estimoinnissa huomioon. Huomautuksia (i) (ii) Mallin (2) regressiokertoimien µ 1, µ 2,, µ k PNS-estimaattoreiksi saadaan y-havaintojen ryhmäkohtaiset aritmeettiset keskiarvot. Mallin (3) regressiokertoimen µ PNS-estimaattoriksi saadaan y-havaintojen kokonaiskeskiarvo eli kaikkien y-havaintojen yhteinen aritmeettinen keskiarvo. TKK/SAL Ilkka Mellin (2005) 32/32