Tilastolliset menetelmät

Tilastolliset menetelmät Ilkka Mellin 1. korjattu painos Ilkka Mellin I

Ilkka Mellin II

Esipuhe Tämä moniste pyrkii antamaan perustiedot tilastollisista menetelmistä ja niiden soveltamisesta. Tämä on monisteen 1. korjattu painos, jossa olen pyrkinyt poistamaan monisteen β-versiossa ja 1. painoksessa olleet paino- ym. virheet. Olen myös monin paikoin pyrkinyt parantamaan aikaisempien versioiden kieltä. Lisäksi olen tehnyt joitakin tarpeellisiksi katsomiani lisäyksiä ja täydennyksiä. Moniste perustuu Teknillisessä korkeakoulussa pitämiini sovelletun todennäköisyyslaskennan ja tilastollisen analyysin perusteiden kurssien luentoihin sekä osittain myös ennustamisen ja aikasarja-analyysin ja koesuunnittelun ja tilastollisten mallien kurssien luentoihin, mikä tietysti lyö leimansa käsiteltävään materiaalin valintaan. Moniste voinee kuitenkin toimia oheismateriaalina monenlaisilla yliopistoissa pidettäville tilastotieteen kursseilla. Moniste jakautuu viiteen osaan: Osassa 1 esitetään lyhyesti kirjoittajan näkemykset siitä, mitä tilastotiede on tieteenalana sekä käsitellään tilastollisten aineiston keräämistä, mittaamista ja kuvaamista. Osassa 2 tarkastellaan satunnaisotoksia sekä otosjakaumia ja tilastollisten mallien parametrien estimointia. Osa 3 on omistettu tilastollisille testeille. Monisteen kaksi viimeistä osaa, osat 4 ja 5, käsittelevät kaksiulotteisten tilastollisten aineistojen kuvaamista, korrelaatiota sekä regressio- ja varianssianalyysia. Se, että käsillä oleva teos on perustutkintotasolle, näkyy siinä, että teoksessa ei käytetä mittateoreettista lähestymistapaa. Lisäksi jotkut vaikeimmista tuloksista on jätetty ilman perustelua. Eräänä tavoitteenani yliopisto-opettajana on ollut tuottaa verkkoon sellaista todennäköisyyslaskennan ja tilastotieteen oppimateriaalia, mikä mahdollistaa itseopiskelun. Lukija saattaa ihmetellä, miksi tässä monisteessa on tavoitteeseeni nähden vähän esimerkkimateriaalia. Perustelunani tälle on se, että tätä monistetta täydentävät verkossa erikseen julkaistut esimerkki- ja harjoitustehtäväkokoelmat ratkaisuineen. Todennäköisyyslaskentaa ja tilastotiedettä opettavien kannattaa huomata se, että monisteen materiaaliin liittyvät luentokalvot ovat saatavilla verkossa. Käsillä olevaan todennäköisyyslaskennan monisteeseen liittyy kiinteästi opetusmoniste Tilastolliset menetelmät sekä kaava- ja taulukkokokoelmat Todennäköisyyslaskenta: Kaavat Tilastolliset menetelmät: Kaavat Tilastolliset taulukot Myös tämä materiaali on saatavilla verkossa. Elokuussa 2008 Ilkka Mellin Ilkka Mellin III

Ilkka Mellin IV

Tilastolliset menetelmät Tilastolliset menetelmät: Johdanto 1. Tilastotiede tieteenalana 2. Tilastollisten aineistojen kerääminen ja mittaaminen 3. Tilastollisten aineistojen kuvaaminen Otokset, otosjakaumat ja estimointi 4. Otokset ja otosjakaumat 5. Estimointi 6. Estimointimenetelmät 7. Väliestimointi Tilastolliset testit 8. Tilastollinen testaus 9. Testejä suhdeasteikollisille muuttujille 10. Testejä järjestysasteikollisille muuttujille 11. Testejä laatueroasteikollisille muuttujille 12. Yhteensopivuuden, homogeenisuuden ja riippumattomuuden testaaminen Lineaarinen regressioanalyysi 13. Tilastollinen riippuvuus ja korrelaatio 14. Johdatus regressioanalyysiin 15. Yhden selittäjän lineaarinen regressiomalli 16. Yleinen lineaarinen malli 17. Regressiomallin valinta 18. Regressiodiagnostiikka 19. Erityiskysymyksiä yleisen lineaarisen mallin soveltamisessa Varianssianalyysi 20. Yksisuuntainen varianssianalyysi 21. Kaksisuuntainen varianssianalyysi 22. Kolmi- ja useampisuuntainen varianssianalyysi Ilkka Mellin V

Sisällys Tilastolliset menetelmät: Johdanto 1 1. TILASTOTIEDE TIETEENALANA 5 1.1. MITÄ TILASTOTIEDE ON? 6 MITÄ TILASTOTIEDE EI OLE? 6 MITÄ TILASTOTIEDE ON? 6 SATUNNAISILMIÖT JA TODENNÄKÖISYYSLASKENTA 6 TILASTOLLISEN TUTKIMUSAINEISTON KERÄÄMINEN SATUNNAISILMIÖNÄ 7 TEOREETTINEN JA SOVELTAVA TILASTOTIEDE 8 KUVAILEVA TILASTOTIEDE JA TILASTOLLINEN PÄÄTTELY 8 TILASTOTIETEEN OSA-ALUEITA 8 TILASTOTIETEEN REUNA-ALUEITA 9 1.2. TILASTOTIETEEN SOVELLUSKOHTEET 9 TILASTOTIETEELLÄ ON MONTA NIMEÄ 10 TILASTOTIEDE JA TILASTOT 10 TILASTOTIEDE, TILASTOT JA YHTEISKUNTA 11 ESIMERKKEJÄ TILASTOLLISISTA TUTKIMUSASETELMISTA 11 2. TILASTOLLISET AINEISTOT, NIIDEN KERÄÄMINEN JA MITTAAMINEN 15 2.1. TILASTOLLISET AINEISTOT JA NIIDEN TODENNÄKÖISYYSMALLIT 16 TILASTOLLISET AINEISTOT 16 TILASTOLLISET TUTKIMUSASETELMAT 16 TILASTOLLISET MALLIT 16 TILASTOLLISTEN AINEISTOJEN KERÄÄMINEN 16 2.2. TILASTOLLISET KOKEET 17 KOEASETELMAT 17 KONTROLLOIDUT KOKEET 17 KONTROLLOIDUT KOKEET: KOMMENTTEJA 18 SATUNNAISTAMINEN 18 2.3. SUORAT HAVAINNOT 19 SUORAT HAVAINNOT: KOMMENTTEJA 19 2.4. KOKONAISTUTKIMUS 19 2.5. OTANTATUTKIMUS 19 OTANTAMENETELMIÄ 20 YKSINKERTAINEN SATUNNAISOTANTA 20 SYSTEMAATTINEN OTANTA 20 OSITETTU OTANTA 21 RYVÄSOTANTA 21 MONIASTEINEN OTANTA 21 2.6. SATUNNAISTAMISEN MERKITYS TILASTOLLISTEN AINEISTOJEN KERÄÄMISESSÄ 21 2.7. MITTAAMINEN, MITTA-ASTEIKOT JA TILASTOLLISET MUUTTUJAT 22 MITTARIN VALIDITEETTI JA TARKKUUS 22 MITTA-ASTEIKOT 22 KVALITATIIVISET JA KVANTITATIIVISET MUUTTUJAT 23 DISKREETIT JA JATKUVAT MUUTTUJAT 23 TILASTOLLISTEN MUUTTUJIEN MITTA-ASTEIKOT JA TILASTOLLISET MENETELMÄT 23 3. TILASTOLLISTEN AINEISTOJEN KUVAAMINEN 24 3.1. TILASTOLLISET AINEISTOT 25 Ilkka Mellin VI

3.2. HAVAINTOARVOJEN JAKAUMA 25 FREKVENSSIT JA FREKVENSSIEN JAKAUMA 26 PYLVÄSDIAGRAMMI 26 PYLVÄSDIAGRAMMIN PIIRTÄMINEN 26 LUOKKAFREKVENSSIT JA LUOKKAFREKVENSSIEN JAKAUMA 27 HISTOGRAMMI 28 HISTOGRAMMIN PIIRTÄMINEN 28 MITTA-ASTEIKOT JA HAVAINTOARVOJEN JAKAUMAN KUVAAMINEN 29 3.3. TUNNUSLUVUT 30 TUNNUSLUVUT JA MITTA-ASTEIKOT 30 3.4. SUHDEASTEIKOLLISTEN MUUTTUJIEN TUNNUSLUVUT 32 ARITMEETTINEN KESKIARVO 32 LUOKITELLUN AINEISTON ARITMEETTINEN KESKIARVO 32 ARITMEETTINEN KESKIARVO HAVAINTOARVOJEN JAKAUMAN KUVAAJANA 32 VARIANSSI 33 ARITMEETTISEN KESKIARVON JA VARIANSSI LASKEMINEN 34 KESKIHAJONTA 35 VARIANSSI JA KESKIHAJONTA HAVAINTOARVOJEN JAKAUMAN KUVAAJANA 36 STANDARDOINTI 36 TILASTOLLINEN ETÄISYYS 36 ORIGOMOMENTIT 36 KESKUSMOMENTIT 37 VINOUS 37 HUIPUKKUUS 38 HARMONINEN KESKIARVO 39 GEOMETRINEN KESKIARVO 40 ARITMEETTINEN, HARMONINEN JA GEOMETRINEN KESKIARVO 41 3.5. JÄRJESTYSASTEIKOLLISTEN MUUTTUJIEN TUNNUSLUVUT 42 JÄRJESTYSTUNNUSLUVUT 42 MINIMI, MAKSIMI, VAIHTELUVÄLI 42 PROSENTTIPISTEET 42 MEDIAANI 43 MEDIAANI HAVAINTOARVOJEN JAKAUMAN KUVAAJANA 44 MEDIAANI, ARITMEETTINEN KESKIARVO JA VINOUS 43 LUOKITELLUN AINEISTON MEDIAANI 45 KVARTIILIT 45 KVARTIILIT, KVARTIILIVÄLI, KVARTIILIPOIKKEAMA 46 BOX-WHISKER-KUVIO 46 3.6. LAATUEROASTEIKOLLISTEN MUUTTUJIEN TUNNUSLUVUT 48 FREKVENSSI 48 MOODI 48 LUOKITELLUN AINEISTON MOODI 48 MOODI HAVAINTOARVOJEN JAKAUMAN KUVAAJANA 49 MOODI, MEDIAANI, ARITMEETTINEN KESKIARVO JA VINOUS 49 Otokset, otosjakaumat, estimointi 51 4. OTOKSET JA OTOSJAKAUMAT 57 4.1. SATUNNAISOTOS 58 TILASTOLLISET AINEISTOT 58 TILASTOLLISET MALLIT 58 SATUNNAISOTANTA 58 SATUNNAISOTOKSEN TILASTOLLINEN MALLI 59 4.2. OTOSTUNNUSLUVUT JA OTOSJAKAUMAT 59 OTOSTUNNUSLUVUT 59 OTOSJAKAUMA 60 OTOSJAKAUMAT: ESIMERKKEJÄ 60 Ilkka Mellin VII

4.3. ARITMEETTISEN KESKIARVON JA OTOSVARIANSSIN OTOSJAKAUMAT 60 ARITMEETTINEN KESKIARVO JA OTOSVARIANSSI 60 ARITMEETTISEN KESKIARVON ODOTUSARVO JA VARIANSSI 61 ARITMEETTISEN KESKIARVON OTOSJAKAUMA: KÄYTTYTYMINEN OTOSKOON KASVAESSA 62 ARITMEETTISEN KESKIARVON OTOSJAKAUMA: NORMAALIJAKAUTUNUT OTOS 62 ARITMEETTISEN KESKIARVON OTOSJAKAUMA: ASYMPTOOTTINEN JAKAUMA 62 STANDARDOIDUN ARITMEETTISEN KESKIARVON OTOSJAKAUMA: ODOTUSARVO JA VARIANSSI 63 STANDARDOIDUN ARITMEETTISEN KESKIARVON OTOSJAKAUMA: NORMAALIJAKAUTUNUT OTOS 63 STANDARDOIDUN ARITMEETTISEN KESKIARVON OTOSJAKAUMA: ASYMPTOOTTINEN JAKAUMA 63 ARITMEETTISEN KESKIARVON OTOSJAKAUMA: KOMMENTTEJA 64 OTOSVARIANSSIN ODOTUSARVO JA VARIANSSI 64 OTOSVARIANSSIN OTOSJAKAUMA: NORMAALIJAKAUTUNUT OTOS 64 OTOSVARIANSSIN OTOSJAKAUMA: KOMENTTEJA 67 ARITMEETTISEN KESKIARVON JA OTOSVARIANSSIN RIIIPPUMATTOMUUS JA OTOSJAKAUMAT: NORMAALIJAKAUTUNUT OTOS 67 4.4. SUHTEELLISEN FREKVENSSIN OTOSJAKAUMA 72 FREKVENSSI JA SUHTEELLINEN FREKVENSSI 72 FREKVENSSIN ODOTUSARVO, VARIANSSI JA OTOSJAKAUMA 72 SUHTEELLISEN FREKVENSSIN ODOTUSARVO JA VARIANSSI 73 SUHTEELLISEN FREKVENSSIN OTOSJAKAUMA: KÄYTTÄYTYMINEN OTOSKOON KASVAESSA 73 SUHTEELLISEN FREKVENSSIN OTOSJAKAUMA: ASYMPTOOTTINEN JAKAUMA 73 5. ESTIMOINTI 74 5.1. TODENNÄKÖISYYSJAKAUMAN PARAMETRIT JA NIIDEN ESTIMOINTI 75 TILASTOLLISET AINEISTOT 75 TILASTOLLISET MALLIT 75 SATUNNAISOTANTA 76 SATUNNAISOTOS 76 ESTIMAATTORIT JA ESTIMAATIT 76 ESTIMAATTORIN OTOSJAKAUMA 77 ESTIMAATTOREIDEN JOHTAMINEN 77 PISTE-ESTIMOINTI JA VÄLIESTIMOINTI 77 5.2. HYVÄN ESTIMAATTORIN OMININAISUUKSIA 77 TYHJENTÄVYYS 78 HARHATTOMUUS 78 ESTIMAATTORIN HARHA 78 ESTIMAATTORIN KESKINELIÖVIRHE 79 TEHOKKUUS 79 TÄYSTEHOKKUUS ELI MINIMIVARIANSSISUUS 80 TARKENTUVUUS 80 6. ESTIMOINTIMENETELMÄT 81 6.1. ESTIMOINTI 82 SATUNNAISOTOS 82 ESTIMAATTORI JA ESTIMAATTI 82 ESTIMAATTOREIDEN JOHTAMINEN 82 6.2. SUURIMMAN USKOTTAVUUDEN MENETELMÄ 82 USKOTTAVUUSFUNKTIO 82 SUURIMMAN USKOTTAVUUDEN ESTIMAATTORI 83 SUURIMMAN USKOTTAVUUDEN ESTIMAATTORIN MÄÄRÄÄMINEN 84 LOGARITMINEN USKOTTAVUUSFUNKTIO 84 Ilkka Mellin VIII

SUURIMMAN USKOTTAVUUDEN ESTIMAATTORIN ASYMPTOOTTISET OMINAISUUDET 85 6.3. NORMAALIJAKAUMAN PARAMETRIEN SUURIMMAN USKOTTAVUUDEN ESTIMOINTI 85 SU-ESTIMAATTOREIDEN JOHTO 85 SU-ESTIMAATTOREIDEN OMINAISUUDET 87 6.4. EKSPONENTTIJAKAUMAN PARAMETRIEN SUURIMMAN USKOTTAVUUDEN ESTIMOINTI 87 SU-ESTIMAATTORIN JOHTO 88 6.5. BERNOULLI-JAKAUMAN PARAMETRIEN SUURIMMAN USKOTTAVUUDEN ESTIMOINTI 89 SU-ESTIMAATTORIN JOHTO 89 SU-ESTIMAATTORIN OMINAISUUDET 90 6.6. MOMENTTIMENETELMÄ 91 SATUNNAISOTOS 91 MOMENTIT 91 MOMENTTIESTIMAATTOREIDEN MÄÄRÄÄMINEN 92 MOMENTTIMENETELMÄ VS SUURIMMAN USKOTTAVUUDEN MENETELMÄ 92 6.7. NORMAALIJAKAUMAN PARAMETRIEN MOMENTTIESTIMOINTI 93 MM-ESTIMAATTOREIDEN JOHTO 93 6.8. EKSPONENTTIJAKAUMAN PARAMETRIEN MOMENTTIESTIMOINTI 94 MM-ESTIMAATTORIN JOHTO 94 6.9. BERNOULLI-JAKAUMAN PARAMETRIEN MOMENTTIESTIMOINTI 95 MM-ESTIMAATTORIN JOHTO 95 7. VÄLIESTIMOINTI 97 7.1. TODENNÄKÖISYYSJAKAUMAN PARAMETRIT JA NIIDEN ESTIMOINTI 98 SATUNNAISOTOS 98 ESTIMAATTORI JA ESTIMAATTI 98 ESTIMAATTOREIDEN JOHTAMINEN 98 PISTE-ESTIMOINTI JA VÄLIESTIMOINTI 98 7.2. LUOTTAMUSVÄLIT 99 LUOTTAMUSVÄLIN MÄÄRÄÄMINEN 99 LUOTTAMUSTASON JA -VÄLIN FREKVENSSITULKINTA 100 JOHTOPÄÄTÖKSET LUOTTAMUSVÄLISTÄ 100 LUOTTAMUSVÄLIT: ESIMERKKEJÄ 101 7.3. NORMAALIJAKAUMAN ODOTUSARVON LUOTTAMUSVÄLI, KUN JAKAUMAN VARIANSSI ON TUNNETTU 101 OTOS NORMAALIJAKAUMASTA 101 NORMAALIJAKAUMAN PARAMETRIEN ESTIMOINTI 101 ODOTUSARVON LUOTTAMUSVÄLIN KONSTRUOINTI 101 LUOTTAMUSVÄLIN OMINAISUUDET 104 LUOTTAMUSVÄLIN FREKVENSSITULKINTA 104 JOHTOPÄÄTÖKSET LUOTTAMUSVÄLISTÄ 104 VAATIMUKSET LUOTTAMUSVÄLILLE 105 OTOSKOON MÄÄRÄÄMINEN 105 7.4. NORMAALIJAKAUMAN ODOTUSARVON LUOTTAMUSVÄLI, KUN JAKAUMAN VARIANSSI ON TUNTEMATON 106 OTOS NORMAALIJAKAUMASTA 106 NORMAALIJAKAUMAN PARAMETRIEN ESTIMOINTI 106 ODOTUSARVON LUOTTAMUSVÄLIN KONSTRUOINTI 106 LUOTTAMUSVÄLIN OMINAISUUDET 109 LUOTTAMUSVÄLIN FREKVENSSITULKINTA 110 JOHTOPÄÄTÖKSET LUOTTAMUSVÄLISTÄ 110 VAATIMUKSET LUOTTAMUSVÄLILLE 110 OTOSKOON MÄÄRÄÄMINEN 111 NORMAALIJAKAUMAN ODOTUSARVON LUOTTAMUSVÄLIN MÄÄRÄÄMINEN: ESIMERKKI 111 Ilkka Mellin IX

7.5. NORMAALIJAKAUMAN VARIANSSIN LUOTTAMUSVÄLI 114 OTOS NORMAALIJAKAUMASTA 114 NORMAALIJAKAUMAN PARAMETRIEN ESTIMOINTI 114 VARIANSSIN LUOTTAMUSVÄLIN KONSTRUOINTI 116 LUOTTAMUSVÄLIN OMINAISUUDET 116 LUOTTAMUSVÄLIN FREKVENSSITULKINTA 117 JOHTOPÄÄTÖKSET LUOTTAMUSVÄLISTÄ 117 VAATIMUKSET LUOTTAMUSVÄLILLE 117 7.6. BERNOULLI-JAKAUMAN ODOTUSARVON LUOTTAMUSVÄLI 117 BERNOULLI-JAKAUMA 117 OTOS BERNOULLI-JAKAUMASTA 118 BERNOULLI-JAKAUMAN ODOTUSARVOPARAMETRIN ESTIMOINTI 118 BERNOULLI-JAKAUMAN ODOTUSARVOPARAMETRIN LUOTTAMUSVÄLI 118 LUOTTAMUSVÄLIN OMINAISUUDET 121 LUOTTAMUSVÄLIN FREKVENSSITULKINTA 121 JOHTOPÄÄTÖKSET LUOTTAMUSVÄLISTÄ 122 VAATIMUKSET LUOTTAMUSVÄLILLE 122 OTOSKOON MÄÄRÄÄMINEN 122 Tilastolliset testit 125 8. TILASTOLLINEN TESTAUS 131 8.1. TILASTOLLISEN TESTAUKSEN IDEA 132 TILASTOLLISEN TESTAUKSEN LÄHTÖKOHTA 132 SATUNNAISOTOS 132 8.2. TILASTOLLISET HYPOTEESIT 133 YLEINEN HYPOTEESI 133 NOLLAHYPOTEESI 133 VAIHTOEHTOINEN HYPOTEESI 134 8.3. TILASTOLLISET TESTIT JA TESTISUUREET 134 TESTI 134 TESTISUURE 134 8.4. VIRHEET TESTAUKSESSA 135 HYLKÄYSVIRHE 135 HYVÄKSYMISVIRHE 135 TESTIN VOIMAKKUUS 135 1. JA 2. LAJIN VIRHEET 135 TESTIN TULOS JA MAAILMAN TILAT 136 TESTIN HYLKÄYS- JA HYVÄKSYMISALUEET 136 8.5. MERKITSEVYYSTASO JA TESTIN HYLKÄYSALUE 136 MERKITSEVYYSTASO 136 MERKITSEVYYSTASON FREKVENSSITULKINTA 137 TAVANOMAISET MERKITSEVYYSTASOT 137 HYLKÄYSALUEEN MÄÄRÄÄMINEN YKSIKERTAISISSA TESTAUSASETELMISSA 137 8.6. TESTIN P-ARVO 139 P-ARVO 139 P-ARVON FREKVENSSITULKINTA 137 P-ARVO JA TESTI PÄÄTÖSSÄÄNTÖNÄ 140 P-ARVON MÄÄRÄÄMINEN YKSINKERTAISISSA TESTAUSASETELMISSA 140 8.7. TESTIN SUORITTAMINEN 141 TESTIN SUORITTAMINEN MERKITSEVYYSTASON VALINTAAN PERUSTUVISSA TESTAUSASETELMISSA 141 TESTIN SUORITTAMINEN P-ARVON VALINTAAN PERUSTUVISSA TESTAUSASETELMISSA 142 8.8. NORMAALIJAKAUMAN PARAMETREJA KOSKEVAT TESTIT: ESIMERKKI 142 TESTAUSASETELMA 142 HAVAINNOT 143 Ilkka Mellin X

TESTAUSASETELMAA KOSKEVAT HYPOTEESIT 144 χ 2 -TESTI VARIANSSILLE 145 t-testi ODOTUSARVOLLE 148 8.9. TILASTOLLISET TESTIT JA HAVAINTOJEN MITTA-ASTEIKOILLISET OMINAISUUDET 152 9. TESTEJÄ SUHDEASTEIKOLLISILLE MUUTTUJILLE 154 9.1. SUHDEASTEIKOLLISTEN MUUTTUJIEN TESTIT 155 9.2. YHDEN OTOKSEN t-testi ODOTUSARVOLLE 156 TESTAUSASETELMA YHDEN OTOKSEN T-TESTISSÄ 156 HYPOTEESIT YHDEN OTOKSEN t-testissä 156 PARAMETRIEN ESTIMOINTI YHDEN OTOKSEN t-testissä 156 TESTISUURE JA SEN JAKAUMA YHDEN OTOKSEN t-testissä 157 HYLKÄYSALUEEN MÄÄRÄÄMINEN YHDEN OTOKSEN t-testissä 158 P-ARVON MÄÄRÄÄMINEN YHDEN OTOKSEN t-testissä 159 NORMAALISUUSOLETUKSEN MERKITYS YHDEN OTOKSEN t-testissä 159 YHDEN OTOKSEN t-testin HYVÄKSYMISVIRHEEN TODENNÄKÖISYYS JA VOIMAKKUUS 160 9.3. KAHDEN RIIPPUMATTOMAN OTOKSEN t-testi A ODOTUSARVOILLE: YLEINEN TAPAUS 162 TESTAUSASETELMA KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä A 162 HYPOTEESIT KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä A 163 PARAMETRIEN ESTIMOINTI KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä A 163 TESTISUURE JA SEN JAKAUMA KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä A 164 HYLKÄYSALUEEN MÄÄRÄÄMINEN KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä A 165 P-ARVON MÄÄRÄÄMINEN KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä A 167 NORMAALISUUSOLETUKSEN MERKITYS KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä A 167 9.4. KAHDEN RIIPPUMATTOMAN OTOKSEN t-testi B ODOTUSARVOILLE: YHTÄ SUURTEN VARIANSSIEN TAPAUS 167 TESTAUSASETELMA KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä B 167 HYPOTEESIT KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä B 168 PARAMETRIEN ESTIMOINTI KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä B 169 TESTISUURE JA SEN JAKAUMA KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä B 169 HYLKÄYSALUEEN MÄÄRÄÄMINEN KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä B 171 P-ARVON MÄÄRÄÄMINEN KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä B 171 NORMAALISUUSOLETUKSEN MERKITYS KAHDEN RIIPPUMATTOMAN OTOKSEN t-testissä B 171 9.5. t-testi PARIVERTAILUILLE 171 PARIVERTAILUASETELMA 171 TESTAUSASETELMA t-testissä PARIVERTAILUILLE 171 HYPOTEESIT t-testissä PARIVERTAILUILLE 172 PARAMETRIEN ESTIMOINTI t-testissä PARIVERTAILUILLE 172 TESTISUURE JA SEN JAKAUMA t-testissä PARIVERTAILUILLE 172 HYLKÄYSALUEEN MÄÄRÄÄMINEN t-testissä PARIVERTAILUILLE 174 P-ARVON MÄÄRÄÄMINEN T-TESTISSÄ PARIVERTAILUILLE 174 NORMAALISUUSOLETUKSEN MERKITYS t-testissä PARIVERTAILUILLE 174 9.6. YHDEN OTOKSEN χ 2 -TESTI VARIANSSILLE 174 TESTAUSASETELMA YHDEN OTOKSEN TESTISSÄ VARIANSSILLE 174 HYPOTEESIT YHDEN OTOKSEN χ 2 -TESTISSÄ VARIANSSILLE 174 PARAMETRIEN ESTIMOINTI YHDEN χ 2 -TESTISSÄ VARIANSSILLE 175 TESTISUURE JA SEN JAKAUMA YHDEN OTOKSEN χ 2 -TESTISSÄ VARIANSSILLE 175 HYLKÄYSALUEEN MÄÄRÄÄMINEN YHDEN OTOKSEN χ 2 -TESTISSÄ VARIANSSILLE 176 P-ARVON MÄÄRÄÄMINEN YHDEN OTOKSEN χ 2 -TESTISSÄ VARIANSSILLE 177 Ilkka Mellin XI

NORMAALISUUSOLETUKSEN MERKITYS YHDEN OTOKSEN χ 2 -TESTISSÄ VARIANSSILLE 178 9.7. KAHDEN RIIPPUMATTOMAN OTOKSEN F- TESTI VARIANSSEILLE 178 TESTAUSASETELMA KAHDEN RIIPPUMATTOMAN OTOKSEN F-TESTISSÄ VARIANSSEILLE 178 HYPOTEESIT KAHDEN RIIPPUMATTOMAN OTOKSEN F-TESTISSÄ VARIANSSEILLE 179 PARAMETRIEN ESTIMOINTI KAHDEN RIIPPUMATTOMAN OTOKSEN F-TESTISSÄ VARIANSSEILLE 179 TESTISUURE JA SEN JAKAUMA KAHDEN RIIPPUMATTOMAN OTOKSEN F-TESTISSÄ VARIANSSEILLE 179 HYLKÄYSALUEEN MÄÄRÄÄMINEN KAHDEN RIIPPUMATTOMAN OTOKSEN F-TESTISSÄ VARIANSSEILLE 181 P-ARVON MÄÄRÄÄMINEN KAHDEN RIIPPUMATTOMAN OTOKSEN F-TESTISSÄ VARIANSSEILLE 182 NORMAALISUUSOLETUKSEN MERKITYS KAHDEN RIIPPUMATTOMAN OTOKSEN F- TESTISSÄ VARIANSSEILLE 183 10. TESTEJÄ JÄRJESTYSASTEIKOLLISILLE MUUTTUJILLE 184 10.1. JÄRJESTYSASTEIKOLLISTEN MUUTTUJIEN TESTIT 185 10.2. MERKKITESTI 185 TESTISUUREET S JA S+ 185 TESTISUUREIDEN S JA S+ OMINAISUUDET 186 EKSAKTI MERKKITESTI 186 STANDARDOITU MERKKITESTISUURE JA SEN ASYMPTOOTTINEN JAKAUMA 186 KOMMENTTEJA 187 MERKKITESTI JA PARIVERTAILUASETELMAT 187 10.3. WILCOXONIN RANKITESTI 187 TESTISUUREET W JA W+ 188 TESTISUUREIDEN W JA W+ OMINAISUUDET 188 EKSAKTI WILCOXONIN RANKITESTI 189 STANDARDOITU W-TESTISUURE JA SEN ASYMPTOOTTINEN JAKAUMA 187 KOMMENTTEJA 190 WILCOXONIN RANKITESTI JA PARVERTAILUASETELMAT 190 10.4. MANNIN JA WHITNEYN TESTI 190 HYPOTEESIT 191 MANNIN JA WHITNEYN TESTIN IDEA 191 TESTISUURE U1 MUOTO 1 191 TESTISUURE U1 MUOTO 2 191 TESTISUUREEN U1 OMINAISUUDET 192 TESTISUURE U2 MUOTO 1 192 TESTISUURE U2 MUOTO 2 192 TESTISUUREEN U2 OMINAISUUDET 192 TESTISUUREIDEN U1 JA U2 OMINAISUUDET 193 STANDARDOITU U1-TESTISUURE JA SEN ASYMPTOOTTINEN JAKAUMA 193 STANDARDOITU U2-TESTISUURE JA SEN ASYMPTOOTTINEN JAKAUMA 193 KOMMENTTEJA 194 10.5. WILCOXONIN RANKISUMMATESTI 194 MANNIN JA WHITNEYN TESTI JA WILCOXONIN RANKISUMMATESTI 194 TESTISUURE T1 194 TESTISUURE T2 194 TESTISUUREIDEN T1 JA T2 OMINAISUUDET 194 STANDARDOITU T1-TESTISUURE JA SEN ASYMPTOOTTINEN JAKAUMA 195 STANDARDOITU T2-TESTISUURE JA SEN ASYMPTOOTTINEN JAKAUMA 195 11. TESTEJÄ LAATUEROASTEIKOLLISILLE MUUTTUJILLE 196 11.1. LAATUEROASTEIKOLLISTEN MUUTTUJIEN TESTIT 197 11.2. TESTI SUHTEELLISELLE OSUUDELLE 197 Ilkka Mellin XII

TESTAUSASETELMA TESTISSÄ SUHTEELLISELLE OSUUDELLE 197 HYPOTEESIT TESTISSÄ SUHTEELLISELLE OSUUDELLE 198 PARAMETRIEN ESTIMOINTI TESTISSÄ SUHTEELLISELLE OSUUDELLE 198 TESTISUURE JA SEN JAKAUMA TESTISSÄ SUHTEELLISELLE OSUUDELLE 198 HYLKÄYSALUEEN MÄÄRÄÄMINEN TESTISSÄ SUHTEELLISELLE OSUUDELLE 200 P-ARVON MÄÄRÄÄMINEN TESTISSÄ SUHTEELLISELLE OSUUDELLE 201 11.3. SUHTEELLISTEN OSUUKSIEN VERTAILUTESTI 201 TESTAUSASETELMA SUHTEELLISTEN OSUUKSIEN VERTAILUTESTISSÄ 201 HYPOTEESIT SUHTEELLISTEN OSUUKSIEN VERTAILUTESTISSÄ 202 PARAMETRIEN ESTIMOINTI SUHTEELLISTEN OSUUKSIEN VERTAILUTESTISSÄ 202 TESTISUURE SUHTEELLISTEN OSUUKSIEN VERTAILUTESTISSÄ 203 HYLKÄYSALUEEN MÄÄRÄÄMINEN SUHTEELLISTEN OSUUKSIEN VERTAILUTESTISSÄ 205 P-ARVON MÄÄRÄÄMINEN SUHTEELLISTEN OSUUKSIEN VERTAILUTESTISSÄ 206 12. YHTEENSOPIVUUDEN, HOMOGEENISUUDEN JA RIIPPUMATTOMUUDEN TESTAAMINEN 207 12.1. JAKAUMAOLETUKSIEN TESTAUS 208 12.2. YHTEENSOPIVUUDEN TESTAAMINEN 208 TESTAUSASETELMA χ 2 -YHTEENSOPIVUUSTESTISSÄ 208 HYPOTEESIT χ 2 -YHTEENSOPIVUUSTESTISSÄ 209 HAVAITUT LUOKKAFREKVENSSIT 209 ODOTETUT LUOKKAFREKVENSSIT 210 TESTISUURE JA SEN JAKAUMA χ 2 -YHTEENSOPIVUUSTESTISSÄ 211 χ 2 -YHTEENSOPIVUUSTESTI: SOVELLUS 213 12.3. HOMOGEENISUUDEN TESTAAMINEN 217 TESTAUSASETELMA χ 2 -HOMOGEENISUUSTESTISSÄ 217 χ 2 -HOMOGEENISUUSTESTIN SUORITTAMINEN 217 HYPOTEESIT χ 2 -HOMOGEENISUUSTESTISSÄ 218 HAVAITUT FREKVENSSIT 218 NOLLAHYPOTEESIN TULKINTA χ 2 -HOMOGEENISUUSTESTISSÄ 219 ODOTETTUJEN FREKVENSSIEN MÄÄRÄÄMINEN 219 TESTISUURE JA SEN JAKAUMA χ 2 -HOMOGEENISUUSTESTISSÄ 221 12.4. RIIPPUMATTOMUUDEN TESTAAMINEN 222 TESTAUSASETELMA χ 2 -RIIPPUMATTOMUUSTESTISSÄ 222 χ 2 -RIIPPUMATTOMUUSTESTIN SUORITTAMINEN 222 HYPOTEESIT χ 2 -RIIPPUMATTOMUUSTESTISSÄ 223 HAVAITUT FREKVENSSIT 223 NOLLAHYPOTEESIN TULKINTA χ 2 -RIIPPUMATTOMUUSTESTISSÄ 224 ODOTETTUJEN FREKVENSSIEN MÄÄRÄÄMINEN 224 TESTISUURE JA SEN JAKAUMA χ 2 -RIIPPUMATTOMUUSTESTISSÄ 226 12.5. χ 2 -HOMOGEENISUUSTESTI JA χ 2 -RIIPPUMATTOMUUSTESTI 227 12.6. NORMAALISUUDEN TESTAAMINEN 228 BOWMANIN JA SHENTONIN TESTI NORMAALISUUDELLE 228 TODENNÄKÖISYYSJAKAUMAN VINOUS JA HUIPUKKUUS 228 HAVAINTOJEN JAKAUMAN VINOUS JA HUIPUKKUUS 229 HYPOTEESIT 230 BOWMANIN JA SHENTONIN TESTI 230 RANKIT PLOT -KUVIO SEKÄ WILKIN JA SHAPIRON TESTI NORMAALISUUDELLE 230 RANKIT PLOT -KUVIO JA WILKIN JA SHAPIRON TESTI: SOVELLUS 231 Lineaarinen regressioanalyysi 233 13. TILASTOLLINEN RIIPPUVUUS JA KORRELAATIO 241 13.1. TILASTOLLINEN RIIPPUVUUS, KORRELAATIO JA REGRESSIO 242 Ilkka Mellin XIII

13.2. KAHDEN MUUTTUJAN HAVAINTOAINEISTON KUVAAMINEN 243 PISTEDIAGRAMMI 243 AIKASARJADIAGRAMMI 247 ARITMEETTISET KESKIARVOT 249 OTOSVARIANSSIT JA OTOSKESKIHAJONNAT 249 OTOSKOVARIANSSI 250 OTOSKORRELAATIO 252 OTOSTUNNUSLUKUJEN LASKEMINEN 254 13.3. PEARSONIN KORRELAATIOKERTOIMEN ESTIMOINTI JA TESTAUS 257 OTOS KAKSIULOTTEISESTA NORMAALIJAKAUMASTA 257 KAKSIULOTTEISEN NORMAALIJAKAUMAN PARAMETRIEN ESTIMOINTI 258 FISHERIN Z-MUUNNOS 259 KORRELAATIOKERTOIMEN LUOTTAMUSVÄLI 259 KORRELOIMATTOMUUDEN TESTAAMINEN 261 YLEINEN TESTI KORRELAATIOKERTOIMELLE 262 KORRELAATIOKERTOIMIEN VERTAILUTESTI 264 13.4. JÄRJESTYSKORRELAATIOKERTOIMET 265 SPEARMANIN JÄRJESTYSKORRELAATIOKERROIN 265 SPEARMANIN JÄRJESTYSKORRELAATIOKERTOIMEN OMINAISUUDET 266 KORRELOIMATTOMUUDEN TESTAAMINEN 267 KENDALLIN JÄRJESTYSKORRELAATIOKERROIN 267 KENDALLIN JÄRJESTYSKORRELAATIOKERTOIMEN OMININAISUUDET 268 KORRELOIMATTOMUUDEN TESTAAMINEN 268 14. JOHDATUS REGRESSIOANALYYSIIN 270 14.1. REGRESSIOANALYYSIN LÄHTÖKOHDAT JA TAVOITTEET 271 REGRESSIOANALYYSIN TAVOITTEET 271 REGRESSIOMALLIEN LUOKITTELU 271 REGRESSIOANALYYSIN SOVELLUKSET TILASTOTIETEESSÄ 272 REGRESSIOANALYYSIN LÄHTÖKOHDAT 272 14.2. DETERMINISTISET MALLIT JA REGRESSIOANALYYSI 272 DETERMINISTISET MALLIT 272 DETERMINISTISET MALLIT JA REGRESSIO-ONGELMA 273 SYYT REGRESSIO-ONGELMAN SYNTYYN 274 REGRESSIOMALLI JA KIINTEÄT SELITTÄJÄT 275 14.3. REGRESSIOFUNKTIOT JA REGRESSIOANALYYSI 276 EHDOLLISET JAKAUMAT JA EHDOLLISET ODOTUSARVOT 276 REGRESSIOFUNKTIOT 277 REGRESSIOFUNKTIOT JA ENNUSTAMINEN 277 REGRESSIOFUNKTIOT JA REGRESSIO-ONGELMA 278 REGRESSIOMALLI JA SATUNNAISET SELITTÄJÄT 281 14.4. KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOT 281 KAKSIULOTTEISEN NORMAALIJAKAUMAN TIHEYSFUNKTIO 282 KAKSIULOTTEISEN NORMAALIJAKAUMAN PARAMETRIT 282 KAKSIULOTTEISEN NORMAALIJAKAUMAN PARAMETRIEN TULKINTA 282 KAKSIULOTTEISEN NORMAALIJAKAUMAN EHDOLLISET JAKAUMAT 283 KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOT 284 KAKSIULOTTEISEN NORMAALIJAKAUMAN EHDOLLISET VARIANSSIT 285 14.5. REGRESSIOANALYYSIN TEHTÄVÄT 286 14.6. REGRESSIOMALLIN LINEAARISUUS 286 15. YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI 289 15.1. YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI JA SITÄ KOSKEVAT OLETUKSET 290 HAVAINNOT 290 YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI 290 JÄÄNNÖSTERMIÄ KOSKEVAT STOKASTISET OLETUKSET 291 Ilkka Mellin XIV

SELITETTÄVÄN MUUTTUJAN OMINAISUUDET 291 MALLIN PARAMETRIT 292 MALLIN SYSTEMAATTINEN OSA JA SATUNNAINEN OSA 292 REGRESSIOSUORA 293 REGRESSIOSUORAN KULMAKERTOIMEN TULKINTA 293 15.2. REGRESSIOKERTOIMIEN ESTIMOINTI 294 REGRESSIOKERTOIMIEN PNS-ESTIMOINTI 294 ESTIMOITU REGRESSIOSUORA 292 REGRESSIOKERTOIMIEN PNS-ESTIMAATTOREIDEN OMINAINAISUUDET 297 15.3. SOVITTEET JA RESIDUAALIT 303 SOVITTEIDEN JA RESIDUAALIEN OMINAISUUKSIA 303 SOVITTEET JA RESIDUAALIT: HAVAINNOLLISTUS 304 15.4. JÄÄNNÖSVARIANSSIN ESTIMOINTI 305 15.5. VARIANSSIANALYYSIHAJOTELMA JA SELITYSASTE 307 SELITYSASTE 310 SELITYSASTEEN OMINAISUUDET 311 15.6. LASKUTOIMITUSTEN JÄRJESTÄMINEN 311 ESIMERKKEJÄ ESTIMOINTITULOSTEN TULKINNASTA 316 15.7. PÄÄTTELY YHDEN SELITTÄJÄN LINEAARISESTA REGRESSIOMALLISTA 318 REGRESSIOKERTOIMIEN PNS-ESTIMAATTOREIDEN OTOSJAKAUMAT 318 JÄÄNNÖSVARIANSSIN OTOSJAKAUMA 319 REGRESSIOKERTOIMIEN LUOTTAMUSVÄLIT 320 REGRESSIOKERTOIMIA KOSKEVAT TESTIT 320 15.8. ENNUSTAMINEN YHDEN SELITTÄJÄN LINEAARISELLA REGRESSIOMALLILLA 324 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTAMINEN 324 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTEEN OTOSJAKAUMA 324 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI 325 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLIN OMINAISUUDET 326 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTAMINEN 326 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTEEN OTOSJAKAUMA 326 SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI 327 SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLIN OMINAISUUDET 327 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI VS SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI 327 15.9. YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI JA SATUNNAINEN SELITTÄJÄ 327 15.10. KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOIDEN ESTIMOINTI 327 KAKSIULOTTEINEN NORMAALIJAKAUMA JA SEN TIHEYSFUNKTIO 327 KAKSIULOTTEISEN NORMAALIJAKAUMAN EHDOLLISET JAKAUMAT 328 OTOS KAKSIULOTTEISESTA NORMAALIJAKAUMASTA 329 KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOIDEN PNS-ESTIMOINTI 329 KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOIDEN ESTIMOINTI MOMENTTIMENETELMÄLLÄ JA SUURIMMAN USKOTTAVUUDEN MENETELMÄLLÄ 337 16. YLEINEN LINEAARINEN MALLI 338 16.1. YLEINEN LINEAARINEN MALLI JA SITÄ KOSKEVAT OLETUKSET 339 HAVAINNOT 339 YLEINEN LINEAARINEN MALLI 340 MALLIA KOSKEVAT STANDARDIOLETUKSET 340 KOMMENTTEJA STANDARDIOLETUKSIIN 341 SELITETTÄVÄN MUUTTUJAN OMINAISUUDET 342 MALLIN PARAMETRIT 342 MALLIN SYSTEMAATTINEN OSA JA SATUNAINEN OSA 343 REGRESSIOTASO 343 Ilkka Mellin XV

REGRESSIOKERTOIMIEN TULKINTA 343 16.2. YLEISEN LINEAARISEN MALLIN MATRIISIESITYS 343 ODOTUSARVOVEKTORI JA KOVARIANSSIMATRIISI 344 STANDARDIOLETUKSET MATRIISIMUODOSSA 345 16.3. YLEISEN LINEAARISEN MALLIN PARAMETRIEN ESTIMOINTI 345 PIENIMMÄN NELIÖSUMMAN ESTIMOINTIMENETELMÄ 345 REGRESSIOKERTOIMIEN VEKTORIN PNS-ETIMAATTORI 346 PNS-ESTIMAATTORIN ODOTUSARVOVEKTORI JA KOVARIANSSIMATRIISI 347 GAUSSIN JA MARKOVIN LAUSE 348 GAUSSIN JA MARKOVIN LAUSEEN TULKINTA 350 PNS-ESTIMAATTORIN STOKASTISET OMINAISUUDET 350 SOVITTEET JA RESIDUAALIT 351 SOVITTEIDEN JA RESIDUAALIEN MATRIISIESITYKSET 351 SOVITTEIDEN JA RESIDUAALIEN OMINAISUUDET 353 SOVITTEIDEN JA RESIDUAALIEN STOKASTISET OMINAISUUDET 354 JÄÄNNÖSVARIANSSIN ESTIMOINTI 357 ESTIMOITU REGRESSIOTASO 358 16.4. VARIANSSIANALYYSIHAJOTELMA JA SELITYSASTE 358 VARIANSSIANALYYSIHAJOTELMAN TULKINTA 361 SELITYSASTE 362 SELITYSASTEEN OMINAISUUDET 362 16.5. TILASTOLLINEN PÄÄTTELY YLEISESTÄ LINEAARISESTA MALLISTA 363 REGRESSIOKERTOIMIEN ESTIMAATTOREIDEN ODOTUSARVOT, VARIANSSIT JA OTOSJAKAUMAT 363 JÄÄNNÖSVARIANSSIN OTOSJAKAUMA 364 REGRESSIOKERTOIMIEN LUOTTAMUSVÄLIT 365 REGRESSIOKERTOIMIEN LUOTTAMUSVÄLIEN TULKINTAT 365 YLEISTESTI REGRESSION OLEMASSAOLOLLE 365 TESTIT YKSITTÄISILLE REGRESSIOKERTOIMILLE 366 16.6. ENNUSTAMINEN YLEISELLÄ LINEAARISELLA MALLILLA 367 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTAMINEN 367 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTEEN OTOSJAKAUMA 367 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI 368 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTAMINEN 368 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTEEN OTOSJAKAUMA 368 SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI 368 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI VS SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI 369 16.7. YLEINEN LINEAARINEN MALLI JA SATUNNAISET SELITTÄJÄT 369 YLEINEN LINEAARINEN MALLI JA STANDARDIOLETUKSET 369 SELITTÄJIEN SATUNNAISUUS 370 REGRESSIOKERTOIMIEN VEKTORIN PNS-ESTIMAATTORIN HARHATTOMUUS 370 YLEINEN LINEAARINEN MALLI JA MODIFIOIDUT STANDARDIOLETUKSET SATUNNAISTEN SELITTÄJIEN TAPAUKSELLE 371 KOMMENTTEJA 372 17. REGRESSIOMALLIN VALINTA 373 17.1. REGRESSIOMALLIN VALINTA: JOHDANTO 374 17.2. YLEINEN LINEAARINEN MALLI 374 MALLIN RAKENNEOSA JA JÄÄNNÖSOSA 375 REGRESSIOKERTOIMIEN PNS-ESTIMAATTORIT JA NIIDEN OMINAISUUDET 375 ESTIMOIDUN MALLIN SOVITTEET JA RESIDUAALIT SEKÄ NIIDEN OMINAISUUDET 376 JÄÄNNÖSVARIANSSIN ESTIMOINTI 377 YLEISEN LINEAARISEN MALLIN RAKENNEOSA JA SEN SPESIFIOINTI 378 MIKSI OIKEIDEN SELITTÄJIEN LÖYTÄMINEN REGRESSIOMALLIIN ON TÄRKEÄTÄ? 378 MIKSI OIKEIDEN SELITTÄJIEN LÖYTÄMINEN REGRESSIOMALLIIN ON VAIKEATA? 378 PUUTTUVIEN SELITTÄJIEN ONGELMA 378 Ilkka Mellin XVI

SELITTÄJIEN VALINNAN MENETELMÄT 380 17.3. MALLINVALINTATESTIT 380 ALAPÄIN ASKELLUS 381 ASKELTAVA REGRESSIO 381 17.4. MALLINVALINTAKRITEERIT 382 MALLIVALINTAKRITEERIEN YLEINEN MUOTO 382 MALLINVALINTAKRITEEREIDEN SOVELTAMINEN 383 MALLINVALINTAKRITEEREITÄ 383 JÄÄNNÖSVARIANSSIKRITEERI 383 KORJATTU SELITYSASTE 384 MALLOWSIN C P 384 AKAIKEN INFORNAATIOKRITEERI 385 SCHWARZIN BAYESLAINEN INFORMAATIOKRITEERI 385 17.5. TILASTOLLISET MENETELMÄT TILASTOLLISEN MALLIN VALINNASSA: KOMMENTTEJA 386 17.6. EPÄLINEAARISTEN RIIPPUVUUKSIEN LINEARISOINTI 386 LINEARISOINTI YHDEN SELITTÄJÄN REGRESSIOMALLEISSA 386 LINEARISOIVIEN MUUNNOSTEN ETSIMINEN 387 LINEARISOIVIA MUUNNOKSIA 388 VAATIMUKSET MUUNNOKSILLE 389 18. REGRESSIODIAGNOSTIIKKA 390 18.1. REGRESSIOMALLIT JA REGRESSIODIAGNOSTIIKKA 391 REGRESSIOANALYYSIN PERUSKYSYMYKSET 391 REGRESSIOANALYYSIN PERUSKYSYMYKSET JA REGRESSIODIAGNOSTIIKKA 381 REGRESSIOMALLIN SPESIFIOINTI 392 18.2. YLEINEN LINEAARINEN MALLI 392 MALLIN RAKENNEOSA JA JÄÄNNÖSOSA 393 REGRESSIOKERTOIMIEN PNS-ESTIMAATTORIT JA NIIDEN OMINAISUUDET 394 ESTIMOIDUN MALLIN SOVITTEET JA RESIDUAALIT SEKÄ NIIDEN OMINAISUUDET 394 JÄÄNNÖSVARIANSSIN ESTIMOINTI 396 YLEISEN LINEAARISEN MALLIN RAKENNEOSAN SPESIFIOINTI 396 YLEISEN LINEAARISEN MALLIN JÄÄNNÖSOSAN SPESIFIOINTI 397 SPESIFIOINTIVIRHEIDEN VAIKUTUKSET 397 DIAGNOSTISET TARKISTUKSET 398 18.3. REGRESSIOGRAFIIKKA 398 PISTEDIAGRAMMIT 398 RESIDUAALIDIAGRAMMIT 399 AIKASARJADIAGRAMMIT 399 18.4. POIKKEAVAT HAVAINNOT 400 RESIDUAALIT 401 STANDARDOIDUT RESIDUAALIT 402 POISTORESIDUAALIT 402 STANDARDOIDUT POISTORESIDUAALIT 403 VIPULUVUT 404 COOKIN ETÄISYYDET 404 TILASTOGRAFIIKKA JA POIKKEAVIEN HAVAINTOJEN TUNNISTAMINEN 405 18.5. REGRESSIOKERTOIMIEN VAKIOISUUS 405 TESTI REGRESSIOKERTOIMIEN VAKIOISUUDELLE 406 TESTIN TOINEN MUOTOILU 407 18.6. MULTIKOLLINEAARISUUS 408 MULTIKOLLINEAARISUUS 408 VARIANSSIN INFLAATIOTEKIJÄ 409 MOMENTTIMATRIISI, OTOSKOVARIANSSIMATRIISI JA OTOSKORRELAATIOMATRIISI 410 MULTIKOLLINEAARISUUDEN TUTKIMINEN 411 18.7. HOMOSKEDASTISUUS JA HETEROSKEDASTISUUS 412 HETEROSKEDASTISUUDEN VAIKUTUKSET 412 Ilkka Mellin XVII

HETEROSKEDASTISUUDEN HAVAITSEMINEN 412 HETEROSKEDASTISUUDEN TESTAAMINEN 413 VARIANSSIN STABILOIVAT MUUNNOKSET 413 18.8. AUTOKORRELAATIO 414 KORRELOITUNEISUUDEN VAIKUTUKSET 414 AIKASARJOJEN REGRESSIOMALLIT JA AUTOKORRELAATIO 414 DURBININ JA WATSONIN TESTI 1. KERTALUVUN AUTOKORRELAATIOLLE 415 18.9. NORMAALISUUS 416 EPÄNORMAALISUUDEN VAIKUTUKSET 416 BOWMANIN JA SHENTONIN TESTI 417 18.10. MALLIN ENNUSTUSKYKY 418 19. ERITYISKYSYMYKSIÄ YLEISEN LINEAARISEN MALLIN SOVELTAMISESSA 421 19.1. ERITYISKYSYMYKSIÄ YLEISEN LINEAARISEN MALLIN SOVELTAMISESSA: JOHDANTO 422 YLEINEN LINEAARINEN MALLI 422 REGRESSIOKERTOIMIEN PNS-ESTIMAATTORIT JA NIIDEN OMINAISUUDET 423 GAUSSIN JA MARKOVIN LAUSE 424 GAUSSIN JA MARKOVIN LAUSEEN TULKINTA 424 KUN PNS-ESTIMAATTORI EI OLE PARAS 425 KUN PNS-ESTIMAATTORIA EI SAA KÄYTTÄÄ 425 19.2. YLEISTETTY PIENIMMÄN NELIÖSUMMAN MENETELMÄ 425 YLEISTETYN PNS-ESTIMAATTORIN ODOTUSARVO JA KOVARIANSSIMATRIISI 427 MODIFIOITU GAUSSIN JA MARKOVIN LAUSE YLEISTETYLLE PNS-ESTIMAATTORILLE 428 YLEISTETYN PNS-ESTIMAATTORIN STOKASTISET OMINAISUUDET 430 LASKETTAVA YLEISTETTY PNS-ESTIMAATTORI 430 PAINOTETTU PNS-ESTIMAATTORI 431 19.3. RAJOITETTU PIENIMMÄN NELIÖSUMMAN MENETELMÄ 432 RAJOITETUN PNS-ESTIMAATTORIN ODOTUSARVO JA KOVARIANSSIMATRIISI 433 MODIFIOITU GAUSSIN JA MARKOVIN LAUSE RAJOITETULLE PNS-ESTIMAATTORILLE 434 RAJOITETUN PNS-ESTIMAATTORIN STOKASTISET OMINAISUUDET 435 RAJOITUSTEN TESTAUS 436 RAJOITUSTEN SPESIFIOINTI 437 19.4. INSTRUMENTTIMUUTTUJAMENETELMÄ 437 REGRESSIOKERTOIMIEN VEKTORIN PNS-ESTIMAATTORIN HARHATTOMUUS 438 INSTRUMENTTIMUUTTUJAMENETELMÄ 439 INSTRUMENTTIEN SPESIFIOINTI 440 Varianssianalyysi 441 20. YKSISUUNTAINEN VARIANSSIANALYYSI 445 20.1. VARIANSSIANALYYSI: JOHDANTO 446 KAHDEN RIIPPUMATTOMAN OTOKSEN T-TESTI 446 VARIANSSIANALYYSIN PERUSASETELMA 446 VARIANSSIANALYYSIN NIMI 446 20.2. YKSISUUNTAISEN VARIANSSIANALYYSIN PERUSASETELMA 446 YKSISUUNTAINEN VARIANSSIANALYYSI JA KOESUUNNITTELU 447 20.3. YKSISUUNTAISEN VARIANSSIANALYYSIN SUORITTAMINEN 448 HAVAINNOT JA NIIDEN KESKIARVOT 448 VARIANSSIANALYYSIHAJOTELMA 449 TESTI ODOTUSARVOJEN SAMUUDELLE 451 KOKONAISNELIÖSUMMAN SST JAKAUMA JA VAPAUSASTEET 452 RYHMIEN VÄLISEN VAIHTELUN NELIÖSUMMAN SSG JAKAUMA JA VAPAUSASTEET 453 Ilkka Mellin XVIII

RYHMIEN SISÄISEN VAIHTELUN NELIÖSUMMA SSE JA VAPAUSASTEET 454 COCHRANIN LAUSE 456 YKSISUUNTAISEN VARIANSSIANALYYSIN F-TESTISUUREEN JAKAUMA 457 YKSISUUNTAISEN VARIANSSIANALYYSIN F-TESTISUUREEN TULKINTA 458 VARIANSSIESTIMAATTORIN MSE HARHATTOMUUS 458 VARIANSSIESTIMAATTORIN MSG HARHATTOMUUS 460 VARIANSSIANALYYSITAULUKKO 463 20.4. YKSISUUNTAISEN VARIANSSIANALYYSIN MALLI JA SEN PARAMETROINTI 464 PARAMETROINTI 1 464 PARAMETROINTI 2 464 PARAMETROINTIEN 1 JA 2 EKVIVALENSSI 465 YKSISUUNTAISEN VARIANSSIANALYYSIN MALLI JA YLEINEN LINEAARINEN MALLI 466 20.5. YKSISUUNTAISEN VARIANSSIANALYYSIN MALLIN PARAMETRIEN ESTIMOINTI 467 YKSISUUNTAISEN VARIANSSIANALYYSIN MALLI 467 PIENIMMÄN NELIÖSUMMAN ESTIMOINTI 468 PIENIMMÄN NELIÖSUMMAN ESTIMOINTI YHTÄ SUURTEN ODOTUSARVOJEN TAPAUKSESSA 469 TESTI ODOTUSARVOJEN SAMUUDELLE 479 SOVITTEET JA RESIDUAALIT 471 20.6. YKSISUUNTAISEN VARIANSSIANALYYSIN MALLIN MATRIISIESITYS 471 MATRIIISIESITYS 472 PIENIMMÄN NELIÖSUMMAN ESTIMOINTI 472 20.7. LASKUTOIMITUSTEN SUORITTAMINEN 475 20.8. BARTLETTIN TESTI 477 TESTAUSASETELMA 477 TESTISUURE JA SEN JAKAUMA 477 20.9. ODOTUSARVOPARIEN VERTAILU 478 LUOTTAMUSVÄLIT JA ODOTUSARVOJEN PARIVERTAILU 479 TESTIT JA ODOTUSARVOJEN PARIVERTAILU 480 LUOTTAMUSVÄLIEN JA TESTIEN EKVIVALENSSI 481 SIMULTAANISET LUOTTAMUSVÄLIT JA TESTIT 481 BONFERRONIN EPÄYHTÄLÖ 481 BONFERRONIN EPÄYHTÄLÖ JA SIMULTAANISET TESTIT 482 20.10. KONTRASTIT 483 KONTRASTI 483 KONTRASTIEN ESTIMOINTI 484 KONTRASTEJA KOSKEVAT TESTIT 484 KONTRASTIEN LUOTTAMUSVÄLIT 487 ORTOGONAALISTEN KONTRASTIEN TESTAAMINEN 487 21. KAKSISUUNTAINEN VARIANSSIANALYYSI 490 21.1. VARIANSSIANALYYSI: JOHDANTO 491 KAHDEN RIIPPUMATTOMAN OTOKSEN T-TESTI 491 VARIANSSIANALYYSIN PERUSONGELMA 491 21.2. KAKSISUUNTAISEN VARIANSSIANALYYSIN PERUSASETELMA 491 INTERAKTIO: HAVAINNOLLISTUS 493 KAKSISUUNTAINEN VARIANSSIANALYYSI JA KOESUUNNITTELU 494 21.3. KAKSISUUNTAISEN VARIANSSIANALYYSIN SUORITTAMINEN 494 HAVAINTOJEN KESKIARVOT 494 VARIANSSIANALYYSIHAJOTELMA 495 KAKSISUUNTAISEN VARIANSSIANALYYSIN TESTIT 497 NELIÖSUMMIEN JAKAUMAT 499 VARIANSSIESTIMAATTOREIDEN HARHATTOMUUS 500 VARIANSSIANALYYSITAULUKKO 502 21.4. KAKSISUUNTAISEN VARIANSSIANALYYSIN MALLI JA SEN PARAMETROINTI 503 PARAMETROINTI 1 503 PARAMETROINTI 2 504 PARAMETROINTIEN 1 JA 2 EKVIVALENSSI 504 Ilkka Mellin XIX

21.5. KAKSISUUNTAISEN VARIANSSIANALYYSIN MALLIN PARAMETRIEN ESTIMOINTI 506 KAKSISUUNTAISEN VARIANSSIANALYYSIN MALLI 506 PIENIMMÄN NELIÖSUMMAN ESTIMOINTI 507 SOVITTEET JA RESIDUAALIT 509 21.6. LASKUTOIMITUSTEN SUORITTAMINEN 509 22. KOLMI- JA USEAMPISUUNTAINEN VARIANSSIANALYYSI 512 22.1. VARIANSSIANALYYSI: JOHDANTO 513 KAHDEN RIIPPUMATTOMAN OTOKSEN T-TESTI 513 VARIANSSIANALYYSIN PERUSONGELMA 513 22.2. KOLMISUUNTAINEN VARIANSSIANALYYSI JA SEN MALLI 513 KOLMISUUNTAISEN VARIANSSIANALYYSIN PERUSASETELMA 513 KOLMISUUNTAISEN VARIANSSIANALYYSIN TILASTOLLINEN MALLI 515 KOLMISUUNTAINEN VARIANSSIANALYYSI JA KOESUUNNITTELU 516 22.3. KOLMISUUNTAISEN VARIANSSIANALYYSIN SUORITTAMINEN 516 HAVAINTOJEN KESKIARVOT 516 VARIANSSIANALYYSIHAJOTELMA 517 TESTISUUREET JA NIIDEN JAKAUMAT 519 VARIANSSIANALYYSITAULUKKO 521 22.4. LASKUTOIMITUSTEN SUORITTAMINEN 521 Ilkka Mellin XX