Tilastolliset menetelmät: Lineaarinen regressioanalyysi

Transkriptio

1 Tlastollset meetelmät Leaare regressoaals Tlastollset meetelmät: Leaare regressoaals 3. Tlastolle rppuvuus ja korrelaato 4. Johdatus regressoaals 5. Yhde selttäjä leaare regressomall 6. Ylee leaare mall 7. Regressomall valta 8. Regressodagostkka 9. Ertsksmksä lese leaarse mall soveltamsessa Ilkka Mell 33

2 Tlastollset meetelmät Leaare regressoaals Ilkka Mell 34

3 Tlastollset meetelmät Leaare regressoaals Ssälls 3. TILASTOLLINEN RIIPPUVUUS JA KORRELAATIO TILASTOLLINEN RIIPPUVUUS, KORRELAATIO JA REGRESSIO KAHDEN MUUTTUJAN HAVAINTOAINEISTON KUVAAMINEN 43 PISTEDIAGRAMMI 43 AIKASARJADIAGRAMMI 47 ARITMEETTISET KESKIARVOT 49 OTOSVARIANSSIT JA OTOSKESKIHAJONNAT 49 OTOSKOVARIANSSI 50 OTOSKORRELAATIO 5 OTOSTUNNUSLUKUJEN LASKEMINEN PEARSONIN KORRELAATIOKERTOIMEN ESTIMOINTI JA TESTAUS 57 OTOS KAKSIULOTTEISESTA NORMAALIJAKAUMASTA 57 KAKSIULOTTEISEN NORMAALIJAKAUMAN PARAMETRIEN ESTIMOINTI 58 FISHERIN Z-MUUNNOS 59 KORRELAATIOKERTOIMEN LUOTTAMUSVÄLI 59 KORRELOIMATTOMUUDEN TESTAAMINEN 6 YLEINEN TESTI KORRELAATIOKERTOIMELLE 6 KORRELAATIOKERTOIMIEN VERTAILUTESTI JÄRJESTYSKORRELAATIOKERTOIMET 65 SPEARMANIN JÄRJESTYSKORRELAATIOKERROIN 65 SPEARMANIN JÄRJESTYSKORRELAATIOKERTOIMEN OMINAISUUDET 66 KORRELOIMATTOMUUDEN TESTAAMINEN 67 KENDALLIN JÄRJESTYSKORRELAATIOKERROIN 67 KENDALLIN JÄRJESTYSKORRELAATIOKERTOIMEN OMININAISUUDET 68 KORRELOIMATTOMUUDEN TESTAAMINEN JOHDATUS REGRESSIOANALYYSIIN REGRESSIOANALYYSIN LÄHTÖKOHDAT JA TAVOITTEET 7 REGRESSIOANALYYSIN TAVOITTEET 7 REGRESSIOMALLIEN LUOKITTELU 7 REGRESSIOANALYYSIN SOVELLUKSET TILASTOTIETEESSÄ 7 REGRESSIOANALYYSIN LÄHTÖKOHDAT DETERMINISTISET MALLIT JA REGRESSIOANALYYSI 7 DETERMINISTISET MALLIT 7 DETERMINISTISET MALLIT JA REGRESSIO-ONGELMA 73 SYYT REGRESSIO-ONGELMAN SYNTYYN 74 REGRESSIOMALLI JA KIINTEÄT SELITTÄJÄT REGRESSIOFUNKTIOT JA REGRESSIOANALYYSI 76 EHDOLLISET JAKAUMAT JA EHDOLLISET ODOTUSARVOT 76 REGRESSIOFUNKTIOT 77 REGRESSIOFUNKTIOT JA ENNUSTAMINEN 77 REGRESSIOFUNKTIOT JA REGRESSIO-ONGELMA 78 REGRESSIOMALLI JA SATUNNAISET SELITTÄJÄT KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOT 8 KAKSIULOTTEISEN NORMAALIJAKAUMAN TIHEYSFUNKTIO 8 KAKSIULOTTEISEN NORMAALIJAKAUMAN PARAMETRIT 8 KAKSIULOTTEISEN NORMAALIJAKAUMAN PARAMETRIEN TULKINTA 8 KAKSIULOTTEISEN NORMAALIJAKAUMAN EHDOLLISET JAKAUMAT 83 Ilkka Mell 35

4 Tlastollset meetelmät Leaare regressoaals KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOT 84 KAKSIULOTTEISEN NORMAALIJAKAUMAN EHDOLLISET VARIANSSIT REGRESSIOANALYYSIN TEHTÄVÄT REGRESSIOMALLIN LINEAARISUUS YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI JA SITÄ KOSKEVAT OLETUKSET 90 HAVAINNOT 90 YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI 90 JÄÄNNÖSTERMIÄ KOSKEVAT STOKASTISET OLETUKSET 9 SELITETTÄVÄN MUUTTUJAN OMINAISUUDET 9 MALLIN PARAMETRIT 9 MALLIN SYSTEMAATTINEN OSA JA SATUNNAINEN OSA 9 REGRESSIOSUORA 93 REGRESSIOSUORAN KULMAKERTOIMEN TULKINTA REGRESSIOKERTOIMIEN ESTIMOINTI 94 REGRESSIOKERTOIMIEN PNS-ESTIMOINTI 94 ESTIMOITU REGRESSIOSUORA 96 REGRESSIOKERTOIMIEN PNS-ESTIMAATTOREIDEN OMINAINAISUUDET SOVITTEET JA RESIDUAALIT 303 SOVITTEIDEN JA RESIDUAALIEN OMINAISUUKSIA 303 SOVITTEET JA RESIDUAALIT: HAVAINNOLLISTUS JÄÄNNÖSVARIANSSIN ESTIMOINTI VARIANSSIANALYYSIHAJOTELMA JA SELITYSASTE 307 SELITYSASTE 30 SELITYSASTEEN OMINAISUUDET LASKUTOIMITUSTEN JÄRJESTÄMINEN 3 ESIMERKKEJÄ ESTIMOINTITULOSTEN TULKINNASTA PÄÄTTELY YHDEN SELITTÄJÄN LINEAARISESTA REGRESSIOMALLISTA 38 REGRESSIOKERTOIMIEN PNS-ESTIMAATTOREIDEN OTOSJAKAUMAT 38 JÄÄNNÖSVARIANSSIN OTOSJAKAUMA 39 REGRESSIOKERTOIMIEN LUOTTAMUSVÄLIT 30 REGRESSIOKERTOIMIA KOSKEVAT TESTIT ENNUSTAMINEN YHDEN SELITTÄJÄN LINEAARISELLA REGRESSIOMALLILLA 34 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTAMINEN 34 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTEEN OTOSJAKAUMA 34 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI 35 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLIN OMINAISUUDET 36 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTAMINEN 36 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTEEN OTOSJAKAUMA 36 SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI 37 SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLIN OMINAISUUDET 37 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI VS SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI YHDEN SELITTÄJÄN LINEAARINEN REGRESSIOMALLI JA SATUNNAINEN SELITTÄJÄ KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOIDEN ESTIMOINTI 37 KAKSIULOTTEINEN NORMAALIJAKAUMA JA SEN TIHEYSFUNKTIO 37 KAKSIULOTTEISEN NORMAALIJAKAUMAN EHDOLLISET JAKAUMAT 38 OTOS KAKSIULOTTEISESTA NORMAALIJAKAUMASTA 39 KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOIDEN PNS-ESTIMOINTI 39 KAKSIULOTTEISEN NORMAALIJAKAUMAN REGRESSIOFUNKTIOIDEN ESTIMOINTI MOMENTTIMENETELMÄLLÄ JA SUURIMMAN USKOTTAVUUDEN MENETELMÄLLÄ 337 Ilkka Mell 36

5 Tlastollset meetelmät Leaare regressoaals 6. YLEINEN LINEAARINEN MALLI YLEINEN LINEAARINEN MALLI JA SITÄ KOSKEVAT OLETUKSET 339 HAVAINNOT 339 YLEINEN LINEAARINEN MALLI 340 MALLIA KOSKEVAT STANDARDIOLETUKSET 340 KOMMENTTEJA STANDARDIOLETUKSIIN 34 SELITETTÄVÄN MUUTTUJAN OMINAISUUDET 34 MALLIN PARAMETRIT 34 MALLIN SYSTEMAATTINEN OSA JA SATUNAINEN OSA 34 REGRESSIOTASO 343 REGRESSIOKERTOIMIEN TULKINTA YLEISEN LINEAARISEN MALLIN MATRIISIESITYS 343 ODOTUSARVOVEKTORI JA KOVARIANSSIMATRIISI 344 STANDARDIOLETUKSET MATRIISIMUODOSSA YLEISEN LINEAARISEN MALLIN PARAMETRIEN ESTIMOINTI 345 PIENIMMÄN NELIÖSUMMAN ESTIMOINTIMENETELMÄ 345 REGRESSIOKERTOIMIEN VEKTORIN PNS-ETIMAATTORI 346 PNS-ESTIMAATTORIN ODOTUSARVOVEKTORI JA KOVARIANSSIMATRIISI 347 GAUSSIN JA MARKOVIN LAUSE 348 GAUSSIN JA MARKOVIN LAUSEEN TULKINTA 350 PNS-ESTIMAATTORIN STOKASTISET OMINAISUUDET 350 SOVITTEET JA RESIDUAALIT 35 SOVITTEIDEN JA RESIDUAALIEN MATRIISIESITYKSET 35 SOVITTEIDEN JA RESIDUAALIEN OMINAISUUDET 353 PIENIMMÄN NELIÖSUMMAN MENETELMÄN HAVAINNOLLISTUS 354 SOVITTEIDEN JA RESIDUAALIEN STOKASTISET OMINAISUUDET 355 JÄÄNNÖSVARIANSSIN ESTIMOINTI 357 ESTIMOITU REGRESSIOTASO VARIANSSIANALYYSIHAJOTELMA JA SELITYSASTE 358 VARIANSSIANALYYSIHAJOTELMAN TULKINTA 36 SELITYSASTE 36 SELITYSASTEEN OMINAISUUDET TILASTOLLINEN PÄÄTTELY YLEISESTÄ LINEAARISESTA MALLISTA 363 REGRESSIOKERTOIMIEN ESTIMAATTOREIDEN ODOTUSARVOT, VARIANSSIT JA OTOSJAKAUMAT 363 JÄÄNNÖSVARIANSSIN OTOSJAKAUMA 364 REGRESSIOKERTOIMIEN LUOTTAMUSVÄLIT 365 REGRESSIOKERTOIMIEN LUOTTAMUSVÄLIEN TULKINTA 365 YLEISTESTI REGRESSION OLEMASSAOLOLLE 365 TESTIT YKSITTÄISILLE REGRESSIOKERTOIMILLE ENNUSTAMINEN YLEISELLÄ LINEAARISELLA MALLILLA 367 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTAMINEN 367 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON ENNUSTEEN OTOSJAKAUMA 367 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI 368 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTAMINEN 368 SELITETTÄVÄN MUUTTUJAN ARVON ENNUSTEEN OTOSJAKAUMA 368 SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI 369 SELITETTÄVÄN MUUTTUJAN ODOTETTAVISSA OLEVAN ARVON LUOTTAMUSVÄLI VS SELITETTÄVÄN MUUTTUJAN ARVON LUOTTAMUSVÄLI YLEINEN LINEAARINEN MALLI JA SATUNNAISET SELITTÄJÄT 369 YLEINEN LINEAARINEN MALLI JA STANDARDIOLETUKSET 369 SELITTÄJIEN SATUNNAISUUS 370 REGRESSIOKERTOIMIEN VEKTORIN PNS-ESTIMAATTORIN HARHATTOMUUS 370 Ilkka Mell 37

6 Tlastollset meetelmät Leaare regressoaals YLEINEN LINEAARINEN MALLI JA MODIFIOIDUT STANDARDIOLETUKSET SATUNNAISTEN SELITTÄJIEN TAPAUKSELLE 37 KOMMENTTEJA REGRESSIOMALLIN VALINTA REGRESSIOMALLIN VALINTA: JOHDANTO YLEINEN LINEAARINEN MALLI 374 MALLIN RAKENNEOSA JA JÄÄNNÖSOSA 375 REGRESSIOKERTOIMIEN PNS-ESTIMAATTORIT JA NIIDEN OMINAISUUDET 375 ESTIMOIDUN MALLIN SOVITTEET JA RESIDUAALIT SEKÄ NIIDEN OMINAISUUDET 376 JÄÄNNÖSVARIANSSIN ESTIMOINTI 377 YLEISEN LINEAARISEN MALLIN RAKENNEOSA JA SEN SPESIFIOINTI 378 MIKSI OIKEIDEN SELITTÄJIEN LÖYTÄMINEN REGRESSIOMALLIIN ON TÄRKEÄTÄ? 378 MIKSI OIKEIDEN SELITTÄJIEN LÖYTÄMINEN REGRESSIOMALLIIN ON VAIKEATA? 378 PUUTTUVIEN SELITTÄJIEN ONGELMA 378 SELITTÄJIEN VALINNAN MENETELMÄT MALLINVALINTATESTIT 380 ALAPÄIN ASKELLUS 38 ASKELTAVA REGRESSIO MALLINVALINTAKRITEERIT 38 MALLIVALINTAKRITEERIEN YLEINEN MUOTO 38 MALLINVALINTAKRITEEREIDEN SOVELTAMINEN 383 MALLINVALINTAKRITEEREITÄ 383 JÄÄNNÖSVARIANSSIKRITEERI 383 KORJATTU SELITYSASTE 384 MALLOWSIN C P 384 AKAIKEN INFORNAATIOKRITEERI 385 SCHWARZIN BAYESLAINEN INFORMAATIOKRITEERI TILASTOLLISET MENETELMÄT TILASTOLLISEN MALLIN VALINNASSA: KOMMENTTEJA EPÄLINEAARISTEN RIIPPUVUUKSIEN LINEARISOINTI 386 LINEARISOINTI YHDEN SELITTÄJÄN REGRESSIOMALLEISSA 386 LINEARISOIVIEN MUUNNOSTEN ETSIMINEN 387 LINEARISOIVIA MUUNNOKSIA 388 VAATIMUKSET MUUNNOKSILLE REGRESSIODIAGNOSTIIKKA REGRESSIOMALLIT JA REGRESSIODIAGNOSTIIKKA 39 REGRESSIOANALYYSIN PERUSKYSYMYKSET 39 REGRESSIOANALYYSIN PERUSKYSYMYKSET JA REGRESSIODIAGNOSTIIKKA 39 REGRESSIOMALLIN SPESIFIOINTI YLEINEN LINEAARINEN MALLI 39 MALLIN RAKENNEOSA JA JÄÄNNÖSOSA 393 REGRESSIOKERTOIMIEN PNS-ESTIMAATTORIT JA NIIDEN OMINAISUUDET 394 ESTIMOIDUN MALLIN SOVITTEET JA RESIDUAALIT SEKÄ NIIDEN OMINAISUUDET 394 JÄÄNNÖSVARIANSSIN ESTIMOINTI 396 YLEISEN LINEAARISEN MALLIN RAKENNEOSAN SPESIFIOINTI 396 YLEISEN LINEAARISEN MALLIN JÄÄNNÖSOSAN SPESIFIOINTI 397 SPESIFIOINTIVIRHEIDEN VAIKUTUKSET 397 DIAGNOSTISET TARKISTUKSET REGRESSIOGRAFIIKKA 398 Ilkka Mell 38

7 Tlastollset meetelmät Leaare regressoaals PISTEDIAGRAMMIT 398 RESIDUAALIDIAGRAMMIT 399 AIKASARJADIAGRAMMIT POIKKEAVAT HAVAINNOT 400 RESIDUAALIT 40 STANDARDOIDUT RESIDUAALIT 40 POISTORESIDUAALIT 40 STANDARDOIDUT POISTORESIDUAALIT 403 VIPULUVUT 404 COOKIN ETÄISYYDET 404 TILASTOGRAFIIKKA JA POIKKEAVIEN HAVAINTOJEN TUNNISTAMINEN REGRESSIOKERTOIMIEN VAKIOISUUS 405 TESTI REGRESSIOKERTOIMIEN VAKIOISUUDELLE 406 TESTIN TOINEN MUOTOILU MULTIKOLLINEAARISUUS 408 MULTIKOLLINEAARISUUS 408 VARIANSSIN INFLAATIOTEKIJÄ 409 MOMENTTIMATRIISI, OTOSKOVARIANSSIMATRIISI JA OTOSKORRELAATIOMATRIISI 40 MULTIKOLLINEAARISUUDEN TUTKIMINEN HOMOSKEDASTISUUS JA HETEROSKEDASTISUUS 4 HETEROSKEDASTISUUDEN VAIKUTUKSET 4 HETEROSKEDASTISUUDEN HAVAITSEMINEN 4 HETEROSKEDASTISUUDEN TESTAAMINEN 43 VARIANSSIN STABILOIVAT MUUNNOKSET AUTOKORRELAATIO 44 KORRELOITUNEISUUDEN VAIKUTUKSET 44 AIKASARJOJEN REGRESSIOMALLIT JA AUTOKORRELAATIO 44 DURBININ JA WATSONIN TESTI. KERTALUVUN AUTOKORRELAATIOLLE JÄÄNNÖSTERMIN NORMAALISUUS 46 EPÄNORMAALISUUDEN VAIKUTUKSET 46 BOWMANIN JA SHENTONIN TESTI MALLIN ENNUSTUSKYKY ERITYISKYSYMYKSIÄ YLEISEN LINEAARISEN MALLIN SOVELTAMISESSA ERITYISKYSYMYKSIÄ YLEISEN LINEAARISEN MALLIN SOVELTAMISESSA: JOHDANTO 4 YLEINEN LINEAARINEN MALLI 4 REGRESSIOKERTOIMIEN PNS-ESTIMAATTORIT JA NIIDEN OMINAISUUDET 43 GAUSSIN JA MARKOVIN LAUSE 44 GAUSSIN JA MARKOVIN LAUSEEN TULKINTA 44 KUN PNS-ESTIMAATTORI EI OLE PARAS 45 KUN PNS-ESTIMAATTORIA EI SAA KÄYTTÄÄ YLEISTETTY PIENIMMÄN NELIÖSUMMAN MENETELMÄ 45 YLEISTETYN PNS-ESTIMAATTORIN ODOTUSARVO JA KOVARIANSSIMATRIISI 47 MODIFIOITU GAUSSIN JA MARKOVIN LAUSE YLEISTETYLLE PNS-ESTIMAATTORILLE 48 YLEISTETYN PNS-ESTIMAATTORIN STOKASTISET OMINAISUUDET 430 LASKETTAVA YLEISTETTY PNS-ESTIMAATTORI 430 PAINOTETTU PNS-ESTIMAATTORI RAJOITETTU PIENIMMÄN NELIÖSUMMAN MENETELMÄ 43 RAJOITETUN PNS-ESTIMAATTORIN ODOTUSARVO JA KOVARIANSSIMATRIISI 433 MODIFIOITU GAUSSIN JA MARKOVIN LAUSE RAJOITETULLE PNS-ESTIMAATTORILLE 434 RAJOITETUN PNS-ESTIMAATTORIN STOKASTISET OMINAISUUDET 435 RAJOITUSTEN TESTAUS 436 Ilkka Mell 39

8 Tlastollset meetelmät Leaare regressoaals RAJOITUSTEN SPESIFIOINTI INSTRUMENTTIMUUTTUJAMENETELMÄ 437 REGRESSIOKERTOIMIEN VEKTORIN PNS-ESTIMAATTORIN HARHATTOMUUS 438 INSTRUMENTTIMUUTTUJAMENETELMÄ 439 INSTRUMENTTIEN SPESIFIOINTI 440 Ilkka Mell 40

9 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato 3. Tlastolle rppuvuus ja korrelaato 3.. Tlastolle rppuvuus, korrelaato ja regresso 3.. Kahde muuttuja havatoaesto kuvaame 3.3. Pearso korrelaatokertome estmot ja testaus 3.4. Järjestskorrelaatokertomet Tarkastelemme tässä luvussa kahde (ta useamma) muuttuja tlastollste aestoje aalsa. Prmme vastaamaa seuraav ksmks: Mte kahde (ta useamma) muuttuja samaakae tarkastelu vakuttaa tlastollse aals suorttamsee? Mte kahde (ta useamma) muuttuja tlastollsta aestoa kuvataa? Mtä tarkotetaa kahde tekjä ta muuttuja tlastollsella rppuvuudella ja mte tlastolle rppuvuus eroaa eksaktsta rppuvuudesta? Mtä o korrelaato? Mkä o korrelaato ja rppuvuude suhde? Mte korrelaatot estmodaa? Mte korrelaatota koskeva hpoteeseja testataa? Tämä kappale o johdatoa tämä tlastotedettä kästtelevä mostee osa pääkohteelle, leaarslle regressomallelle. Avasaat: Akasarjadagramm, Artmeette keskarvo, Eksakt rppuvuus, Estmaattor, Estmot, Fsher z-muuos, Järjestskorrelaatokerro, Kedall järjestskorrelaatokerro, Keskhajota, Korrelaato, Korrelaatokerro, Korrelaatokertome vertalutest, Korrelaato testaame, Korrelomattomuude testaame, Kovarass, Keskhajota, Krtte arvo, Luottamustaso, Luottamusväl, Merktsevstaso, Normaaljakauma, Otos, Otostuusluku, p-arvo, Pearso otoskorrelaatokerro, Pstedagramm, Regressoaals, Regressomall, Rppuvuus, Spearma järjestskorrelaatokerro, Test, Test korrelaatokertomelle, Tlastolle rppuvuus, Usea muuttuja havatoaesto kuvaame, Varass Ilkka Mell 4

10 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato 3.. Tlastolle rppuvuus, korrelaato ja regresso Teteellse tutkmukse tärkemmät ja melektosmmat ksmkset lttvät tavallsest tutkmukse kohteea olevaa lmötä kuvaave tekjöde ta muuttuje väls rppuvuuks. Jos tlastollse tutkmukse kohteea olevaa lmöö ltt useampa ku ks muuttuja, hde muuttuja tlastollset meetelmät atavat leesä vars rajottuee kuva lmöstä. Sovelluste kaalta ehkä merkttäv osa tlastotedettä kästteleek kahde ta useamma muuttuja välste rppuvuukse kuvaamsta ja malltamsta. Esmerkk : Rppuvuustarkasteluja. Mte töttömsaste Suomessa (% tövomasta) rppuu BKT: (bruttokasatuottee) kasvuvauhdsta Suomessa, Suome ve volmsta sekä BKT: kasvuvauhdsta mussa EU-massa ja USA:ssa? Mte alkohol kulutus (l per capta vuodessa) rppuu alkoholjuome htatasosta, hmste kätettävssä olevsta tulosta ja alkohol saatavuudesta? Mte todeäköss sarastua keuhkosöpää (p) rppuu tupako määrästä ja kestosta? Mte vehä hehtaarsato (t/ha) rppuu kesä kesklämpötlasta ja sademäärästä sekä maa muokkauksesta, laotuksesta ja tuholaste torjuasta? Mte beto lujuus (kg/cm ) rppuu se kuvumsajasta? Mte kemallse aee saato (%) rppuu valmstusprosessssa kätettävästä lämpötlasta? Tarkastelemme tässä estksessä kskertasuude vuoks va kahde muuttuja välsä rppuvuuksa: () Rppuvuus o eksakta, jos tose muuttuja arvot vodaa eustaa tarkast tose muuttuja saame arvoje perusteella. () Rppuvuus o tlastollsta, jos de välllä e ole eksakta rppuvuutta, mutta tose muuttuja arvoja vodaa kättää apua tose muuttuja arvoje eustamsessa. Kahde muuttuja (leaarsta) tlastollsta rppuvuutta kutsutaa tlastoteteessä tavallsest korrelaatoks. Korrelaato el (leaarse) tlastollse rppuvuude vomakkuutta mttaavaa tlastollsta tuuslukua kutsutaa korrelaatokertomeks. Muuttuje korrelaatot muodostavat perusta muuttuje välste (leaarste) rppuvuukse mmärtämselle. Vakka korrelaatot muodostavat perusta muuttuje välste rppuvuukse mmärtämselle, rppuvuuksa halutaa tavallsest aalsoda mös tarkemm. Regressoaals o tlastolle meetelmä, jossa jok, s. seltettävä muuttuja tlastollsta rppuvuutta jostak tossta, s. selttävstä muuttujsta prtää malltamaa regressomallks kutsutulla tlastollsella malllla; ks. lukua Johdatus regressoaals. Huomautus: Tässä luvussa rajotutaa tarkastelemaa tlastollste rppuvuukse kuvaamsta ja mttaamsta. Ilkka Mell 4

11 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Kute hde muuttuja havatoaestoje tapauksessa, lähtökohda kahde ta useamma muuttuja havatoaestoje kuvaamselle muodostaa tutustume havatoarvoje jakaumaa. Havatoarvoje jakaumaa vodaa kuvalla ja estellä tvstämällä havatoarvoh ssältvä formaato sopvaa muotoo: Havatoarvoje jakaumaa kokoasuutea vodaa kuvata sopvast valtulla graafslla estksllä. Havatoarvoje jakauma karakterstsa omasuuksa vodaa kuvata sopvast valtulla otostuusluvulla. Koska useamp- ku kaksulotteste kuvode prtäme e ole kätäössä mahdollsta, kolme ta useamma muuttuja havatoaestoja havaollstetaa tavallsest, että muuttuja tarkastellaa paretta. Kahde järjests-, välmatka- ta suhdeastekollse muuttuja havattuje arvoje pareja havaollstetaa tavallsest graafsella estksellä, jota kutsutaa pstedagrammks. Huomautus: Momuuttujameetelmssä o kehtett mös sellasa tlastografka meetelmä, jolla vodaa havaollstaa useamp- ku kaksulottesa havatoaestoja. Usea muuttuja havatoaestoje karakterstsa omasuuksa vodaa kuvata muuttujakohtaslla otostuusluvulla. Muuttujakohtaset otostuusluvut evät kutekaa vo ataa formaatota muuttuje välsstä rppuvuukssta. Muuttuje parettasa tlastollsa rppuvuuksa vodaa kuvata sopvast valtulla korrelaato mtalla. Tutkttave muuttuje mtta-astekollset omasuudet ohjaavat korrelaato mta valtaa: Välmatka- ja suhdeastekollslle muuttujlle kätetää tavallsest Pearso korrelaatokerrota. Järjestsastekollslle muuttujlle kätetää tavallsest Spearma ta Kedall järjestskorrelaatokerrota. Satuasmuuttuje välsee korrelaatoo vodaa kohdstaa erlasa tlastollsa testejä. Tässä estksessä tarkastellaa seuraava Pearso korrelaatokertomelle tarkotettuja testejä: Yhde otokse test korrelaatokertomelle Korrelaatokertome vertalutest Test korrelomattomuudelle Lsäks tarkastelemme seuraava Spearma ja Kedall järjestskorrelaatokertomlle tarkotettuja testejä: Testt korrelomattomuudelle 3.. Kahde muuttuja havatoaesto kuvaame Pstedagramm Tarkastellaa tlaetta, jossa tutkmukse kohtea olevsta havatoksköstä o mtattu kahde järjests-, välmatka- ta suhdeastekollse muuttuja x ja arvot. Muuttuje x ja arvoje samaa havatokskköö lttve pare muodostamaa havatoaestoa vodaa kuvata Ilkka Mell 43

12 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato graafsest kuvolla, jota kutsutaa pstedagrammks. Pstedagramm sop ertsest kahde muuttuja välse rppuvuude havaollstamsee ja se o keskee töväle korrelaato- ja regresso-aalsssa. Olkoot ja x, x,, x,,, välmatka- ta suhdeastekollste muuttuje x ja havattuja arvoja. Oletetaa lsäks, että havatoarvot x ja lttvät samaa havatokskköö kaklle =,,,. Havatoarvoje x ja muodostame lukupare (x, ) pstedagramm saadaa esttämällä lukupart (x, ), =,,, psteä avaruudessa. Havaollstus: Kuvo okealla esttää lukupare (x, ) ja (x j, j ) määrtteleme pstede esttämstä tasokoordaatstossa. Huomautus: Kahde ta useamma muuttuja havatoaestoja kaattaa tetst kuvata mös soveltamalla jokasee muuttujaa erksee hde muuttuja havatoaestoje kuvaamsee tarkotettuja väletä; ks. lukua Tlastollste aestoje kuvaame. Esmerkk : Hooke lak. Hooke la mukaa kerrejouse (s. deaaljouse) ptuus rppuu leaarsest jousee rpustetusta paosta x, jollo muuttuje ja x välstä rppuvuutta vodaa kuvata htälöllä = α + β x jossa α = jouse ptuus lma paoa β = s. jousvako Okealla olevassa taulukossa estetää tulokset kokeesta, jossa Hooke la pätevttä tutktt mttaamalla jouse ptuus lma paoa sekä rpustamalla jousee, 4, 6, 8 ja 0 kg: paot. j x (x, ) x j (x j, j ) x Pao (kg) Ptuus (cm) Ilkka Mell 44

13 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Merktää: Kerrejouse ptuude rppuvuus (x, ), jousee rpustetusta paosta =,, 3, 4, 5, jossa x = pao = jouse ptuus, ku paoa o x Okealla oleva pstedagramm havaollstaa koetuloksa graafsest. Ksms: Ovatko koetulokset sopusoussa Hooke la kassa? Tarkastelemme vastausta tähä ksmksee luvussa Johdatus regressoaals ja Pao (kg) Yhde selttäjä leaare regressomall. Esmerkk. Poke ptuude rppuvuus hedä sesä ptuudesta. Peröllsstetee mukaa lapset pervät geeettset omasuutesa vahemmltaa. Ksms: Pertkö se ptuus hedä pojllee? Olkoo havatoaestoa 300: sä-poka-par ptuukse Ise ja poke ptuudet muodostamaa lukupara (x, ), =,,, 300 jossa 85 x = sä ptuus = sä poja ptuus Ks. pstedagramma okealla. Poja ptuude rppuvuus sä ptuudesta e selvästkää ole eksakta: Suullee sama ptuslla sllä ättää oleva vahteleva ptusa poka. Isä ptuus (cm) Kuvosta ähdää kutek se, että lhllä sllä ättää oleva keskmäär lhempä poka ku ptkllä sllä ja vastaavast ptkllä sllä ättää oleva keskmäär ptempä poka ku lhllä sllä. Tällaste tlastollste rppuvuukse aalsomsta leaarste regressomalle avulla tarkastellaa luvussa Johdatus regressoaals ja Yhde selttäjä leaare regressomall. Jouse ptuus (cm) Poja ptuus (cm) Ilkka Mell 45

14 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Esmerkk 3. Keuhkosövä lesde rppuvuus savukkede kulutuksesta. Oko keuhkosöpä lesempää sellasssa massa, jossa tupakodaa paljo? Okealla olevassa taulukossa estetää tedot savukkede kulutuksesta ja keuhkosövä lesdestä 0:ssä maalma maassa. Huomaa, että ku savukkede kulutusta kuvaava suhdeluku o vuodelta 930, keuhkosövä lesttä kuvaava suhdeluku o vuodelta 950. Tämä johtuu tetst stä, että tupakot vo aheuttaa keuhkosövä vasta ptkä altstumsaja jälkee. Havatoaestoa o ss 0 lukupara (x, ), =,,, 0 jossa x = savukkede kulutus per capta maassa vuoa 930 = sarastuvuus keuhkosöpää maassa vuoa 950 Okealla oleva pstedagramm havaollstaa savukkede kulutukse ja keuhkosövä lesde välstä htettä graafsest. Sarastuvuus keuhkosöpää ättää oleva keskmäär korkeampaa sellasssa massa, jossa savukkede kulutus o ollut keskmäärästä suurempaa. Tällaste tlastollste rppuvuukse aalsomsta leaarste regressomalle avulla tarkastellaa luvussa Yhde selttäjä leaare regressomall. Keuhkosöpätapauste lkm per mlj. heklöä 950 Maa Savukkede kulutus (kpl) per capta 930 Keuhkosöpätapauste lkm per mlj. heklöä 950 Islat 0 58 Norja Ruots 30 5 Kaada Taska Itävalta Hollat Svets Suom Eglat Savukkede kulutus ja sarastuvuus keuhkosöpää Svets Hollat Taska Itävalta kaada Ruots Norja Islat Eglat Suom Savukkede kulutus (kpl) per capta 930 Ilkka Mell 46

15 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Esmerkk 4. Beto vetolujuude rppuvuus kuvumsajasta. Kokeessa tutktt beto vetolujuude rppuvuutta beto kuvumsajasta. Havatoaestoa ol lukupara (x, ), =,,, jossa x = betoharko kuvumsaka = betoharko vetolujuus Okealla oleva pstedagramm havaollstaa vetolujuude rppuvuutta kuvumsakaa graafsest. Kuvo perusteella vetolujuude rppuvuus kuvumsajasta ättää oleva epäleaarsta. Tässä tapauksessa muuttuje väle lmee epäleaare rppuvuus vodaa kutek learsoda; ks. lukua Johdatus regressoaals. Learso jälkee rppuvuutta vodaa aalsoda leaarste regressomalle avulla. Akasarjadagramm Oletetaa, että järjests-, välmatka- ta suhdeastekollse muuttuja x havatut arvot x, x,, x muodostavat akasarja. Tällä tarkotetaa stä, että havatoarvot x t, t =,,, o deksotu, että deks vttaa peräkkäs ajahetk, jollo havaot ovat akajärjestksessä. Akasarjadagramm o pstedagramm, joka saadaa esttämällä lukupart (t, x t ), t =,,, psteä avaruudessa. Lsäks peräkkäs ajahetk lttvät psteet (t, x t ) ja (t, x t ), t =, 3,, hdstetää akasarjadagrammssa tavallsest tossa jaolla. Vetolujuus (kg/cm) Beto vetolujuude rppuvuus kuvumsajasta Kuvumsaka (vrk) Ilkka Mell 47

16 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Havaollstus: Kuvo okealla esttää akasarja x t, t =,,, peräkkäste havatoarvoje x x (t, x t ) t x t+ (t+, x t+ ) x t, x t, x t+ määrtteleme pstede esttämstä tasokoordaatstossa. x t (t, x t ) t t t+ Esmerkk 5. Kuukausm arvo kehts. Alla o akasarjadagramm, joka esttää erää tukkukaupa kuukausm arvo vahtelua. Havatoaestoa o 44 lukupara (t, x t ) jossa t = aka (970/-98/) x t = kuukausm arvoa kuvaava deks (960/ = 00) Kuvosta ähdää, että kuukausmssä o ollut Mt 970/-98/ ouseva tred ja selvää 300 kausvahtelua. Tällaste akasarjaaestoje tlastollsessa 50 aalsssa sovelletaa meetelmä, jotka meevät tämä mostee ahealuee 00 ulkopuolelle. Akasarjoje aalsa ja eustamsta kästellää 50 mosteessa Akasarjaaals. Mt (deks) t Ilkka Mell 48

17 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Artmeettset keskarvot Kahde välmatka- ta suhdeastekollse muuttuja havatoarvoje pare muodostamaa jakaumaa vodaa karaktersoda seuraavlla tuusluvulla: Havatoarvoje keskmäärästä sjata kuvataa havatoarvoje artmeettslla keskarvolla. Havatoarvoje hajaatuesuutta ta keskttesttä kuvataa havatoarvoje keskhajoolla ta (otos-) varassella. Havatoarvoje (leaarsta) rppuvuutta kuvataa havatoarvoje otoskovarasslla ja otoskorrelaatokertomella. Olkoot ja x, x,, x,,, välmatka- ta suhdeastekollste muuttuje x ja havattuja arvoja. Oletetaa lsäks, että havatoarvot x ja lttvät samaa havatokskköö kaklle =,,,. Havatoarvoje x, x,, x artmeette keskarvo o x = x = Havatoarvoje,,, artmeette keskarvo o = = Havatoarvoje artmeette keskarvo kuvaa havatoarvoje keskmäärästä sjata. Havatoarvoje paresta (x, ), =,,, laskettuje artmeettste keskarvoje x ja muodostama lukupar ( x, ) o havatoarvoje pare (x, ) määrääme kaksulottese avaruude pstede paopste. Otosvarasst ja otoskeskhajoat Havatoarvoje x, x,, x (otos-) varass o s ( ) x = x x = jossa x o x-havatoarvoje artmeette keskarvo ja havatoarvoje,,, (otos-) varass o s ( ) = = Ilkka Mell 49

18 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato jossa o -havatoarvoje artmeette keskarvo. Havatoarvoje varass mttaa havatoarvoje hajaatuesuutta ta keskttesttä havatoarvoje artmeettse keskarvo suhtee. Havatoarvoje x, x,, x keskhajota o s = s = x x x x = ( ) jossa x o x-havatoarvoje artmeette keskarvo ja havatoarvoje,,, keskhajota o s = s = = ( ) jossa o -havatoarvoje artmeette keskarvo. Havatoarvoje keskhajota mttaa (kute havatoarvoje otosvarass) havatoarvoje hajaatuesuutta ta keskttesttä havatoarvoje artmeettse keskarvo suhtee. Otoskovarass Havatoarvoje paresta (x, ), =,,, laskettu otoskovarass o sx = ( x x)( ) = jossa x = x-havatoarvoje artmeette keskarvo = -havatoarvoje artmeette keskarvo Huomaa, että x- ja -havatoarvoje otoskovarasst de tsesä kassa ovat de varasseja: sxx = sx s = s Otoskovarass s x mttaa x- ja -havatoarvoje htesvahtelua de artmeettste keskarvoje määräämä pstee mpärllä. Mtä suuremp o otoskovarass s x tsesarvo s x stä vomakkaampaa o x- ja -havatoarvoje htesvahtelu. Tarkastellaa otoskovarass s x merk määrätmstä. Otoskovarass merk määrää se oko summalauseke () ( x x)( ) egatve va postve. Todetaa es, että summalausekkee (). term ( x x)( ) tsesarvo x x Ilkka Mell 50

19 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato o sellase suorakatee pta-ala, joka svuje ptuudet ovat x x ja. Summalausekkee (). term ( x x)( ) merkk taas määrät seuraavalla tavalla: jos x x ja ( x x)( ) 0 jos x x ja jos x x ja ( x x)( ) 0 jos x x ja Otoskovarass merk määrätmstä vodaa havaollstaa geometrsest seuraavalla tavalla: () Jaetaa x-taso eljää osaa el eljäeksee pstee ( x, ) () kautta prretllä koordaattakselede suutaslla suorlla. Term ( x x)( ) merk määrää se, mh eljäeksstä havatopste (x, ) sjottuu; ks. alla olevaa kuvaa: ( x x )( ) 0 ( x x )( ) 0 ( x, ) ( x, ) ( x, ) ( x, ) ( x, ) Jos postvset termt summalausekkeesee () ( x x)( ) ( x x )( ) 0 ( x x )( ) 0 tuottave suorakatede hteelaskettu pta-ala o suuremp (peemp) ku egatvset termt tuottave suorakatede hteelaskettu pta-ala, otoskovarass s x merkk o postve (egatve). Ilkka Mell 5

20 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Tästä seuraa se, että otoskovarasslla o tapumus saada postvsa (egatvsa) arvoja, jos havatopstede muodostama psteplv ta -parv ättää ousevalta (laskevalta) okealle srrttäessä; ks. pstedagramm lmee ja Pearso otoskorrelaatokertome htettä havaollstavaa kuvasarjaa tässä kappaleessa. Otoskorrelaato Otoskovarass s x avulla vodaa määrtellä x- ja -havatoarvoje leaarse tlastollse rppuvuude vomakkuude mttar, jota kutsutaa Pearso otoskorrelaatokertomeks. Pearso otoskorrelaatokerro r x saadaa otoskovarasssta s x ormeerausoperaatolla, jossa x- ja -havatoarvoje otoskovarass s x jaetaa x- ja -havatoarvoje keskhajoolla s x ja s. Havatoarvoje paresta (x, ), =,,, laskettu Pearso otoskorrelaatokerro o r x sx = ss x jossa s x = x- ja -havatoarvoje otoskovarass s x = x-havatoarvoje keskhajota s = -havatoarvoje keskhajota Pearso otoskorrelaatokertome kaava vodaa krjottaa mös muotoo r x = = ( x x)( ) ( x x) ( ) = = jossa x = x-havatoarvoje artmeette keskarvo = -havatoarvoje artmeette keskarvo Havatoarvoje paresta (x, ), =,,, lasketulla Pearso otoskorrelaatokertomella r x o seuraavat omasuudet: () r x + () r x = ± jos ja va jos = α +βx, =,,, jossa α ja β 0 ovat reaalsa vakota. () Korrelaatokertomella r x ja kovarasslla s x o aa sama merkk. Otoskorrelaatokertome omasuukse ()-() todstame tapahtuu samalasella tekkalla ku satuasmuuttuje korrelaatokertome omasuukse todstame; ks. mostetta Todeäkösslasketa. Ilkka Mell 5

21 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Pearso otoskorrelaatokerro r x mttaa x- ja -havatoarvoje leaarse tlastollse rppuvuude vomakkuutta: () Jos r x = ± x- ja -havatoarvoje välllä o eksakt el fuktoaale leaare rppuvuus, mkä merktsee stä, että kakk havatopsteet (x, ), =,,, asettuvat samalle suoralle. () Jos r x = 0 x- ja -havatoarvoje välllä e vo olla eksakta leaarsta rppuvuutta. Huomautus: Vakka r x = 0 x- ja -havatoarvoje välllä saattaa olla jopa eksakt epäleaare rppuvuus. Korrelaatokertome merkk ja jopa suuruusluokka (jollak tarkkuudella) vodaa melko helpost oppa arvomaa pstedagrammsta. Alla olevat kuvot havaollstavat kahde muuttuja havattuje arvoje ( = 30) pstedagramm lmee ja korrelaato välstä htettä. r x = 0.8 r x = 0.6 r x = 0.48 r x = 0.43 r x = 0.83 r x = Ilkka Mell 53

22 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Otostuuslukuje laskeme Oletetaa, että haluamme laskea havatoarvoje paresta (x, ), =,,, seuraavat otostuusluvut käs ta kättämällä laskta: () Artmeettset keskarvot: x, () Otosvarasst: s, s x () Keskhajoat: s, s (v) Otoskovarass: s x (v) Korrelaaato: r x x Tällö tarvttavat laskutomtukset o mukavta järjestää alempaa estettävä kaavo muotoo. Määrätää es havatoarvoje summat, elösummat ja tulosumma: Havatoarvoje artmeettset keskarvot, varasst ja kovarass saadaa havatoarvoje summsta, elösummsta ja tulosummasta alla estetllä kaavolla: x = x = = = x = = = = = = s x x s sx = x x = = = Havatoarvoje keskhajoat ja Pearso otoskorrelaatokerro saadaa havatoarvoje varassesta ja kovarasssta alla estetllä kaavolla: s = s s = s r x x x x x x Summa sx = ss x x x x x x x M M M M M M x x x x = = = = = x x Ilkka Mell 54

23 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Esmerkk 6: Otostuuslukuje laskeme. Alla olevassa taulukossa o keotekose kahde muuttuja aesto havatoarvot ( = 6). Tauluko veressä o aestoa kuvaava pstedagramm. x Pstedagramm x Alla olevassa taulukossa o laskettu muuttuje x ja havattuje arvoje summat, elösummat ja tulosumma. x x x Summa Muuttuje x ja havattuje arvoje artmeettset keskarvot, otosvarasst, keskhajoat, otoskovarass ja otoskorrelaato vodaa laskea ästä vdestä summasta. Ste aestoa kuvaavks tuusluvuks saadaa: Artmeettset keskarvot: x = x = 9 = = 6 = = 3 = = Ilkka Mell 55

24 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Otosvarasst: sx = x x = 75 9 = = = 6 6 s = = = 5.67 = = 6 6 Otoskovarass: sx = x x = = = = = 6 6 Otoskeskhajoat: s s x = s = =.639 x = s = 5.67 =.73 Otoskorrelaato: sx rx = = = 0.9 ss x Alla o havatoaestoa kuvaava pstedagramm, joho lsätt havatoarvoje paopste ( x, ) = (4.833,5.333) Lsäks kuvoo o lsätt paopstee kautta kulkevat koordaattakselede suutaset suorat sekä kovarass ja korrelaato merk määrätmstä havaollstavat suorakateet; ks. tässä kappaleessa estettä seltstä kovarass merk määrätmsestä.. Kovarass (ja ste mös korrelaato) Pstedagramm o postve, koska I ja III eljäekse 0 suorakatede hteelaskettu pta-ala o selväst suuremp ku II ja IV eljäek- II I 8 se suorakatede hteelaskettu ptaala ( x, ) III IV x Ilkka Mell 56

25 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato 3.3. Pearso korrelaatokertome estmot ja testaus Tarkastelemme tässä kappaleessa välmatka- ta suhdeastekollste satuasmuuttuje x ja Pearso (tulomomett-) korrelaatokertome ρ x estmota sekä seuraava testejä korrelaatokertomelle ρ x : Yhde otokse test korrelaatokertomelle Korrelaatokertome vertalutest Korrelomattomuude testaame Lsätetoja moulottessta satuasmuuttujsta ja jakaumsta: Ks. mostee Todeäkösslasketa lukuja Moulotteset satuasmuuttujat ja todeäkössjakaumat ja Moulottesa jakauma. Otos kaksulottesesta ormaaljakaumasta Oletetaa, että satuasmuuttuje x ja muodostama par (x, ) oudattaa kaksulottesta ormaaljakaumaa parametre μ, μ, σ, σ, ρ : x x x ( x, ) N ( μx, μ, σx, σ, ρx) Tällö satuasmuuttuje x ja odotusarvot ovat μx = E( x) μ = E( ) satuasmuuttuje x ja varasst ovat σx = Var( x) = E[( x μx) ] σ = Var( ) = E[( μ ) ] satuasmuuttuje kovarass o σ = Cov( x, ) = E[( x μ )( μ )] x x ja satuasmuuttuje korrelaato o σ x ρx = Cor( x, ) = σσ x Korrelaatota ρ x kutsutaa tavallsest Pearso (tulomomett-) korrelaatokertomeks ja se mttaa satuasmuuttuje x ja leaarse rppuvuude vomakkuutta. Olkoot,, K, muuttuja havatut arvot ja x, x, K, x muuttuja x havatut arvot ja oletetaa, että havatoarvoje x ja part (x, ), =,,, Ilkka Mell 57

26 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato muodostavat satuasotokse kaksulottesta ormaaljakaumasta N( μx, μ, σx, σ, ρ x) Tällö ( x, ),( x, ), K,( x, ) x μ μ σ σ ρ (, ) N ( x,, x,, x), =,, K, Kaksulottese ormaaljakauma parametre estmot Kaksulottese ormaaljakauma parametre suurmma uskottavuude estmaattort ta momettestmaattort ovat ˆ μ = x = x ˆ μ = = ˆ σ x = = ( ) ˆ x = x x = sx σ = ( ) = s = = ˆ σ = ( x x)( ) = s ˆ ρ x x = x ˆ σ x sx = = = r ˆ σσˆ ss x x x jossa Otostuusluvut s x x s x = ( ) = ( ) = = s = ( x x)( ) x = ˆ x μ = x ja ˆ μ = ovat x- ja -havatoje artmeettset keskarvot, otostuusluvut ˆ σ = (( ) / ) s ja ˆ σ = (( ) / ) s x x ovat x- ja -havatoje otosvarasst, otostuusluku ˆ σ = (( ) / ) s x o x- ja -havatoje otoskovarass ja otostuusluku ρ = ˆx r x o x- ja -havatoje Pearso otoskorrelaatokerro. Lsäks s x ja s ovat x- ja -havatoje harhattomat otosvarasst. x Ilkka Mell 58

27 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Fsher z-muuos Määrtellää Fsher z-muuos kaavalla + u z = f( u) = log u Sovelletaa Fsher z-muuosta z = f(u) otoskorrelaatokertomee r x : + r x zr = f( rx) = log r x Satuasmuuttuja z r oudattaa suurssa otoksssa approksmatvsest ormaaljakaumaa: jossa z μ σ r a N( z, z) + ρ x μz = f ( ρx) = log ρ x σ z = 3 Approksmaato o kätäössä rttävä hvä, jos > 5. Otoskorrelaatokertome Fsher z-muuokse approksmatvse jakauma avulla luottamusvält ja testt Pearso korrelaatokertomelle ρ XY vodaa kostruoda samalla tekkalla ku luottamusvält ja testt ormaaljakauma odotusarvolle; ks. lukuja Välestmot ja Testejä suhdeastekollslle muuttujlle. Korrelaatokertome luottamusväl Oletetaa, että satuasmuuttuje x ja muodostama järjestett par (x, ) oudattaa kaksulottesta ormaaljakaumaa N( μx, μ, σx, σ, ρ x) Kostruodaa Pearso korrelaatokertomelle ρ XY approksmatve luottamusväl Fsher z- muuokse avulla. Olkoo r x satuasotoksesta (x, ), =,,, määrätt Pearso otoskorrelaatokerro. Valtaa luottamustasoks α Luottamustaso valta kttää todeäkösde, jolla kostruotava luottamusväl pettää Pearso korrelaatokertome ρ XY okea arvo. Määrätää pste +z α/ ste, että se erottaa stadardodu ormaaljakauma N(0,) okealle häälle todeäkössmassa α/. Koska ormaaljakauma o smmetre, pste z α/ Ilkka Mell 59

28 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato erottaa stadardodu ormaaljakauma vasemmalle häälle todeäkössmassa α/. Ste luottamuskertomet +z α/ ja z α/ o määrätää ste, että α Pr( Z + zα /) = α Pr( Z zα /) = jossa satuasmuuttuja Z oudattaa stadardotua ormaaljakaumaa N(0,): Z N(0,) Huomaa, että luottamuskertomet +z α/ ja z α/ toteuttavat ehdo Pr( z Z + z ) = α/ α/ α Sovelletaa Fsher z-muuosta Pearso otoskorrelaatokertomee r x : + r x zr = f( rx) = log r x Edellä estet ojalla z ( μ σ ) N, r a z z jossa + ρ x μz = f ( ρx) = log ρ x σ z = 3 Parametr + ρ log x μz = ρ x (approksmatve) luottamusväl luottamustasolla ( α) o ste muotoa zr zα/, zr + zα/ 3 3 Parametr μ z (approksmatvse) luottamusväl kostruktosta seuraa, että Pr zr zα/ μz zr + zα/ = a α 3 3 Kostruotu luottamusväl pettää parametr μ z okea arvo (approksmatvsest) todeäkösdellä ( α) ja se e petä parametr μ z okeata arvoa (approksmatvsest) todeäkösdellä α. Pearso korrelaatokertome ρ XY (approksmatve) luottamusväl luottamustasolla ( α) saadaa parametr μ Z luottamusvälstä ratkasemalla ρ XY epähtälöketjusta Ilkka Mell 60

29 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato + rx zr zα/ = log zα/ 3 rx 3 + ρ log x μz = ρx + r zr + z = log + z 3 3 x α/ α/ rx Ste Pearso korrelaatokertome ρ x (approksmatvseks) luottamusvälks luottamustasolla ( α) saadaa (lb, ub) jossa o luottamusväl alaraja ja ( α / ) ( α / ) ( + rx ) ( rx ) exp + z 3 lb = ( + r ) + ( r ) exp + z 3 x x ( α / ) ( α / ) ( + rx ) ( rx ) exp z 3 ub = ( + r ) + ( r ) exp z 3 x o luottamusväl läraja. Luottamusväl kostruktosta seuraa, että ( lb ρ ub) Pr = α XY x a Ste kostruotu luottamusväl pettää korrelaatokertome ρ x okea arvo (approksmatvsest) todeäkösdellä ( α) ja se e petä korrelaatokertome ρ x okeata arvoa (approksmatvsest) todeäkösdellä α. Korrelomattomuude testaame Mossa tutkmusasetelmssa ollaa kostueta stä, ovatko satuasmuuttujat x ja korrelotueta va korrelomattoma. Ylee hpotees H : Havatoarvoje x ja part (x, ), =,,, muodostavat satuasotokse kaksulottesta ormaaljakaumasta N( μx, μ, σx, σ, ρ x) Nollahpotees H 0 : H : ρ = 0 0 x Ilkka Mell 6

30 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Vahtoehtoe hpotees H : H: ρx > 0 -suutaset vahtoehtoset hpoteest H: ρx < 0 H : ρ 0 -suutae vahtoehtoe hpotees x Olkoo r x otoksesta (x, ), =,,, määrätt Pearso otoskorrelaatokerro. Määrtellää t-testsuure rx t = r Jos ollahpotees H : ρ = 0 0 x pätee, testsuure t oudattaa t-jakaumaa vapausaste ( ): t t( ) x Testsuuree t ormaalarvo = 0, koska ollahpotees pätessä E(t) = 0 Ste tsesarvoltaa suuret testsuuree t arvot vttaavat she, että ollahpotees H 0 e päde. Test hlkäsaluee ta p-arvo määrääme: ks. lukua Tlastollset testt. Jos test p-arvo o kll pe, ollahpotees H 0 hlätää. Huomautuksa: Satuasmuuttuje x ja rppumattomuudesta seuraa aa de korrelomattomuus. Satuasmuuttuje x ja korrelomattomuudesta e välttämättä seuraa de rppumattomuutta. Jos satuasmuuttujat x ja oudattavat -ulottesta ormaaljakaumaa, satuasmuuttuje x ja korrelomattomuudesta seuraa de rppumattomuus. Korrelomattomuutta testattaessa tovotaa use, että korrelomattomuusoletus tulee testssä hlätks. Ylee test korrelaatokertomelle Tarkastellaa t lestä testä korrelaatokertomelle. Ylee hpotees H : Oletetaa, että havatoarvoje x ja part (x, ), =,,, muodostavat satuasotokse kaksulottesta ormaaljakaumasta μ μ σ σ ρ N( x,, x,, x) Ilkka Mell 6

31 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Nollahpotees H 0 : H : ρ = ρ 0 x 0 Vahtoehtoe hpotees H : H: ρ x 0 H: ρ x 0 H : ρ > ρ < ρ ρ x 0 -suutaset vahtoehtoset hpoteest -suutae vahtoehtoe hpotees Olkoo r x otoksesta (x, ), =,,, määrätt Pearso otoskorrelaatokerro. Sovelletaa Fsher z-muuosta otoskorrelaatokertomee r x : + r x zr = f( rx) = log r x Satuasmuuttuja z r oudattaa suurssa otoksssa approksmatvsest ormaaljakaumaa: jossa z a N( μz, σ z) + ρ x μz = f ( ρx) = log ρ x σ z = 3 Approksmaato o kätäössä rttävä hvä, jos > 5. Muodostetaa testsuure 0 z μz ν = σ jossa ss Jos ollahpotees H : ρ z + r x zr = f( rx) = log r x 0 + ρ 0 μz = f ( ρ0) = log ρ0 σ z = 3 = ρ 0 x 0 pätee, testsuure ν oudattaa suurssa otoksssa approksmatvsest stadardotua ormaaljakaumaa N(0,): v a N(0,) Ilkka Mell 63

32 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Testsuuree ν ormaalarvo = 0, koska ollahpotees pätessä E( ν ) = 0 Ste tsesarvoltaa suuret testsuuree ν arvot vttaavat she, että ollahpotees H 0 e päde. Test hlkäsaluee ta p-arvo määrääme: ks. lukua Tlastollset testt. Jos test p-arvo o kll pe, ollahpotees H 0 hlätää. Korrelaatokertome vertalutest Tarkastellaa korrelaatokertome vertalutestä. Ylee hpotees H : Oletetaa, että kätössä o kaks tosstaa rppumatota satuasotosta kaksulottessta ormaaljakaumsta, jode korrelaatokertomet ovat ρ ja ρ. Nollahpotees H 0 : H 0 :ρ = ρ = ρ0 Vahtoehtoe hpotees H : H: ρ > ρ -suutaset vahtoehtoset hpoteest H: ρ < ρ H : ρ ρ -suutae vahtoehtoe hpotees Olkoot ja otoskoot otoksssa ja sekä r ja r otokssta ja määrätt Pearso otoskorrelaatokertomet. Sovelletaa Fsher z-muuosta otoskorrelaatokertom r ja r : + r k zk = f( rk) = log, k =, rk Jos ollahpotees H 0 :ρ = ρ = ρ0 pätee satuasmuuttujat z k oudattavat suurssa otoksssa approksmatvsest ormaaljakaumaa: jossa z 0 k a N( μz, σ k), k =, 0 + ρ 0 μz = f ( ρ0) = log ρ0 σ k =, k =, 3 k Approksmaato o kätäössä rttävä hvä, jos > 5 ja > 5. Ilkka Mell 64

33 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Muodostetaa testsuure ν = z z jossa ss + r k zk = f( rk) = log, k =, rk Jos ollahpotees H 0 :ρ = ρ = ρ0 pätee, testsuure ν oudattaa suurssa otoksssa approksmatvsest stadardotua ormaaljakaumaa N(0,): v a N(0,) Testsuuree ν ormaalarvo = 0, koska ollahpotees pätessä E( ν ) = 0 Ste tsesarvoltaa suuret testsuuree ν arvot vttaavat she, että ollahpotees H 0 e päde. Test hlkäsaluee ta p-arvo määrääme: ks. lukua Tlastollset testt. Jos test p-arvo o kll pe, ollahpotees H 0 hlätää Järjestskorrelaatokertomet Tarkastellaa korrelaatokertome määrttelemstä ja korrelomattomuude testaamsta järjestsastekollslle muuttujlle. Tarkastelu kohteea ovat seuraavat järjestskorrelaatokertomet: Spearma järjestskorrelaatokerro Kedall järjestskorrelaatokerro Tarkasteltavat järjestskorrelaatokertomet ja testt korrelomattomuudelle sopvat mös välmatkaja suhdeastekollslle muuttujlle. Spearma järjestskorrelaatokerro Spearma järjestskorrelaatokerro ρ S mttaa kahde muuttuja havatoarvoje suuruusjärjestkse hteesopvuutta. Spearma järjestskorrelaatokerro sop järjests-, välmatkaja suhdeastekollslle muuttujlle. Spearma järjestskorrelaatokertomella o samatapaset omasuudet ku Pearso otoskorrelaatokertomella. Olkoot ja x, x,, x,,, järjests-, välmatka- ta suhdeastekollste satuasmuuttuje x ja havattuja arvoja. Oletetaa lsäks, että havaot x ja lttvät samaa havatokskköö kaklle =,,,. Ilkka Mell 65

34 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Järjestetää sekä x- että -muuttuja havatut arvot suuruusjärjestksee pemmästä suurmpaa. Ltetää sekä x- että -muuttuja havattuh arvoh de suuruusjärjestkse mukaset järjestsumerot: R(x ) = havao x järjestsumero parssa R( ) = havao järjestsumero parssa sekä määrtellää erotukset D = R(x ) R( ), =,,, Muuttuje x ja havatulle arvolle vodaa määrtellä järjestskorrelaatokerro erotukse D avulla. Määrtellää Spearma järjestskorrelaatokerro ρ S el Spearma rho kaavalla 6 = ρ S = 3 D Spearma järjestskorrelaatokerro ρ S vodaa laskea mös soveltamalla Pearso otoskorrelaatokertome kaavaa muuttuje x ja havattuje arvoje pareja (x, ) vastaav järjestslukuje el rake pareh (R(x ), R( )) Spearma järjestskorrelaatokertome omasuudet Spearma järjestskorrelaatokertomella ρ S o kakk hvältä korrelaato mtalta vaadttavat omasuudet: () ρ S + () Jos muuttuje x ja havattuje arvoje järjestsumerot ovat jokasessa havatoparssa samat, ρ S = + () Jos muuttuje x ja havattuje arvoje järjestsumerot lttvät tossa täs satuasest, ρ S 0 Jos ρ S = 0, saomme, että muuttujat x ja ovat korrelomattoma. (v) Jos sekä suuret muuttuje x ja järjestsumerot että peet muuttuje x ja järjestsumerot lttvät havatoparessa (x, ) tossa, kertomella ρ S o tapumus saada postvsa arvoja. (v) Jos suuret ja peet muuttuje x ja järjestsumerot lttvät havatoparessa (x, ) tossa, kertomella ρ S o tapumus saada egatvsa arvoja. Ilkka Mell 66

35 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Korrelomattomuude testaame Määrtellää t-testsuure ρs z = ρ S Jos ollahpotees H 0 :Cor( x=, ) 0 pätee, testsuure z oudattaa suurssa otoksssa approksmatvsest stadardotua ormaaljakaumaa N(0,): z a N(0,) Approksmaato o melko hvä jo, ku > 0 ja rttävä lähes kakk tarkotuks, ku > 30. Testsuuree z ormaalarvo = 0, koska ollahpotees H 0 pätessä E(z) = 0 Ste tsesarvoltaa suuret testsuuree z arvot vttaavat she, että ollahpotees H 0 e päde. Test hlkäsaluee ta p-arvo määrääme: ks. lukua Tlastollset testt. Jos test p-arvo o kll pe, ollahpotees H 0 hlätää. Kedall järjestskorrelaatokerro Kedall järjestskorrelaatokerro τ mttaa kahde muuttuja havatoarvoje suuruusjärjestkse hteesopvuutta. Kedall järjestskorrelaatokerro sop järjests-, välmatka- ja suhdeastekollslle muuttujlle. Kedall järjestskorrelaatokertomella o samatapaset omasuudet ku Pearso otoskorrelaatokertomella. Olkoot ja x, x,, x,,, järjests-, välmatka- ta suhdeastekollste satuasmuuttuje x ja havattuja arvoja. Oletetaa lsäks, että havaot x ja lttvät samaa havatokskköö kaklle =,,,. Järjestetää lukupart (x, ) muuttuja x havattuje arvoje mukaa suuruusjärjestksee pemmästä suurmpaa ste, että esmmäseks tulee par, jossa muuttuja x arvo o pe ja vmeseks par, jossa muuttuja x arvo o suur. Kedall järjestskorrelaatokerro perustuu tuuslukuu, joka mttaa muuttuja arvoje epäjärjeststä muuttuja x arvoh ähde. Olkoo (x k, k ) järjestetksee asetetusta paresta umero k. Määrtellää havatoarvoo k lttvät epäjärjestspsteet S kl, l = k +, k +,,, k =,,, seuraavalla tavalla: S kl = +, jos l > k S kl =, jos l < k Ilkka Mell 67

36 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Muuttuja arvoje epäjärjestsmtta S muuttuja x arvoje suhtee määrtellää kaavalla S = k= l= k+ S kl Määrtellää Kedall järjestskorrelaatokerro τ el Kedall tau kaavalla S τ = ( ) Kedall järjestskorrelaatokertome omasuudet Kedall järjestskorrelaatokertomella τ o kakk hvältä korrelaato mtalta vaadttavat omasuudet: () τ + () Jos muuttuje x ja havattuje arvoje järjestsumerot ovat jokasessa havatoparssa samat, τ = + () Jos muuttuje x ja havattuje arvoje järjestsumerot lttvät tossa täs satuasest, τ 0 Jos τ = 0, saotaa, että muuttujat x ja ovat korrelomattoma. (v) Jos sekä suuret muuttuje x ja järjestsumerot että peet muuttuje x ja järjestsumerot lttvät havatoparessa (x, ) tossa, kertomella τ o tapumus saada postvsa arvoja. (v) Jos suuret ja peet muuttuje x ja järjestsumerot lttvät havatoparessa (x, ) tossa, kertomella τ o tapumus saada egatvsa arvoja. Korrelomattomuude testaame Määrtellää testsuure τ z = ( + 5) 9 ( + ) Jos ollahpotees H 0 :Cor( x=, ) 0 pätee, testsuure z oudattaa suurssa otoksssa approksmatvsest stadardotua ormaaljakaumaa N(0,): z a N(0,) Approksmaato o melko hvä jo, ku > 0 ja rttävä lähes kakk tarkotuks, ku > 30. Testsuuree z ormaalarvo = 0, koska ollahpotees H 0 pätessä E(z) = 0 Ilkka Mell 68

37 Tlastollset meetelmät 3. Tlastolle rppuvuus ja korrelaato Ste tsesarvoltaa suuret testsuuree z arvot vttaavat she, että ollahpotees H 0 e päde. Test hlkäsaluee ta p-arvo määrääme: ks. lukua Tlastollset testt. Jos test p-arvo o kll pe, ollahpotees H 0 hlätää. Ilkka Mell 69

38 Tlastollset meetelmät 4. Johdatus regressoaals 4. Johdatus regressoaals 4.. Regressoaals lähtökohdat ja tavotteet 4.. Determstset mallt ja regressoaals 4.3. Regressofuktot ja regressoaals 4.4. Kaksulottese ormaaljakauma regressofuktot 4.5. Regressoaals tehtävät 4.6. Regressomall leaarsuus Regressoaals o (erlase muuelmee ja johdaasee) ehkä ete sovellettu tlastotetee meetelmä. Regressoaals avulla vodaa aalsoda jok tekjä ta muuttuja rppuvuutta tossta tekjöstä ta muuttujsta, ku rppuvuus e ole eksakta vaa tlastollsta. Tämä tapahtuu raketamalla rppuvuutta kuvamaa regressomallks kutsuttu tlastolle mall. Regressomall prk selttämää jok seltettävä tekjä ta muuttuja havattuje arvoje vahtelu jodek selttäve tekjöde ta muuttuje havattuje arvoje vahtelu avulla. Tarkastelemme tässä luvussa regressoaals lähtökohta, tavotteta ja tehtävä. Prmme perustelemaa mös se, mks tässä mosteessa rajotutaa kästtelemää va leaarsa regressomalleja. Avasaat: Approksmot. Determste mall, Ehdolle jakauma, Ehdolle odotusarvo, Ehdolle varass, E-satuasuus, Eustame, Eustevrhe, Epäleaare regressomall, Epäleaarsuus, Estmot, Jääösterm, Kaksulottee ormaaljakauma, Keskelövrhe, Leaare regressomall, Learsot, Leaarsuus, Mall, Mall hvs, Mmot, Multormaaljakauma, Oletus, Otos, Parametr, Pemmä elösumma meetelmä, Rakeeosa, Regressoaals, Regressodagostkka, Regressofukto, Regressomall, Regressosuora, Reuajakauma, Satuae osa, Satuasuus, Seltettävä muuttuja, Selttäjä, Selttäme, Selttävä muuttuja, Sstemaatte osa, Test, Tlastolle mall, Tlastolle rppuvuus, Vrheterm, Yhtesjakauma Ilkka Mell 70

39 Tlastollset meetelmät 4. Johdatus regressoaals 4.. Regressoaals lähtökohdat ja tavotteet Oletetaa, että haluamme selttää jok seltettävä tekjä ta muuttuja havattuje arvoje vahtelu jodek selttäve tekjöde ta muuttuje havattuje arvoje vahtelu avulla. Jos tlastollsest merktsevä osa seltettävä muuttuja havattuje arvoje vahtelusta vodaa selttää selttäve muuttuje havattuje arvoje vahtelu avulla, saomme, että seltettävä muuttuja rppuu tlastollsest selttäjä kätetstä muuttujsta. Regressoaalsssa seltettävä muuttuja rppuvuudelle selttävstä muuttujsta prtää raketamaa regressomallks kutsuttu tlastolle mall. Koska rppuvuukse aalsot o kake teteellse tutkmukse keskee tavote, regressoaals o ete sovellettuja ja tärkempä tlastotetee meetelmä. Regressoaals tavotteet Regressoaals mahdollsa tavotteta: () Seltettävä muuttuja ja selttäve muuttuje tlastollse rppuvuude luotee kuvaame: Mllae o rppuvuude (matemaatte) muoto? Kuka vomakasta rppuvuus o? () Seltettävä muuttuja ja selttäve muuttuje tlastollse rppuvuude luotee selttäme. () Seltettävä muuttuja arvoje eustame selttäve muuttuje arvoje avulla. (v) Seltettävä muuttuja arvoje kotroll kotrollomalla selttäve muuttuje arvoja. Regressomalle luokttelu Regressoaalsssa sovellettavat tlastollset mallt vodaa luoktella usealla er peraatteella. Luokttelu regressomall fuktoaalse muodo mukaa: Leaarset regressomallt Epäleaarset regressomallt Luokttelu regressomall htälöde lukumäärä mukaa: Yhde htälö regressomallt Mohtälömallt Tässä mosteessa kästellää aoastaa leaarsa hde htälö regressomalleja; ks. lukuja Yhde selttäjä leaare regressomall ja Ylee leaare mall. Tämä e kutekaa ole kov vakava rajotus, koska leaarste hde htälö regressomalle sovellusalue o k laaja ku se o. Lsäks leaarste regressomalle teora hvä hallta tekee epäleaars regressomalleh ja mohtälömalleh lttve ertsogelme mmärtämse melko helpoks. O hödllstä tetää, että mös varassaalsssa sovellettavat tlastollset mallt vodaa mmärtää lese leaarse mall erkostapauksks; ks. lukuja Ykssuutae varassaals, Kakssuutae varassaals ja Kolm- ja useampsuutae varassaals. Ilkka Mell 7