031021P Tilastomatematiikka (5 op) viikko 6

Samankaltaiset tiedostot
031021P Tilastomatematiikka (5 op) viikko 6

Regressioanalyysi. Vilkkumaa / Kuusinen 1

Regressioanalyysi. Kuusinen/Heliövaara 1

Mat Tilastollisen analyysin perusteet, kevät 2007

Johdatus regressioanalyysiin. Heliövaara 1

Korrelaatiokertoinen määrittely 165

031021P Tilastomatematiikka (5 op) kertausta 2. vk:een

xi = yi = 586 Korrelaatiokerroin r: SS xy = x i y i ( x i ) ( y i )/n = SS xx = x 2 i ( x i ) 2 /n =

Sovellettu todennäköisyyslaskenta B

ABHELSINKI UNIVERSITY OF TECHNOLOGY

MS-A0204 Differentiaali- ja integraalilaskenta 2 (ELEC2) Luento 7: Pienimmän neliösumman menetelmä ja Newtonin menetelmä.

Koska ovat negatiiviset. Keskihajontoja ei pystytä laskemaan mutta pätee ¾.

Korrelaatiokerroin. Hanna Heikkinen. Matemaattisten tieteiden laitos. 23. toukokuuta 2012

Yhden selittäjän lineaarinen regressiomalli (jatkoa) Ensi viikolla ei pidetä luentoa eikä harjoituksia. Heliövaara 1

HAVAITUT JA ODOTETUT FREKVENSSIT

1. Tilastollinen malli??

Mat Tilastollisen analyysin perusteet, kevät 2007

Tilastollisen analyysin perusteet Luento 7: Lineaarinen regressio

Harjoitus 9: Excel - Tilastollinen analyysi

Aki Taanila YHDEN SELITTÄJÄN REGRESSIO

Tilastollisen analyysin perusteet Luento 8: Lineaarinen regressio, testejä ja luottamusvälejä

Sovellettu todennäköisyyslaskenta B

Tilastollisen analyysin perusteet Luento 9: Moniulotteinen lineaarinen. regressio

Estimointi. Vilkkumaa / Kuusinen 1

FoA5 Tilastollisen analyysin perusteet puheentutkimuksessa. 6. luento. Pertti Palo

Tilastollinen aineisto Luottamusväli

TA7, Ekonometrian johdantokurssi HARJOITUS 4 1 RATKAISUEHDOTUKSET

Todennäköisyyden ominaisuuksia

Väliestimointi (jatkoa) Heliövaara 1

Tilastollisen analyysin perusteet Luento 6: Korrelaatio ja riippuvuus tilastotieteessä

Jos nyt on saatu havaintoarvot Ü ½ Ü Ò niin suurimman uskottavuuden

Testejä suhdeasteikollisille muuttujille

l (φ; y) = l(θ(φ); y) Toinen derivaatta saadaan tulon derivaatan laskusäännöllä Uudelleenparametroidun mallin Fisherin informaatio on

031021P Tilastomatematiikka (5 op) kertausta 2. vk:een

edellyttää valintaa takaisinpanolla Aritmeettinen keskiarvo Jos, ½ Ò muodostavat satunnaisotoksen :n jakaumasta niin Otosvarianssi Ë ¾

Sovellettu todennäköisyyslaskenta B

Tilastollinen testaus. Vilkkumaa / Kuusinen 1

2. Teoriaharjoitukset

Kaksisuuntainen varianssianalyysi. Heliövaara 1

031021P Tilastomatematiikka (5 op) viikko 5

1. Tutkitaan tavallista kahden selittäjän regressiomallia

TUTKIMUSAINEISTON KVANTITATIIVINEN ANALYYSI LTKY012. Timo Törmäkangas

Ilkka Mellin Todennäköisyyslaskenta Osa 3: Todennäköisyysjakaumia Moniulotteisia todennäköisyysjakaumia

MTTTA1 Tilastomenetelmien perusteet 5 op Luento Kokonaisuudet johon opintojakso kuuluu

4.0.2 Kuinka hyvä ennuste on?

Johdatus tilastotieteeseen Estimointi. TKK (c) Ilkka Mellin (2005) 1

MTTTP5, luento Otossuureita ja niiden jakaumia (jatkuu)

Todennäköisyyslaskun kertaus. Vilkkumaa / Kuusinen 1

Todennäköisyyslaskennan ja tilastotieteen peruskurssi Esimerkkikokoelma 3

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2004) 1

Moniulotteisia todennäköisyysjakaumia

1 Rajoittamaton optimointi

MTTTA1 Tilastomenetelmien perusteet 5 op Luento , osa 1. 1 Kokonaisuudet johon opintojakso kuuluu

Estimointi. Estimointi. Estimointi: Mitä opimme? 2/4. Estimointi: Mitä opimme? 1/4. Estimointi: Mitä opimme? 3/4. Estimointi: Mitä opimme?

3.6 Su-estimaattorien asymptotiikka

Ilkka Mellin Tilastolliset menetelmät. Osa 4: Lineaarinen regressioanalyysi. Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2007) 1

Havaitsevan tähtitieteen peruskurssi I. Datan käsittely. Jyri Lehtinen. kevät Helsingin yliopisto, Fysiikan laitos

Johdatus regressioanalyysiin

VALTIOTIETEELLINEN TIEDEKUNTA TILASTOTIETEEN VALINTAKOE Ratkaisut ja arvostelu < X 170

Johdatus todennäköisyyslaskentaan Normaalijakaumasta johdettuja jakaumia. TKK (c) Ilkka Mellin (2005) 1

MTTTP1, luento KERTAUSTA

Osa 2: Otokset, otosjakaumat ja estimointi

Tilastotieteen kertaus. Kuusinen/Heliövaara 1

Dynaamiset regressiomallit

031021P Tilastomatematiikka (5 op) viikko 4

Sovellettu todennäköisyyslaskenta B

Johdatus tilastotieteeseen Yleinen lineaarinen malli. TKK (c) Ilkka Mellin (2004) 1

Tilastollinen päättömyys, kevät 2017 Harjoitus 6B

tilastotieteen kertaus

Kohdeyleisö: toisen vuoden teekkari

Kaksisuuntainen varianssianalyysi. Vilkkumaa / Kuusinen 1

Johdatus varianssianalyysiin. Vilkkumaa / Kuusinen 1

ABHELSINKI UNIVERSITY OF TECHNOLOGY

Mat Sovellettu todennäköisyyslasku A. Moniulotteiset jakaumat. Avainsanat:

Luento 8: Epälineaarinen optimointi

Ilkka Mellin Tilastolliset menetelmät Osa 2: Otokset, otosjakaumat ja estimointi Estimointi

Johdatus todennäköisyyslaskentaan Moniulotteisia todennäköisyysjakaumia. TKK (c) Ilkka Mellin (2005) 1

Numeeriset menetelmät TIEA381. Luento 8. Kirsi Valjus. Jyväskylän yliopisto. Luento 8 () Numeeriset menetelmät / 35

Tekijä Pitkä matematiikka

Aalto-yliopisto, Matematiikan ja systeemianalyysin laitos /Malmivuori MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi,

Testit järjestysasteikollisille muuttujille

MS-A0502 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Sovellettu todennäköisyyslaskenta B

MTTTP1, luento KERTAUSTA

Moniulotteiset satunnaismuuttujat ja jakaumat

Testit laatueroasteikollisille muuttujille

Johdatus tilastotieteeseen Testit suhdeasteikollisille muuttujille. TKK (c) Ilkka Mellin (2005) 1

Sovellettu todennäköisyyslaskenta B

Sovellettu todennäköisyyslaskenta B

Epäyhtälöt ovat yksi matemaatikon voimakkaimmista

Harjoitus 7: NCSS - Tilastollinen analyysi

Yhtälöryhmät 1/6 Sisältö ESITIEDOT: yhtälöt

Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia. Moniulotteisia todennäköisyysjakaumia: Mitä opimme?

Yleistetyistä lineaarisista malleista

Estimointi populaation tuntemattoman parametrin arviointia otossuureen avulla Otossuure satunnaisotoksen avulla määritelty funktio

Lineaarinen toisen kertaluvun yhtälö

Tilastollisen analyysin perusteet Luento 2: Tilastolliset testit

Numeeriset menetelmät

Transkriptio:

031021P Tilastomatematiikka (5 op) viikko 6 Jukka Kemppainen Mathematics Division

Satunnaismuuttujien välinen riippuvuus Kokeellisen tutkimuksen keskeinen tehtävä on selvittää mitattavien muuttujien välisiä yhteyksiä. Tarkastellaan yksinkertaisuuden vuoksi kahta muuttujaa X ja Y. Jos X ja Y ovat riippumattomia, niin toisen arvojen tunteminen ei vaikuta millään tavalla toisen saamiin arvoihin. Riippumattomuuden toisena ääripäänä satunnaismuuttujien välisestä vuorovaikutuksesta on funktionaalinen riippuvuus, jolloin toisen satunnaismuuttujan arvo täysin määrää myös toisen arvon. Erityisen vahva funktionaalinen riippuvuus on lineaarinen riippuvuus, eli Y on muotoa Y = a + bx todennäköisyydellä yksi. Jukka Kemppainen Mathematics Division 2 / 44

Satunnaismuuttujien välinen riippuvuus Yleisessä tapauksessa riippuvuus on jotain edellisten ääripäiden välillä; toisen muuttujan arvon tunteminen vaikuttaa toisen jakautumiseen, mutta ei määrää sen arvoa yksikäsitteisesti. Tällaista riippuvuutta sanotaan stokastiseksi riippuvuudeksi. Jukka Kemppainen Mathematics Division 3 / 44

Esimerkki Esim. 43 Tarkastellaan kahden nopan heittoon liittyviä satunnaismuuttujia X = ensimmäisen nopan pisteluku ; Y = toisen nopan pisteluku ; Z = X + Y; U = parittomien pistelukujen lukumäärä ; V = parillisten pistelukujen lukumäärä. Määrää eri satunnaismuuttujien välisen riippuvuuden luonne. Jukka Kemppainen Mathematics Division 4 / 44

Korrelaatio Käytännössä usein populaatiota koskevat päätelmät joudutaan tekemään osittaisen informaation perusteella, koska koko populaatiota on liian kallista tai mahdotonta tutkia. Tutkitaan miten lineaarisen riippuvuuden voimakkuutta voidaan tutkia kokeellisesti. Jos muuttujia on kaksi, X ja Y, niin niiden saamien arvojen välistä yhteyttä voidaan tutkia pisteparien (x,y) muodostaman sirontakuvion avulla. Jukka Kemppainen Mathematics Division 5 / 44

Sirontakuvioita Kuva : Sirontakuvio Kuva : Sirontakuvio Jukka Kemppainen Mathematics Division 6 / 44

Korrelaatio Oheisista kuvista ensimmäisessä muuttujien välillä näyttäisi vallitsevan lineaarinen riippuvuus, kun taas toisessa muuttujien välillä ei näyttäisi olevan minkäänlaista riippuvuutta. Ensimmäisestä kuviosta nähdään myös, että muuttujien välillä on positiivinen riippuvuus, eli muuttujan x kasvaessa myös muuttuja y kasvaa. Vastaavasti negatiivinen riippuvuus tarkoittaa, että x-arvojen kasvaessa y:n arvot pienenevät. Esitetään seuraavassa lineaariselle riippuvuudelle kvantitatiivinen mittari. Jukka Kemppainen Mathematics Division 7 / 44

Pearsonin tulomomenttikorrelaatiokerroin Olkoon (x 1,...,x n ) otos muuttujasta X ja (y 1,...,y n ) otos muuttujasta Y. Tarkastellaan summaa n (x i x)(y i y), (1) i=1 missä x ja y ovat otoksista lasketut keskiarvot. Mitä (1) kuvaa? Jos poikkeamat x i x ja y i y ovat samanmerkkiset, niin (1)>0. Jos poikkeamat ovat erimerkkiset, niin (1)<0. Jos muuttujien välillä ei ole yhteyttä, niin positiiviset ja negatiiviset poikkeamat kumoavat toisensa, jolloin (1) on lähellä nollaa. Jukka Kemppainen Mathematics Division 8 / 44

Pearsonin tulomomenttikorrelaatiokerroin Kun (1) skaalataan sopivasti, saadaan Määr. 23 Lukua r = 1 n 1 1 n 1 (xi x)(y i y) = (xi x) 2 (yi y) 2 1 n 1 s xy sxx syy, missä s xx = s 2 x, s yy = s 2 y ja s xy = 1 (xi x)(y i y), n 1 sanotaan Pearsonin tulomomenttikorrelaatiokertoimeksi. Jukka Kemppainen Mathematics Division 9 / 44

Ominaisuudet ja tulkinta Kerroin ei riipu mittayksiköiden valinnasta. Kerroin on symmetrinen x:n ja y:n suhteen. Kerroin saa arvoja välillä [ 1, 1]. Jos r on lähellä arvoa +1, on x:n ja y:n välillä huomattava positiivinen riippuvuus. Jos taas r 1, on suureiden välillä huomattava negatiivinen riippuvuus. r = 1 ainoastaan silloin, kun kaikki pisteparit (x i,y i ) ovat jollakin kasvavalla suoralla. Vastaavasti, r = 1 ainoastaan silloin, kun kaikki pisteparit ovat jollakin vähenevällä suoralla. Toisin sanoen, näissä ääritapauksissa vallitsee täydellinen lineaarinen riippuvuus. Jukka Kemppainen Mathematics Division 10 / 44

Ominaisuudet ja tulkinta Kerroin r on ainoastaan suureiden x ja y lineaarisen riippuvuuden mittari. Arvo r 0 ei tarkoita, etteikö suureiden välillä voisi olla riippuvuutta. Muuttujat voivat olla epälineaarisesti riippuvia, vaikka r on lähellä nollaa. Kerroin riippuu havaintojen lukumäärästä. Erityisesti, jos havaintojen määrä on pieni, on r herkkä poikkeaville havainnoille. Jukka Kemppainen Mathematics Division 11 / 44

Kuvia Kuvassa on sirontakuvio ja dataan sovitettu suora. Tässä x:t on peräisin jakaumasta N(5,2.5 2 ) ja muuttujien välillä vallitsee riippuvuus y i = x 2 i +ǫ i, missä ǫ i :t ovat virheitä ja peräisin jakaumasta N(0,0.01 2 ). Korrelaatiokerroin on r = 0.958. Jukka Kemppainen Mathematics Division 12 / 44

Kuvia Kuvassa on sirontakuvio, datapisteiden riippuvuutta kuvaava käyrä ja dataan sovitettu suora. Tässä x:t on peräisin jakaumasta N(5,2.5 2 ) ja muuttujien välillä vallitsee riippuvuus y i = 10x i x 2 i +ǫ i, missä ǫ i :t ovat virheitä ja peräisin jakaumasta N(0,0.01 2 ). Korrelaatiokerroin on r = 0.136. Jukka Kemppainen Mathematics Division 13 / 44

Kuvien tulkinnasta Edellä kuvatuissa esimerkeissä molemmissa muuttujien välillä vallitsi epälineaarinen riippuvuus ja korrelaatiokerroin vaihteli läheltä nollaa lähelle lukua 1. Ensimmäisessä kuvassa x:n kasvaessa myös y kasvoi, jolloin riippuvuutta voitiin kohtuullisen hyvin kuvata suoran avulla. Jälkimmäisessä kuvassa taasen osassa dataa x:n kasvaessa myös y kasvoi, mutta osassa x:n kasvaessa y pieneni, mitkä kumuloituivat niin, että korrelaatiokertoimesta tuli itseisarvoltaan pieni, mikä näkyy hyvin jo pelkästään sirontakuviota katsoessa. Sirontakuviosta voi siis jo alustavasti päätellä jotain muuttujien välisestä riippuvuudesta. Huomaa, että sirontakuvio paljastaa epälineaarisen riippuvuuden myös ensimmäisessä kuvassa. Vaikka laskenta antaakin suuren kertoimen, ei siitä voi päätellä, että riippuvuus olisi lineaarista. Jukka Kemppainen Mathematics Division 14 / 44

Populaation korrelaatiokerroin Korrelaatiokerroin r mittaa muuttujien x ja y lineaarisen riippuvuuden voimakkuuden otoksessa. Koko populaatiolle on olemassa vastaava mittari, jota sanotaan populaation korrelaatiokertoimeksi ja jolle käytetään merkintää ρ. Käytännössä lukua ρ ei useinkaan lasketa eikä sen laskeminen ole välttämättä edes mahdollista, koska emme tiedä satunnaismuuttujien X ja Y, joista otokset on peräisin, tarkkaa jakaumaa koko populaatiossa. On kuitenkin hyvä tietää, että tällainen luku ρ on olemassa, ja on hyvä peilata sen ominaisuuksia kertoimeen r nähden. Jukka Kemppainen Mathematics Division 15 / 44

Populaation korrelaatiokerroin Kertoimella ρ on seuraavat ominaisuudet (vertaa näitä r:n vastaaviin): 1. ρ saa arvoja välillä [ 1, 1], on symmetrinen muuttujien suhteen ja se ei riipu valittavista mittayksiköistä. 2. ρ = ±1 jos ja vain jos muuttujat X ja Y ovat lineaarisesti riippuvia. 3. Jos muuttujat X ja Y ovat ovat riippumattomia, niin ρ = ρ(x, Y) = 0. Käänteinen väite ei pidä paikkansa! Jukka Kemppainen Mathematics Division 16 / 44

Korrelaatio ja kausaatio Korrelaatiokerroin mittaa lineaarisen riippuvuuden astetta, mutta riippuvuudesta ei seuraa kausaatio. Muuttujilla voi usein olla voimakas korrelaatio, muttei sen vuoksi, että toinen olisi toisen seuraus, vaan sen vuoksi, että muuttujilla on voimakas riippuvuus johonkin muuhun muuttujaan. Esimerkiksi jäätelönsyönnin ja hukkumiskuolemien välillä vallinnee voimakas korrelaatio, mutta tuskin jäätelönsyönti on potentiaalinen syy hukkumiselle. Voimakkaan riippuvuuden selittänee molempien yhteys säähän. Mitä parempi sää, sitä enemmän jäätelöä syödään ja ollaan vesillä, jolloin myös hukkumisen riski kasvaa. Jukka Kemppainen Mathematics Division 17 / 44

Korrelaatio Saadaksemme paremman käsityksen siitä, mitä osaamme sanoa muuttujien välisestä riippuvuudesta pelkästään sirontakuvion perusteella, tarkastellaan seuraavaa esimerkkiä. Esim. 44 Pelataan hyvin vuoksi muutama kierros peliä Guess The Correlation osoitteessa http://guessthecorrelation.com/ Jukka Kemppainen Mathematics Division 18 / 44

Regressiosuora ja PNS-menetelmä Yritetään muodostaa matemaattinen malli muuttujien välisen riippuvuuden kuvaamiseksi. Vaikka tällä kurssilla käsitellään ainoastaan lineaarista mallia, voidaan tässä kuvattu menetelmä yleistää myös epälineaariseen tapaukseen. Pyritään määräämään kertoimet a ja b niin, että malli y = a + bx kuvaa mahdollisimman hyvin x:n ja y:n välistä riippuvuutta sopivassa mielessä. Suoraa y = a + bx sanotaan regressiosuoraksi. Määrätään kertoimet pienimmän neliösumman (PNS) menetelmällä. Tarkastellaan havaintojen y i poikkeamia suorasta neliösumman avulla: f(a,b) := n (y i (a+bx i )) 2 = (y 1 a bx 1 ) 2 + +(y n a bx n ) 2. i=1 Jukka Kemppainen Mathematics Division 19 / 44

Kuva y (x 2,y 2 ) d 2 d 4 d 3 (x 4,y 4 ) d 1 (x 3,y 3 ) (x 1,y 1 ) (x 5,y 5 ) d 5 y = a+ bx x Jukka Kemppainen Mathematics Division 20 / 44

Kuva PNS-menetelmässä minimoidaan siis etäisyyksien neliöiden summaa n f(a,b) = di 2, missä i=1 d i = y i a bx i on pisteen (x i,y i ) y-akselin suuntainen etäisyys suorasta y = a+bx. Jukka Kemppainen Mathematics Division 21 / 44

PNS-menetelmä Yllä f on muuttujien a ja b funktio. Neliösumman minimi löytyy funktion f osittaisderivaattojen nollakohdista: ( xi ) b+na = yi, ( x 2 i ) b+ ( xi ) a = xi y i. Yhtälöparin ratkaisuksi saadaan b = s xy s xx ja a = y bx. (2) Määr. 24 Pistepareille (x 1,y 1 ),...,(x n,y n ) laskettu regressiosuora on y = a+bx, missä a ja b saadaan yhtälöistä (2). Jukka Kemppainen Mathematics Division 22 / 44

Regressiosuora Regressiosuora kirjoitetaan usein muodossa ŷ = a+bx, missä ŷ tarkoittaa, että ŷ on y:n ennuste annetulla x. Nimitys regressio tulee siitä, että ennuste ŷ poikkeaa keskihajonnan mielessä vähemmän keskiarvosta y kuin x poikkeaa x:stä. Voidaan nimittäin osoittaa, että jos x x = s x, niin ŷ y = r s y eli suhteellinen poikkeama pienenee kertoimella r. Tämän havaitsi ensimmäisenä Sir Francis Galton ja ilmiö on nimeltään regressio keskiarvoa kohti. Aiemmissa kuvissa mainittu dataan sovitettu suora oli nimenomaan regressiosuora, joka oli piirretty kuviin punaisella. Jukka Kemppainen Mathematics Division 23 / 44

Selitysaste Suuretta y kutsutaan usein selitettäväksi suureeksi ja suuretta x selittäväksi suureeksi. Selitysaste on mittari, joka kuvaa kuinka hyvin malli on sopusoinnussa havaintojen kanssa. Summaa s Res = (y i ŷ i ) 2 sanotaan residuaalisummaksi tai jäännössummaksi, jota ei voi selittää x:n vaihtelulla. Huomaa, että PNS-menetelmässä tämä suure minimoitiin. Voidaan osoittaa, että r 2 = 1 s Res (n 1)s yy, mistä nähdään, että mitä pienempi s Res on, sitä suurempi on r 2. Jukka Kemppainen Mathematics Division 24 / 44

Selitysaste Niinpä sopivaksi mittariksi voidaan valita Määr. 25 Korrelaatiokertoimen neliötä r 2 sanotaan mallin selitysasteeksi. Jos esimerkiksi r = 0.6, on r 2 = 0.36 eli 36% y-havaintojen kokonaisvaihtelusta voidaan selittää lineaarisesti x:n vaihteluilla. Usein käytetään seuraavaa luokittelua: jos r 0.5, on selitysaste heikko; jos 0.5 < r 0.8, on selitysaste kohtalainen; jos r > 0.8, on selitysaste vahva. Jukka Kemppainen Mathematics Division 25 / 44

Esimerkki Esim. 45 Tarkastellaan dataa x i 0.815 0.906 0.127 0.913 0.632 0.098 0.278 y i 0.663 0.810 0.027 0.825 0.383 0.036 0.086 x i 0.547 0.958 0.965 y i 0.316 0.906 0.935 Laske korrelaatiokerroin ja määrää selitysaste. Määrää havaintoja vastaava regressiosuora. Jukka Kemppainen Mathematics Division 26 / 44

Kuva Kuvassa on edellisen esimerkin sirontakuvio, datapisteiden riippuvuutta kuvaava käyrä ja dataan sovitettu suora. Tässä x:t on peräisin jakaumasta Tas(0,1) ja muuttujien välillä vallitsee riippuvuus y i = x 2 i +ǫ i, missä ǫ i :t ovat virheitä ja peräisin jakaumasta N(0,0.01 2 ). Jukka Kemppainen Mathematics Division 27 / 44

Pisteittäiset residuaalit Kuvaan on piirretty edellisen esimerkin pisteittäiset residuaalit (x i,y i ŷ i ). Joskus on hyödyllistä tarkastella residuaaleja sovituksen jälkeen, jolloin nähdään miten virheet ovat jakaantuneet eri havaintopisteissä. Kuva viittaa selvästi käyräviivaiseen riippuvuuteen suureiden välillä. Jukka Kemppainen Mathematics Division 28 / 44

Esimerkki Esim. 46 Tutkittiin glukoosikonsentraation y [g/l] vaikutusta erään maltaan käymisaikaan x [vrk] ja saatiin seuraava taulukko x i 1 2 3 4 5 6 7 8 y i 74 54 52 51 52 53 58 71 Määrää korrelaatiokerroin ja selitysaste. Jukka Kemppainen Mathematics Division 29 / 44

Kuva Kuvaan on piirretty edellisen esimerkin sirontakuvio, regressiosuora ja PNS-menetelmällä laskettu neliöllinen sovitus ŷ = ax 2 + bx + c. Kuten jo sirontakuviosta nähdään, on lineaarinen sovitus järjetön tässä tapauksessa. Sama asia todettiin laskemalla r 2 9.1 10 5. Neliöllisen sovituksen selitysasteeksi saadaan 89.5%. Jukka Kemppainen Mathematics Division 30 / 44

Käyräviivainen regressio Edellä tarkasteltua PNS-menetelmää voidaan hyödyntää sellaisenaan myös tapauksessa, jossa suureiden x ja y välillä on käyräviivainen riippuvuus. Jos kyseessä on vaikkapa polynomiaalinen riippuvuus kuten esimerkkiin 46 liittyvässä kuvassa mainittiin, haetaan kuten edellä havainnoille y i mahdollisimman hyvää ennustetta ŷ i = c 0 + c 1 x i + c 2 x 2 i + +c m x m i (3) määräämällä kertoimet c 0,...,c n niin, että neliösumma f(c 0,c 1,...,c m ) = n (y i ŷ i ) 2 minimoituu. Tällöinkin puhutaan itse asiassa lineaarisesta regressiosta, sillä (3) on lineaarinen estimoitavien parametrien c 0,...,c m suhteen. Jukka Kemppainen Mathematics Division 31 / 44 i=1

Käyräviivainen regressio Edellä esitetyt mallit voidaan kirjoittaa yksinkertaisesti muodossa ŷ i = g(x i ;c), (4) missä g on jokin funktio, joka riippuu parametrivektorista c = (c 0,c 1,...,c m ) T. Funktion g riippuvuus c:stä voi olla myös epälineaarista, mutta myös tällöin c:lle voidaan hakea parasta mahdollista estimaattia minimoimalla neliösumma n f(β) = (y i ŷ i ) 2. i=1 Saatavaa yhtälöryhmää ei välttämättä pysty ratkaisemaan analyyttisesti, jolloin c:lle joudutaan hakemaan likimääräistä ratkaisua numeerisesti jollakin iteratiivisella laskentamenetelmällä. Käytettyjä menetelmiä ovat mm. Gauss-Newtonin algoritmi tai Levenberg-Marquardt n algoritmi. Jukka Kemppainen Mathematics Division 32 / 44

Useampiulotteinen regressio Huomaa, että Määritelmän 24 antama malli voidaan kirjoittaa muodossa ŷ i = (1,x i ) (a,b), i = 1,...,n, missä on pistetulo, tai yhtälailla matriisimuodossa ^y = Xc, missä ^y = (ŷ 1,...,ŷ n ) T, c = (a,b) T ja ( 1 1... 1 X = x 1 x 2... x n ) T. (5) Tämä antaa aiheen otaksua, että yleinen lineaarinen malli olisi kirjoitettavissa matriisimuodossa. Jukka Kemppainen Mathematics Division 33 / 44

Useampiulotteinen regressio Näin on asian laita. Olkoon (y 1,...,y n ) otos Y :stä. Haetaan havainnoille y k muuttujista x 1,x 2,...,x m riippuvaa ennustetta ŷ k kaavan ŷ k = c 0 + c 1 x k,1 + c 2 x k,2 + +c m x k,m, k = 1,...,n, mukaisesti, missä x k,i on k:s havainto muuttujasta x i. Tällöin malli voidaan kirjoittaa matriisimuodossa ^y = Xc, (6) missä ^y = (ŷ 1,ŷ 2,...,ŷ n ) T, c = (c 0,c 1,...,c m ) T ja X on n (m+ 1)-matriisi, joka on kaavassa (5) esiintyvää muotoa luonnollisin lisäyksin. Parametrivektorille c voidaan hakea PNS-estimaattia aivan kuten edellä. Jukka Kemppainen Mathematics Division 34 / 44

Tilastollinen regressiomalli Huomaa, että emme edellä olettaneet mitään muuttujien x ja y taustalla olevista jakaumista. Se ei ollut edellä tarpeen, mutta toisaalta emme edellä myöskään sanoneet mitään saamamme mallin tarkkuudesta selitysastetta lukuun ottamatta. Mikäli haluamme tietää jotain laskemiemme kertoimien a ja b sekä ennusteen ŷ = a + bx tarkkuudesta, meillä täytyy olettaa jotain virheen y ŷ jakaumasta. Jälleen kerran kuvaan astuu normaalijakauma. Oletetaan, että havainnot x i ja y i ovat muuttujien X i ja Y i realisaatioita ja että näiden välillä on yhteys Y i = α+βx i +ǫ i (7) annetulla X i = x i, missä ǫ i N(0,σ 2 ) ovat riippumattomia sm:ia ja α,β ovat todelliset regressiokertoimet. Jukka Kemppainen Mathematics Division 35 / 44

Tilastollinen regressiomalli Kaava (7) on tilastollinen regressiomalli muuttujien X i ja Y i välillä. Huomaa, että malli on lineaarinen parametrien α ja β suhteen. Huomaa lisäksi, että kun x i on annettu, niin E(Y i ) = α+βx i ja Var(Y i ) = σ 2. Niinpä Y i N(α+βx i,σ 2 ) oletuksen ǫ i N(0,σ 2 ) nojalla. Kiinnostavia kysymyksiä voisivat olla: parametrien α, β luottamusvälin määrääminen, mikä kuvaa laskettujen parametrien tarkkuutta, hypoteesien H 0 : β = 0 vastaan H 1 : β 0 testaus, eli riippuuko E(Y) lineaarisesti x:stä, ennusteen ŷ luottamusvälin määrääminen. Jukka Kemppainen Mathematics Division 36 / 44

Kertoimien luottamusvälin määrääminen Tarkastellaan nyt lähemmin regressiosuoran parametrien tarkkuuden tilastollista analysointia laskemalla parametrien luottamusvälit. Rajoitutaan tarkemmin kulmakertoimen luottamusvälin määräämiseen, sillä se on usein käytännössä kiinnostavampi kerroin. Leikkauspisteen α luottamusväli voidaan määrätä vastaavalla tavalla. Luottamusvälin määrääminen noudattelee normaalia menettelytapaa: Etsitään parametrille sopiva estimaattori, jonka pitää olla otossuure. Käytetään sopivaa taulukkoa kynnysarvon etsimiseen. Lasketaan testimuuttujan arvo otoksessa ja lasketaan luottamusväli. Jukka Kemppainen Mathematics Division 37 / 44

Kulmakertoimen luottamusväli Aiemmin todettiin, että pienimmän neliösumman mielessä regressiosuoran kulmakerroin on paras mahdollinen estimaatti, joten hyvä arvaus estimaattoriksi on β = S xy s xx = n i=1 (x i x)(y i Y) n i=1 (x i x) 2. (8) Kaikki on kunnossa, jos kaavalla (8) määritellyn estimaattorin jakautumislaki tunnetaan. Mutta näin on asian laita! Lause 23 Jos sm:t Y i N(α+βx i,σ 2 ) ovat riippumattomia ja kaikki x i :t eivät ole yhtä suuria, niin kaavalla (8) määritelty muuttuja noudattaa normaalijakaumaa, ( β σ 2 ) N β, n i=1 (x i x) 2. Jukka Kemppainen Mathematics Division 38 / 44

Kulmakertoimen luottamusväli Normeeraamalla muuttuja β, saadaan Lauseesta 23 Z = β β σ 2 n i=1 (x i x) 2 N(0,1). (9) Ainoa ongelma on, että kaavan (9) muuttuja Z sisältää myös tuntemattoman parametrin σ. Mutta ei hätää, menetellään tässäkin normaaliin tapaan ja korvataan tuntematon σ sille sopivalla estimaattorilla. Suurimman uskottavuuden (ML-)menetelmällä parametrin σ 2 estimaatiksi saataisiin ˆσ 2 = 1 n (y i α βx i ) 2. (10) n i=1 Ongelmana nyt on, että estimaatti sisältää kaksi tuntematonta parametria α ja β, jotka täytyy estimoida. Jukka Kemppainen Mathematics Division 39 / 44

Kulmakertoimen luottamusväli Kun parametreja estimoidaan, saadaan uusia yhtälöitä muuttujien Y i välille, joten vapausasteet vähenevät. Niinpä neliösumman 10 vapausasteiden lukumäärä on n 2, joten estimaattoriksi valitaan S 2 r = 1 n 2 n (Y i α β x i ) 2, (11) i=1 jota sanotaan jäännösvarianssiksi. Edellisen perusteella hajonnan sopiva estimaattori on jäännöshajonta S r, ja saadaan Lause 24 Olkoot x i ja Y i kuten Lauseessa 23. Tällöin T = β β S r / n i=1 (x i x) = β β n 1s x t n 2. 2 S r Jukka Kemppainen Mathematics Division 40 / 44

Kulmakertoimen luottamusväli Huomautus 12 Kaava (11) sisältää myös vakiokertoimen estimaattorin α, josta emme ole puhuneet mitään. Meille riittää kuitenkin ainoastaan sen otoksessa saaman arvon tunteminen. Jäännösvarianssin otoksessa saama arvo on s 2 r = 1 n 2 n (y i ˆα ˆβx i ) 2 = 1 n 2 i=1 n (y i a bx i ) 2, missä hatutetut symbolit ovat sm:ien α ja β otoksessa saamat arvot, jotka eivät ole mitään muuta kuin Määritelmän 24 regressiosuoran kertoimet a ja b. i=1 Jukka Kemppainen Mathematics Division 41 / 44

Kulmakertoimen testaus Kulmakertoimen tilastollinen testaus tapahtuu normaaliin tapaan, sillä edellä johdettiin kulmakertoimelle sopiva estimaattori, jonka jakaantumislaki tunnettiin. Huomionarvoista on se, että kulmakerrointa voidaan käyttää myös edellä mainitun populaation korrelaatiokertoimen ρ testaamiseen. Huomio perustuu kulmakertoimen ja korrelaatiokertoimen väliseen yhteyteen s xy sxx r = = sxy sxx = b. sxx syy syy s xx s yy Niinpä hypoteesit H 0 : ρ = 0 ja H 0 : β = 0 vastaavat toisiaan, eli tilastollisesti muuttujien x ja y välillä on lineaarinen riippuvuus täsmälleen silloin, kun β 0. Jukka Kemppainen Mathematics Division 42 / 44

Kulmakertoimen testaus Kulmakertoimen testaus menee siis samaa rataa kuin aiemminkin, eli Valitaan riskitaso α, Muotoillaan nollahypoteesi H 0 ja sille vastahypoteesi H 1, Valitaan testimuuttujaksi Lauseen 24 t-jakautunut muuttuja vapausasteilla n 2, Luetaan kynnysarvo t-jakauman taulukosta, Lasketaan testimuuttujan arvo otoksessa, Tehdään johtopäätös. Jukka Kemppainen Mathematics Division 43 / 44

Esimerkki Tarkastellaan havainnollistavaa esimerkkiä. Esim. 47 Tutkitaan paperin ominaispainon X [kg/m 3 ] ja puhkeamislujuuden Y [m 2 ] välistä yhteyttä. Sitä varten kerättiin havaintoaineisto x 764 757 769 759 753 764 787 793 771 790 y 54.5 52.0 58.0 60.5 53.0 55.0 59.0 67.0 61.5 65.5 (a) Miten ominaispaino mielestäsi vaikuttaa lujuuteen? (b) Piirrä havaintoja vastaava sirontakuvio ja määrää havaintoja vastaava regressiosuora. (c) Laske korrelaatiokerroin ja lineaarisen mallin selitysaste. (d) Laske regressiosuoran kulmakertoimen 95% luottamuväli. (e) Testaa riskitasolla α = 5%, onko muuttujien X ja Y välillä lineaarista riippuvuutta. Jukka Kemppainen Mathematics Division 44 / 44