Tilastollisen analyysin perusteet Luento 3: Epäparametriset tilastolliset testit

Transkriptio

1 Tilastollisen analyysin perusteet Luento 3: Epäparametriset tilastolliset testit s t ja t kahden

2 Sisältö t ja t t ja t kahden kahden

3 t ja t kahden

4 t ja t Tällä luennolla käsitellään epäparametrisia eli jakaumasta riippumattomia tilastollisia testejä. kahden

5 t ja t t ja t kahden

6 t ja t t ja t t ja t sopivat järjestysasteikollisille (esim. kouluarvosanat) muuttujille. Niitä voidaan kuitenkin käyttää myös jatkuville kvantitatiivisille muuttujille. en ja en etuna on, että niiden käyttö ei edellytä vahvoja jakaumaoletuksia. kahden

7 t ja t kahden

8 Yhden merkkitesti Yhden merkkitesti vastaa yhden t testiä ilman oletuksia perusjoukon jakauman tyypistä. Olkoot x 1, x 2,..., x n jatkuvan satunnaismuuttujan x havaitut arvot. Oletetaan, että havaintopisteet ovat riippumattomia ja tulevat (tuntemattomasta) jakaumasta, jonka mediaani m. Nollahypoteesi mediaanille H 0 : m = m 0. t ja t kahden Mahdolliset vaihtoehtoiset hypoteesit: H 1 : m > m 0 (yksisuuntainen), H 1 : m < m 0 (yksisuuntainen) tai H 1 : m m 0 (kaksisuuntainen).

9 Yhden merkkitesti Muodostetaan erotukset d i = x i m 0, i = 1, 2,..., n. Testisuure S on niiden tapausten lukumäärä, joilla d i > 0. (Vaihtoehtoisesti voidaan tarkastella niiden tapausten lukumäärä, joilla d i < 0. ) Jos nollahypoteesi pätee, niin testisuure noudattaa binomijakaumaa parametrein n ja 1/2. Testisuureen normaaliarvo on 1 2 n, ja sen varianssi on 1 4 n. Suuret ja pienet testisuureen arvot (verrattuna normaaliarvoon 1 2n) viittaavat siihen, että nollahypoteesi H 0 ei päde. Nollahypoteesi H 0 hylätään, jos p arvo on kyllin pieni. t ja t kahden

10 Yhden merkkitesti, p arvot Testisuureen S jakauma on taulukoitu ja monet tietokoneohjelmat laskevat testin p arvoja. n p arvot määritetään seuraavilla kaavoilla, joissa s on testisuureen S havaittu arvo: Jos vaihtoehtoinen hypoteesi H 1 : m > m 0, niin testin p arvo on p = P(S s). Jos vaihtoehtoinen hypoteesi H 1 : m < m 0, niin testin p arvo on p = P(S s). Jos vaihtoehtoinen hypoteesi H 1 : m m 0, niin testin p arvo on p = 2 min{p(s s), P(S s)}. Edellä P(S s) ja P(S s) lasketaan luonnollisestikin nollahypoteesin vallitessa. t ja t kahden

11 Yhden asymptoottinen merkkitesti t ja t Kun otoskoko on suuri, testisuure Z = S n/2 noudattaa n/4 nollahypoteesin vallitessa likimain standardinormaalijakaumaa. Approksimaatio on tavallisesti riittävän hyvä, jos n > 20. Pienissä otoksissa nojataan testisuureen S tarkkaan jakaumaan. kahden

12 Yhden merkkitesti Oletimme edellä, että otos on jatkuvasta jakaumasta. ä voidaan käyttää myös silloin kun otos on diskreetistä jakaumasta, mutta tällöin on mahdollista, että osalle otospisteistä d i = x i m 0 = 0. Jos nollien lukumäärä on pieni otoskokoon nähden, niin nämä tapaukset voidaan jättää huomioimatta ja otoskokoa voidaan pienentää vastaavasti. Muussa tapauksessa nollat tulee määrittää siten, että ne vaikeuttavat nollahypoteesin hylkäystä. Esim. kaksisuuntaisen vaihtoehtoisen hypoteesin tapauksessa tulos 3 negatiivista merkkiä, 15 positiivista merkkiä ja 6 nollaa, tulisi testissä käsitellä kuten 9 negatiivista merkkiä ja 15 positiivista merkkiä. t ja t kahden

13 parivertailuille, testausasetelma t ja t Parivertailuilun testausasetelma Havainnot muodostuvat muuttujaa x koskevista mittaustuloksien pareista (x i1, x i2 ), i = 1, 2,..., n jotka ovat toisistaan riippumattomia. Yhden mittausparin arvoja ei kuitenkaan oleteta riippumattomiksi! Muodostetaan mittaustuloksien x i1 ja x i2 nollasta eroavat erotukset d i = x i1 x i2, i = 1, 2,..., k. kahden

14 parivertailuille t ja t Yleinen hypoteesi H: erotukset d i ovat riippumattomia, samoin jakautuneita ja tulevat jakaumasta jonka mediaani on m. Nollahypoteesi mediaanille H 0 : m = 0. Mahdolliset vaihtoehtoiset hypoteesit: H 1 : m > 0 (yksisuuntainen), H 1 : m < 0 (yksisuuntainen) tai H 1 : m 0 (kaksisuuntainen). Nyt voidaan käyttää tavanomaista yhden merkkitestiä mittaustuloksien erotuksille d i. kahden

15 Numeerinen esimerkki t ja t Eräässä kuvitteellisessa hoitokokeessa tutkitaan, kuinka lääke a alentaa plasman galliapitoisuutta. Plasman korkea galliapitoisuus on yhteydessä moniin sairauksiin. Kokeen alussa mitattiin galliapitoisuus ensimmäisen kerran ja toisen kerran 8 viikon lääkehoidon jälkeen. Haluat tutkia onko lääkkeellä ollut haluttua vaikutusta 5% luottamustasolla. kahden

16 Mittaustulokset Taulukko: Galliapitoisuudet (µg/1000ml) ennen ja hoidon jälkeen. Potilas Pitoisuus Erotus Ennen Jälkeen t ja t kahden

17 t testi t ja t One Sample t-test data: Erotus t = , df = 12, p-value = alternative hypothesis: true mean is less than 0 sample estimates: mean of x = 210 kahden

18 t ja t One-sample Sign-Test data: Erotus s = 3, p-value = alternative hypothesis: true median is less than 0 sample estimates: median of x = -10 kahden

19 t ja t Vertaile testien antamia tuloksia. Kumpikaan testeistä ei yksinään anna hyvää kuvaa lääkityksen a vaikutuksesta? Miksi? Miten lääke näyttäisi tämän aineiston perusteella vaikuttavan? kahden

20 t ja t kahden

21 Yhden Yhden merkillinen vastaa yhden t testiä vähemmillä jakaumaoletuksilla. Olkoot x 1, x 2,..., x n jatkuvan symmetrisen satunnaismuuttujan x havaitut arvot. Oletetaan, että havaintopisteet ovat riippumattomia ja tulevat (tuntemattomasta) symmetrisestä jakaumasta, jonka mediaani m. t ja t kahden Nollahypoteesi mediaanille H 0 : m = m 0. Mahdolliset vaihtoehtoiset hypoteesit: H 1 : m > m 0 (yksisuuntainen), H 1 : m < m 0 (yksisuuntainen) tai H 1 : m m 0 (kaksisuuntainen).

22 Yhden Muodostetaan erotusten itseisarvot d i = x i m 0, i = 1, 2,..., n. Laitetaan nämä erotusten itseisarvot järjestykseen pienimmästä suurimpaan. Määritetään merkilliset järjestysluvut (signed ranks) R (x i ) s.e. R (x i ) on itseisarvon d i = x i m 0 järjestysluku kerrottuna erotuksen (x i m 0 ) merkillä. Testisuure W = R (x i )>0 R (x i ) on positiivisten järjestyslukujen summa. (Vaihtoehtoisesti voidaan tarkastella negatiivisten järjestyslukujen summaa.) Testisuureen normaaliarvo on n(n+1) 4, ja sen varianssi on n(n+1)(2n+1) 24. Suuret ja pienet testisuureen arvot (verrattuna normaaliarvoon n(n+1) 4 ) viittaavat siihen, että nollahypoteesi H 0 ei päde. Nollahypoteesi H 0 hylätään, jos p arvo on kyllin pieni. t ja t kahden

23 Yhden, p arvot Testisuureen W jakauma on taulukoitu ja monet tietokoneohjelmat laskevat testin p arvoja. n p arvot määritetään seuraavilla kaavoilla, joissa w on testisuureen W havaittu arvo: Jos vaihtoehtoinen hypoteesi H 1 : m > m 0, niin testin p arvo on p = P(W w ). Jos vaihtoehtoinen hypoteesi H 1 : m < m 0, niin testin p arvo on p = P(W w ). Jos vaihtoehtoinen hypoteesi H 1 : m m 0, niin testin p arvo on p = 2 min{p(w w ), P(W w )}. Edellä P(W w ) ja P(W w ) lasketaan nollahypoteesin vallitessa. t ja t kahden

24 Yhden asymptoottinen t ja t Kun otoskoko on suuri, testisuure Z = W E(W ), missä var(w ) E(W ) = n(n+1) 4 ja var(w ) = n(n+1)(2n+1) 24, noudattaa nollahypoteesin vallitessa likimain standardinormaalijakaumaa. kahden Approksimaatio on tavallisesti riittävän hyvä, jos n > 20. Pienissä otoksissa nojataan testisuureen W tarkkaan jakaumaan.

25 Yhden Oletimme edellä, että otos on jatkuvasta jakaumasta. ä voidaan käyttää myös silloin kun otos on diskreetistä jakaumasta, mutta tällöin on mahdollista, että osalla otospisteistä itseisarvojen x i m 0 järjestysluku on sama. Tällöin kaikille näille otospisteille valitaan järjestysluvuksi keskimmäinen. Esim. jos kahdella otospisteellä x i m 0 on sama, vastaten järjestyslukuja 7 ja 8, niin molemmille pisteille asetetaan järjestysluvuksi 7.5. Jos kolmella otospisteellä x i m 0 on sama, vastaten järjestyslukuja 3, 4 ja 5, niin järjestysluvuksi valitaan kaikille kolmelle 4. t ja t kahden

26 parivertailuille, testausasetelma t ja t Parivertailuilun testausasetelma Havainnot muodostuvat muuttujaa x koskevista mittaustuloksien pareista (x i1, x i2 ), i = 1, 2,..., n jotka ovat toisistaan riippumattomia. Yhden mittausparin arvoja ei kuitenkaan oleteta riippumattomiksi! Muodostetaan mittaustuloksien x i1 ja x i2 nollasta eroavat erotukset d i = x i1 x i2, i = 1, 2,..., k. Erotusten oletetaan noudattavan symmetristä jakaumaa!! kahden

27 parivertailuille Yleinen hypoteesi H: erotukset d i ovat riippumattomia, samoin jakautuneita ja tulevat symmetrisestä jakaumasta jonka mediaani on m. Nollahypoteesi mediaanille H 0 : m = 0. Mahdolliset vaihtoehtoiset hypoteesit: H 1 : m > 0 (yksisuuntainen), H 1 : m < 0 (yksisuuntainen) tai H 1 : m 0 (kaksisuuntainen). Nyt voidaan käyttää tavanomaista yhden ä mittaustuloksien erotuksille d i. t ja t kahden

28 Numeerinen esimerkki, merkillinen parivertailulle Kallen superkeksien pahin kilpailija keksimarkkinoilla on Panun pahanmakuiset prinsessakeksit. Näiden keksipakettien eri kauppojen myyntihintoja haluttiin vertailla, mutta keksien hintojen jakaumasta ei ole tietoa, joskin voidaan olettaa, että hintojen erotuksien jakauma on symmetrinen. Tutkimukseen valittiin satunnaisesti 10 eri kauppaa. Keksien hinnat on kirjattu alla olevaan taulukkoon. Kallen Panun Erotus , t ja t kahden Taulukko: Taulukossa näkyvät Kallen superkeksien ja Panun pahanmakuisten prinsessakeksien hinnat eri kaupoissa.

29 Numeerinen esimerkki, merkillinen parivertailulle t ja t Erotusten oletetaan noudattavan symmetristä jakaumaa. Nollahypoteesina on, että Kallen superkeksien ja Panun pahanmakuisten prinsessakeksien hintojen teoreettisissa mediaaneissa ei ole eroa eli että erotusten teoreettinen mediaani on nolla. Seuraavaan sivulla olevaan taulukkoon on kirjattu erotusten itseisarvot suuruusjärjestyksessä sekä lisäksi erotusten merkilliset järjestysluvut. kahden

30 Numeerinen esimerkki, merkillinen parivertailulle t ja t Erotus Merk.järj Taulukko: Erotusten itseisarvot järjetettyinä suurimmasta pienimpään ja erotusten merkilliset järjestysluvut. kahden Testisuure W = R (d i )>0 R (x i ) = = 29. Testin p-arvoksi saadaan laskentaohjelmistolla Nollahypoteesi jätetään voimaan.

31 vs. Testit soveltuvat saman tyyppisiin ongelmiin: yksi otos, mediaanin vertaaminen vakioon - kaksi toisistaan riippuvaa otosta, mediaanien vertaaminen. Testit ovat yhden t testin ei-parametrisiä vastineita. Testisuureiden arvot eivät riipu havaintoarvoista, vaan ainoastaan niiden keskinäisestä järjestyksestä. ssä ei tehdä oletuksia perusjoukon jakauman tyypistä. vaatii symmetria-oletuksen. käyttää merkkitestiä enemmän informaatiota havaintojen järjestyksestä. Jos jakauma voidaan olettaa symmetriseksi, kannattaa turvautua Wilcoxoniin, muussa tapauksessa merkkitesti on ainoa tie. t ja t kahden

32 t ja t kahden kahden

33 kahden kahden vastaa kahden riippumattoman t testiä vähemmillä jakaumaoletuksilla. kahden on käytännössä täsmälleen sama testi kuin ns. Mannin ja Whitneyn testi. Olkoot x 1, x 2,..., x n satunnaismuuttujan x havaitut arvot ja olkoot y 1, y 2,..., y m satunnaismuuttujan y havaitut arvot. Oletetaan, että havaintopisteet x 1, x 2,..., x n ovat riippumattomia ja samoin jakautuneita, ja oletetaan, että havaintopisteet y 1, y 2,..., y m ovat riippumattomia ja samoin jakautuneita. Oletetaan vielä, että x i ja y j ovat riippumattomia kaikilla i, j ja että muuttujat x i ja muuttujat y j noudattavat muuten samaa jakaumaa, mutta niiden mediaanit saattavat erota toisistaan. t ja t kahden Nollahypoteesi mediaanille H 0 : m x = m y. Mahdolliset vaihtoehtoiset hypoteesit: H 1 : m x > m y (yksisuuntainen), H 1 : m x < m y (yksisuuntainen) tai H 1 : m x m y (kaksisuuntainen).

34 kahden Tarkastelaan otoksia x 1, x 2,..., x n ja y 1, y 2,..., y m. Oletetaan (yleisyyden kärsimättä), että n m. kahden perustuu kaikkien havaintojen keskinäisen suuruusjärjestyksen tarkasteluun. Yhdistetään otokset x 1, x 2,..., x n ja y 1, y 2,..., y m yhdeksi otokseksi z 1, z 2,..., z n+m. Järjestetään yhdistetyn havainnot suuruusjärjestykseen pienimmästä suurimpaan. Olkoon R(z i ) havainnon z i järjestysluku yhdistetyssä otoksessa z 1, z 2,..., z n+m. Testisuure W = n i=1 R(x i) on pienemmän järjestyslukujen summa. Testisuureen normaaliarvo on n(n + m + 1)/2, ja sen varianssi on nm(n + m + 1)/12. Suuret ja pienet testisuureen arvot (verrattuna normaaliarvoon n(n + m + 1)/2) viittaavat siihen, että nollahypoteesi H 0 ei päde. Nollahypoteesi H 0 hylätään, jos p arvo on kyllin pieni. t ja t kahden

35 kahden, p arvot Testisuureen W jakauma on taulukoitu ja monet tietokoneohjelmat laskevat testin p arvoja. kahden p arvot määritetään seuraavilla kaavoilla, joissa w on testisuureen W havaittu arvo: Jos vaihtoehtoinen hypoteesi H 1 : m x > m y, niin testin p arvo on p = P(W w). Jos vaihtoehtoinen hypoteesi H 1 : m x < m y, niin testin p arvo on p = P(W w). Jos vaihtoehtoinen hypoteesi H 1 : m x m y, niin testin p arvo on p = 2 min{p(w w), P(W w)}. Edellä P(W w) ja P(W w) lasketaan nollahypoteesin vallitessa. t ja t kahden

36 Kahden asymptoottinen t ja t Kun otoskoko on suuri, testisuure Z = W E(W ), missä var(w ) E(W ) = n(n + m + 1)/2 ja var(w ) = nm(n + m + 1)/12, noudattaa nollahypoteesin vallitessa likimain standardinormaalijakaumaa. kahden Approksimaatio on tavallisesti riittävän hyvä, jos n, m > 10. Pienissä otoksissa nojataan testisuureen W tarkkaan jakaumaan

37 kahden t ja t ä voidaan käyttää myös silloin kun otos on diskreetistä jakaumasta, mutta tällöin on mahdollista, että osalla otospisteistä on sama järjestysluku. Tällöin kaikille näille otospisteille valitaan järjestysluvuksi keskimmäinen. Esim. jos kahden havainnon järjestysluku on sama, vastaten järjestyslukuja 7 ja 8, niin molemmille havainnoille asetetaan järjestysluvuksi 7.5. Jos kolmen havainnon järjestysluku on sama, vastaten järjestyslukuja 3, 4 ja 5, niin järjestysluvuksi valitaan kaikille kolmelle 4. kahden

38 kahden t ja t Huomaa, että ä voidaan käyttää myös silloin, kun muuttujia ei voida mitata, mutta ne voidaan asettaa järjestykseen. (Esim. soittotaito, asunnon kunto,...) kahden

39 kahden t ja t kahden on kahden riippumattoman t testin ei-parametrinen vastine. Testisuureiden arvo ei riipu muuttujien x i ja y j arvoista, vaan ainoastaan niiden keskinäisestä järjestyksestä. Testi on varteenotettava vaihtoehto kahden riippumattoman t testille, jos perusjoukot eivät ole normaalijakautuneita. kahden

40 Numeerinen esimerkki kahden lle. t ja t Opiskelijoiden pituuksia mitattiin matematiikan laitoksen käytävällä. Kymmenen satunnaisesti valittua opiskelijaa laitettiin seisomaan pituusjärjestykseen. Opiskelijoiden joukossa oli sekä miehiä että naisia. Haluttiin selvittää, onko mies- ja naisopiskelijoin pituuksien jakaumissa eroa. kahden

41 Pituusjärjestyksestä saatiin seuraavan taulukon mukainen. Taulukkoon on kirjattu kunkin opiskelijan sukupuoli sekä järjestysluku. Opiskelija N N M M M N M M N M Järjestysluku Taulukko: Pituusjärjestykseen järjestetyt mies- ja naisopiskelijat järjestyslukuineen. t ja t kahden Testisuure on pienemmän, tässä naisten, järjestyslukujen summa W = 4 i=1 R(x i) = = 18. Koska otoskoot ovat pieniä luetaan taulukosta testisuureen kriittinen arvo. Kriittinen arvo < 18, joten nollahypoteesia pituuksien jakaumien samuudesta ei voida hylätä.

42 t ja t J. S. Milton, J. C. Arnold: Introduction to Probability and Statistics, McGraw-Hill Inc R. V. Hogg, J. W. McKean, A. T. Craig: Introduction to Mathematical Statistics, Pearson Education Pertti Laininen: Todennäköisyys ja sen tilastollinen soveltaminen, Otatieto 1998, numero 586. Ilkka Mellin: Tilastolliset menetelmät, kahden