5 Hypoteesien testaaminen Seuraavaksi tutustumme tilastollisiin testeihin ja niihin liittyviin peruskäsitteisiin Esittelemme aluksi hypoteesit sekä testisuureet ja puhumme p-arvosta (eli havaitusta merkitsevyystasosta) Ensi viikolla turvaudumme testaamisessa myös voiman käyttöön
5.1 Johdanto Tilastolliset testien avulla otetaan kantaa tutkittavaa ilmiötä koskeviin väitteisiin eli hypoteeseihin Esimerkkinä sopivasta kysymyksestä: onko lantti harhaton?
5.1.1 Esimerkki Tehdas on valmistanut suuren määrän hehkulamppuja, ja valmistaja väittää että korkeintaan 1% on rikki. Poimitaan sadan (100) lampun otos ja havaitaan että kolme (3) on rikki. Mitä voimme sanoa valmistajan väitteestä? Kumpi olisi parempi selitys havainnolle H 0 : Valmistaja puhuu totta (sattui vain peikkomaisesti) H 1 : Valmistaja puhuu vaihtoehtoista totuutta.
5.2.4 Esimerkki: lantin harhattomuus Halutaan tutkia, onko lantti harhaton. Tehdään tuhat heittoa, ja saadaan 560 kruunua. Voidaanko sanoa, että lantti on harhaton?
5.1.2 Testin vaiheet yleisesti Jotta kysymystä voitaisiin tarkastella tilastollisesti, formuloidaan koeasetelmaa kuvaava malli (ja oletamme että jokin parametrinen malli f Y (y; θ), θ Ω R d käy :) Testin vaiheet ovat yleisesti: 1. Asetetaan nollahypoteesi H 0 ja mahdollisesti vastahypoteesi H 1. 2.-4....
5.2.1 Hypoteesit ja kysymyksenasettelu Hypoteesilla tarkoitetaan väitettä, joka koskee mallin parametria ja voidaan kirjoittaa muotoon θ Ω, jossa Ω on jokin Ω:n epätyhjä osajoukko Hypoteesi on yksinkertainen, jos Ω on yksiö ja yhdistetty muuten.
5.2.1 Nollahypoteesi ja vastahypoteesi Nollahypoteesi H 0 on väite H 0 : θ Ω 0 jonka paikkaansapitävyyden arviointi on testin tavoitteena Joskus halutaan päättää, että pitäisikö H 0 hyväksyä vai hylätä nollahypoteesi kuvaa neutraalia tai oletusarvoista tilannetta, joten erityisesti sen hylkäämistä väärin perustein tulee välttää
5.2.1 Nollahypoteesi ja vastahypoteesi Vaihtoehtoinen hypoteesi eli vastahypoteesi H 1 on väite H 1 : θ Ω 1 jonka paikkaansapitävyyden arviointi on testin tavoitteena Aina Ω 0 Ω 1 = ja usein (muttei aina) Ω = Ω 0 Ω 1. Jos vastahypoteesi asetetaan, arvioidaan pitäisikö H 1 hyväksyä nollahypoteesin H 0 sijaan, eli jos H 0 päätetään hylätä ollaan hyväksymässä H 1
5.1.1 Esimerkki: jatkuu Lamppukoetta voimme mukavasti mallintaa mallilla K Bin(100, θ), missä θ Ω = (0, 1) on rikkinäisten lamppujen suhde kaikkiin valmistettuihin. Nyt väitteet H 0 : Valmistaja puhuu totta (sattui vain peikkomaisesti) H 1 : Valmistaja puhuu vaihtoehtoista totuutta. voidaan muotoilla H 0 : θ Ω 0 = (0, 0.01] ja H 1 : θ Ω 1 = (0.01, 1) tai mukavammin H 0 : θ 0.01 ja H 1 : θ > 0.01 Kumpikin väitteistä on yhdistetty väite.
5.2.4 Esimerkki: jatkuu Lanttikoetta voimme mukavasti mallintaa mallilla K = kruunujen lkm Bin(1000, θ), missä θ Ω = (0, 1) Nyt nollahypoteesi H 0 : θ = 1 2 Tämä on yksinkertainen väite
Esimerkki 5.1.1. ja 5.2.4.: hypoteesijoukot kuvina
5.1.2 Testin vaiheet yleisesti Jotta kysymystä voitaisiin tarkastella tilastollisesti, formuloidaan koeasetelmaa kuvaava malli (ja oletamme että jokin parametrinen malli f Y (y; θ), θ Ω R d käy :) Testin vaiheet ovat yleisesti: 1. Asetetaan nollahypoteesi H 0 ja mahdollisesti vastahypoteesi H 1. 2. Valitaan käyttävä testisuure 3.-4....
5.2.2 Testisuure Testisuureella tarkoitetaan aineistosta laskettavaa reaaliarvoista tunnuslukua t = t(y), jolla on monotonisuusominaisuus Tyypillisesti t:n pienet arvot ovat sopusoinnussa H 0 :n kanssa ja suuret arvot ovat sitä vastaan (tukevat H 1 :tä jos se on asetettu) Kaksisuuntaisissa testausasetelmissa testisuuressa mitataan poikkeamaa vertailuarvosta t 0, ja voidaan ymmärtää t t 0 :na Testisuureen valinta on testauksen suurin haaste (siihen vaikuttaa tilastollinen malli, H 0, H 1 ) Myöhemmin käsittelemme yleisiä periaatteita valinnalle, sekä tavallisten mallien tyypillisiä testisuureita.
5.1.1 Esimerkki: jatkuu Lamppukoetta voimme mukavasti mallintaa mallilla K = k(y) Bin(100, θ), missä θ Ω = (0, 1) on rikkinäisten lamppujen suhde kaikkiin valmistettuihin. Nyt valmistajan väitettä H 0 tukee havainnot, joissa on vähän rikkinäisiä lamppuja ja väitettä vastaan ovat suuret K:n arvot. Nämä puolestaan tukevat vastaväitettä H 1 Valitsemme tässä testisuureeksi k = k(y):n eli rikkinäisten lamppujen lukumäärän.
5.2.4 Esimerkki: jatkuu Lanttikoetta voimme mukavasti mallintaa mallilla K = kruunujen lkm Bin(1000, θ), missä θ Ω = (0, 1) Kun nollahypoteesi H 0 : θ = 1 2, niin odotamme, että saadaan 500 kruunua (t 0 = 500 vertailuarvo) Päädymme valitsemaan kaksisuuntaisen testausasetelman ja testisuureeksi poikkeaman t(y) = k 500 Tällöin pienet arvot (eli havainnot lähellä odotettua 500:aa) ovat sopusoinnussa H 0 :n kanssa ja suuret arvot (joko selvästi yli tai selvästi alle 500:n) ovat sitä vastaan.
5.1.2 Testin vaiheet yleisesti Jotta kysymystä voitaisiin tarkastella tilastollisesti, formuloidaan koeasetelmaa kuvaava malli (ja oletamme että jokin parametrinen malli f Y (y; θ), θ Ω R d käy :) Testin vaiheet ovat yleisesti: 1. Asetetaan nollahypoteesi H 0 ja mahdollisesti vastahypoteesi H 1. 2. Valitaan käyttävä testisuure 3. Lasketaan havaittua aineistoa vastaava testisuureen arvo sekä havaittu merkitsevyystaso eli p-arvo 4. Tehdään johtopäätökset
5.2.3 Havaittu merkitsevyystaso Oletus: käytämme testisuuretta t, jonka suuret arvot ovat H 0 :lle kriittisiä Olkoon T = t(y) sitä vastaava sm ja y havaittu aineisto. Määritelmä Testin p-arvo eli havaittu merkitsevyystaso p on todennäköisyys p = p(y) = P θ (T t(y)), θ Ω 0 jos H 0 on yksinkertainen tai jos tämä todennäköisyys on sama kaikilla θ Ω 0 ja muutoin p = p(y) = sup θ Ω 0 P θ (T t(y)).
5.3 Havaitun merkitsevyystason tulkinnasta p-arvo on siis yläraja H 0 :n pätiessä sille tn:lle, että satunnaismuuttuja T saa arvon, joka on yhtä suuri tai suurempi kuin nyt havaittu arvo t(y). hyvin pieni p-arvo todistaa H 0 :aa vastaan (ja voi jopa johtaa hylkäykseen), ei ihan pieni p-arvo taas on sopusoinnussa H 0 :n kanssa Huom. p-arvon laskeminen edellyttää sitä, että testisuuretta vastaavan satunnaismuuttujan T jakauma hallitaan ainakin kaikilla nollahypoteesiarvoilla θ Ω 0
5.3 Havaitun merkitsevyystason tulkinnasta Huom. p-arvon laskeminen edellyttää sitä, että testisuuretta vastaavan satunnaismuuttujan T jakauma hallitaan ainakin kaikilla nollahypoteesiarvoilla θ Ω 0 on siis eduksi, että testisuureen jakauma on hyvin tunnettu Käytännössä p-arvon laskennassa joudutaan usein turvautumaan approksimattivisiin jakaumatuloksiin ja niistä saataviin likiarvoihin
5.3 havaittu merkitsevyystaso kuvana
5.1.1 Esimerkki: jatkuu Lamppukokessa: mallina K Bin(100, θ), missä θ Ω = (0, 1) on rikkinäisten lamppujen suhde kaikkiin valmistettuihin. Testisuureena: k eli rikkinäisten lamppujen lukumäärän. Havaittu testisuureen arvo on siis k = 3, joten kun θ H 0 eli kun θ < 0.01 on P θ (K 3) P 0.01 (K 3) = 1 P 0.01 (K 2) 0.08
5.1.1 Esimerkki: jatkuu Siispä: tässä havaittu merkitsevyystaso eli p-arvo on p 0.08 = 8/100. Tämä on pieni, muttei hurjan pieni, joten H 0 :aa ei kannata hylätä Jos taas rikkinäisiä olisi ollut k = 5, olisi p-arvo tällöin p 0.003 = 3/1000 ja nyt H 0 voitaisiin jo hylätä ja siten hyväksyä vastahypoteesi H 1
5.1.1 p-arvot kuvina
5.1.1 p-arvot kuvina
5.1.1 p-arvot kuvina
5.2.4 Esimerkki: jatkuu Lanttikokeessa: mallina K Bin(1000, θ), missä θ Ω = (0, 1) Testisuureena: t(y) = k 500 eli kuinka paljon kruunujen lkm eroaa (nollahypoteesin vallitessa) odotetusta 500:sta Havaittiin: k = 560, joten p-arvo on P H0 (t(y) t(y)) = P 1 ( K 500 560 500 ) 2 = 1 P 1 (440 < K < 560) 2 Tämän numeerinen laskeminen ja siitä tehtävien johtopäätösten tekemin on (HT).
5.2.4 p-arvot kuvina
5.3.1 P-arvo on tunnusluku p-arvo on aineistosta laskettu tunnusluku p = p(y) se mittaa aineiston ja nollahypoteesin yhteensopivuutta usein sovelluksissa ilmoitetaan p-arvo likimääräisesti ja tulkitaan sitä sanallisesti
5.3.2 Päätösteoreettinen lähestymistapa Joissakin sovelluksissa on tarpeen tehdä havaitun aineiston perusteella selkeä päätös: joko H 0 hyväksytään tai se hylätään ja mahdollinen vastahypoteesi H 1 hyväksytään. Voimme toimia seuraavasti: Kiinnitetään jo ennalta jokin luku α (0, 1), jota kutsutaan merkitsevyystasoksi. Lasketaan aineistosta p-arvo p = p(y) ja verrataan sitä valittuun merkitsevyystasoon: jos p > α, niin H 0 hyväksytään, ja jos taas p α, niin H 0 hylätään ja mahdollinen H 1 hyväksytään.
5.3.2 Tavallisia merkitsevyystasoja Tämä tapa määrää kullakin merkitsevyystasolla α (0, 1) päätössäännön { H 0 hylätään (H 1 hyväksytään), kun p α y H 0 hyväksytään (H 1 hylätään), kun p > α Tavallisesti käytetään seuraavia merkitsevyystasoja: 0.05 melkein merkitsevä α = 0.01 merkitsevä 0.001 erittäin merkitsevä Higgsin bosonin kohdalla merkitsevyystasona α käytettiin lukua α = 0.0000003 (yksisuuntaiselle testille)
5.3.2 Päätökset ja niiden seuraukset Hypoteesin testauksen päätöspeli voidaan esittää taulukkona Hyväksytään H 0 Hylätään H 0 H 0 totta Päätös ok :) Hylkäämisvirhe!! H 0 ei totta Hyväksymisvirhe Päätös ok :) Hylkäämisvirhettä nimitään usein I lajin ja hyväksymisvirhettä II lajin virheeksi, koska hylkäämisvirhettä pidetään vakavampana
5.3.2 Päätökset ja niiden seuraukset Analogia päätöspelille ja virhelajeille on: H 0 : henkilö N on syytön H 1 : henkilö N on syyllinen N vapautetaan N tuomitaan H 0 syytön vapautetaan syytön tuomitaan!! H 1 syyllinen vapautetaan syyllinen tuomitaan
5.3.2 Merkitsevyystaso ja hylkäämisvirheen tn Hylkäysvirhettä on syytä välttää, joten kuinka todennäköistä sen tekeminen on? Havaitsemme, että merkitsevyystasolla α hylkäämme H 0 :n virheellisesti todennäköisyydellä P H0 (hylätään H 0 ) = P H0 (p(y) α) α Eli: α on hylkäämisvirheen todennäköisyyden yläraja.
5.3.2 Merkitsevyystaso ja hylkäämisvirheen tn Testauksessa valitaan α (eli hylkäämisvirheen riski) etukäteen Testisuureen valintaa ohjaa siten hyväksymisvirheen hallinta ja tätä käsittelee testisuureen voima (tähän palaamme piakkoin)
5.3.3 P-arvo ei puhu H 0 :n todennäköisyydestä Huom. joskus saattaa törmätä ajatukseen, että p-arvo on nollahypoteesin todennäköisyys, ja lyhyesti: tästä ei ole kyse Frekventistisesti väitteeseen { θ Ω 0 } emme luonnolisestikaan liitä mitään tn-tulkintaa Bayesiläisittäin ajateltunakaan p-arvo ei puhu väitteen { θ Ω 0 } todennäköisyydestä vaan testisuureen häntätodennäköisyydestä, kun H 0 oletetaan.
5.3.4 Valintakorjaus Tilastollisissa tutkimuksissa tapaa toisinaan menettelyä, jossa samaa tai samantapaisia nollahypoteeseja testataan usealla eri testillä ja raportoidaan saaduista p-arvoista pienin eli tilastollisesti merkitsevin Tämä on ongelmallista sillä helposti näemme aineistossa (tai sen osassa) merkityksiä ja säännönmukaisuuksia, joita siellä on vain sattuman johdosta Tilastollisesti pätevä menettelytapa on, että ennen aineistoon tutustumista tai jopa ennen sen keruuta päätetään, millaisia hypoteeseja halutaan tutkia ja mitä testejä tähän tarkoitukseen käytetään
5.3.4 Valintakorjaus Jos kuitenkin testataan samaa nollahypoteesia useammilla testeillä voidaan tehdä valintakorjaus. sama nollahypoteesi H 0 : θ Ω 0 tehdään k eri testiä, p-arvot p 1 (y),..., p k (y) muodostetaan sm Q = min(p 1 (Y),..., p k (Y)) Ajatus: mitataan milloin tn, että tehtäisiin ainakin yksi hylkäämisvirhe olisi korkeintaan annettu α?
5.3.4 Valintakorjaus Tiedämme jo: P θ (p j (Y) p) p kun θ Ω 0 kullakin p (0, 1) ja kullakin j Jos p 1 (Y),..., p k (Y), niin P θ (Q q) 1 (1 q) k kun θ Ω 0 kullakin q (0, 1). Yleisemmin (ilman riippumattomuutta), Bonferronin ey kun θ H 0 kullakin q (0, 1) P θ (Q q) kq
5.3.4 Valintakorjaus Esimerkiksi, tehdään kolme testiä k = 3 ja saadaan p-arvot p 1 = 0.05, p 2 = 0.2 ja p 3 = 0.3. Tällöin (jälkimmäisellä ey:llä) P θ (min(p 1, P 2, P 3 ) 0.05) 3 0.05 = 0.15 joten olisimme tn:llä 0.15 tekemässä ainakin yhden hylkäämisvirheen.
5.4 Normaalimallin perustestit Palautetaan mieliin normaalimallin perustestit (johdantokursseilta) Ensin esitelllään perustestit odotusarvolle (sekä tapauksessa varianssi tunnetaan ja että sitä ei tunneta) Ja sitten palautamme mieleen perustestin varianssille
5.4.1 Odotusarvon testi, kun varianssi tunnettu Havainnot: Y 1,..., Y n N(µ, σ 2 ) (5.1) Oletetaan, että σ 2 = σ0 2 > 0 on tunnettu Tarkastellaan kaksisuuntaista testausasetelmaa: H 0 : µ = µ 0, H 1 : µ µ 0. (5.2) Testaussuure: z-testisuure z = z(y) = n(y µ0 ) σ 0
5.4.1 Odotusarvon testi, kun varianssi tunnettu Kun H 0 on voimassa: Z = z(y) N(0, 1), joten p = P µ0 ( Z z ) = 2(1 Φ( z )) Taulukosta: p 0.05 kun z 1.96 p 0.01 kun z 2.58 p 0.001 kun z 3.29
5.4.1 Kaksisuuntainen testausasetelma kuvana
5.4.1 Kaksisuuntainen testausasetelma kuvana
5.4.1 Odotusarvon testi, kun varianssi tunnettu Tarkastellaan nyt yksiisuuntaista testausasetelmaa: H 0 : µ = µ 0, H 1 : µ > µ 0. (5.2) Nyt z-testisuuretta vastaa p-arvo p = P µ0 (Z z) = 1 Φ(z)
5.4.1 Yksisuuntainen testausasetelma kuvana
5.4.2 Odotusarvon testi, kun varianssi kiusaa Havainnot: Y 1,..., Y n N(µ, σ 2 ) (5.1) Tällä kertaa myös varianssi on tuntematon. Tarkastellaan kaksisuuntaista testausasetelmaa: H 0 : µ = µ 0, H 1 : µ µ 0. (5.2) Nyt H 0 = { µ 0 } (0, ) on yhdistetty
5.4.2 Odotusarvon testi, kun varianssi kiusaa Nyt satunnaismuuttuja n(y µ0 ) Z = Z(Y) = σ ei ole tunnusluku eikä siten kelpaa testisuureeksi Käyttämällä otosvarianssia päädytään t-testisuureeseen T = t(y) = Y µ 0 S 2 /n
5.4.2 t-testisuureen jakauma (TN2 Lause 10.7) Kun (µ, σ 2 ) H 0, niin t-testisuureen jakauma noudattaa Studentin t-jakaumaa vapausasteella n 1, sillä: a) T = Z/ V /(n 1), missä Z V ja b) n(y µ0 ) Z = N(0, 1) σ c) ja 2 (n 1)S V = χ 2 n 1. σ 2 Huom. Vaikka σ esiintyykin yllä, on testisuureen T jakauma sama kaikilla (µ, σ 2 ) H 0.
5.4.2 t-testisuureen p-arvot kuvina
TN2 luku5: t-jakauma Määritelmä 5.2 (t-jakauma, TN2) Jos Z N(0, 1) ja V χ 2 ν (jollekin ν > 0) ja Z V, niin satunnaismuuttujalla T = Z V /ν on jakauma, jota kutsutaan (Studentin) t-jakaumaksi ν:llä vapausasteella tai vapausasteluvulla ν (engl. degrees of freedom, df), eli T t ν.
5.4.3 Varianssin testi Tarkastellaan nyt hypoteeseja H 0 : σ 2 = σ 2 0, H 1 : σ 2 > σ 2 0. Tässäkin H 0 on yhdistetty: H 0 = R { σ 2 0 } Testisuure voidaan rakentaa otosvarianssin varaan Valitsemme testisuureeksi (n 1)S 2, mikä noudattaa χ 2 n 1 -jakaumaa, kun H 0 on voimassa. p-arvoksi saamme siten häntätodennäköisyyksiä χ 2 n 1 -jakaumasta. σ 2 0
5.5 Testin voima ja Neymanin Pearsonin teoria Tähän mennessä olemme tutustuneet hypoteesien testaukseen ja eri tyyppisiin päätösvirheisiin Kun merkitsevyytaso on asetettu, on hylkäysvirheen todennäköisyys taputeltu. Kysymys: millä perusteilla testisuure pitäisi valita? Vai onko ihan sama mitä testisuuretta käyttää? Tähän kysymykseen antaa valoa voiman (engl. power) käsite
5.5 Testin voima ja Neymanin Pearsonin teoria Tarkastellaan tilannetta: Y 1,..., Y n Poi(λ) Tarkastellaan hypoteeseja: H 0 : λ = 1, H 1 : λ > 1. Tiedämme: EY 1 = λ ja var Y 1 = λ Voisimme ajatella: t 1 (y) = y 1 tai t 2 (y) = s 2 1 olisivat sopivia testisuureita. Kumpaa kannattaisi käyttää? Vai onko ne yhtä hyviä?
5.5.1 Kriittiset alueet ja voimafunktio Seuraavassa oletetaan aina: tilastollinen malli f Y (y; θ), ja parametriavaruus Ω. Tarkastellaan päätöstehtävää: H 0 : θ Ω 0, H 1 : θ Ω 1, (5.3) tarkoituksena on joko hyväksyä H 0 tai hylätä se ja hyväksyä H 1 sen sijaan.
5.5.1 Kriittiset alueet ja voimafunktio Valitaan merkitsevyytaso α (0, 1) ja palautetaan mieleen päätössäätömme { H 0 hylätään, kun p α y H 0 hyväksytään, kun p > α missä p-arvo p = p(y) Havaitsemme: jos sovimme että H 0 hylätään vastaa lukuarvoa 1 ja hyväksyminen vastaa lukuarvoa 0, niin päätös on y 1{ y C α } kun joukko C α = { y ; p(y) α }
5.5.1 Kriittiset alueet ja voimafunktio Määritelmä Joukko C α = { y ; p(y) α } on testisuureen t = t(y) indusoima α-tasoinen kriittinen alue. Päätössääntö H 0 :n hylkäämisestä on siten mukavasti esitetty kriittisen alueen avulla 1{ y C α }.
5.5.1 Kriittiset alueet ja voimafunktio Lasketaan päätössääntöä vastaavan sm:n 1{ Y C α } odotettu arvo, mitä kutsumme voimaksi. Määritelmä Testisuureen t = t(y) α-tasoinen voima tai voimafunktio π α (θ) = P θ (Y C α ) = P θ (H 0 hylätään), θ Ω. Huom. π α (θ) α aina, kun θ Ω 0 ja 1 π α (θ) = P θ (hyväksymisvirhe), kun θ Ω 1.
5.5.1 Kriittiset alueet ja voimafunktio Voiman avulla voimme nyt hallita myös hyväksymisvirheen: kun merkitsevyytaso α on valittu, pyritään valitsemaan testisuure t, jonka voima on mahdollisimman lähellä ykköstä, kun H 1 pätee.
5.5.2 Esimerkki: toistokoemalli Tarkastellaan toistokoemallia K Bin(7, θ) Hypoteesit: H 0 : θ 0.4, H 1 : θ > 0.4 Merkitsevyystaso: α = 0.1 ja testisuure: k. Tällöin: Kriittinen alue { 5, 6, 7 } sekä: voimafunktio π 0.1 (θ) = θ 7 (21g(θ) 2 + 7g(θ) + 1), kun g(θ) = (1 θ)/θ.
5.5.2 Esimerkki: voimafunktion kuva
5.5.2 Esimerkki: voimafunktion kuva
5.5.3 Esimerkki: normaalimallin odotusarvo Oletetaan, että Y 1,..., Y n N(µ, σ 2 0 ). Nollahypoteesina H 0 : µ = 0 ja vastahypoteesina H 1 : µ 0. Testisuureena: z = z(y) = ny/σ 0 Tällöin: kriittinen alue C α = { y ; y z α/2σ 0 n } missä Φ(z α/2 ) = 1 α/2. ja voimafunktio nµ π α (µ) = 1 Φ(z α/2 ) + Φ( z α/2 σ 0 nµ σ 0 )
5.5.3 Esimerkki: voimafunktioiden kuvaajat
5.5.3 Esimerkki: voimafunktioiden kuvaajat
5.5.4 Testien voiman vertailu Oletetaan että t ja t ovat kaksi testisuuretta ja testataan samoja hypoteeseja H 0 : θ Ω 0, H 1 : θ Ω 1, (5.3) Määritelmä Testisuure t on voimakkaampi kuin t pisteessä θ Ω 1, jos π α (θ; t) π α (θ; t ) (5.4) Testisuure t on tasaisesti voimakkaampi kuin t, jos se on voimakkaampi jokaisella θ Ω 1.
5.5.4 Testien voiman vertailu Nyt voimme etsiä voimakkaimpia testisuureita :) Määritelmä Testisuure t on voimakkain pisteessä θ Ω 1, jos testisuure t on voimakkaampi kuin mikä tahansa testisuure t pisteessä θ Ω 1. Testisuure t on tasaisesti voimakkain, jos se on voimakkain testisuure jokaisella θ Ω 1. Huom. Mikä olisi mukavampaa, kuin käyttää aina kussakin testausasetelmassa sitä vastaavaa tasaisesti voimakkainta testisuuretta :) Valitettavasti aina tälläista ei löydy (paitsi tietty yksinkertaisimmissa testausasetelmissa).
5.5.Neymanin Pearsonin apulause Lause Tarkastellaan tilastollista mallia f Y (y; θ) ja yksinkertaisia hypoteeseja H 0 : θ = θ 0 ja H 1 : θ = θ 1. Merkitään v(y) = L(θ 1; y) L(θ 0 ; y) = f Y(y; θ 1 ) f Y (y; θ 0 ) Tämä on voimakkain testisuure kaikilla α, joilla jollakin v α. Todistus. Ehkä liitutaululla. P θ0 (v(y) v α ) = P θ0 (Y C α) = α.
5.5.4 Neymanin Pearsonin apulause Testisuuretta v(y) kutsutaan uskottavuusosamäärän testisuureeksi. Joukko C α = { y ; v(y) v α } on Neymanin Pearsonin α-tasoinen kriittinen alue, eli testissä v nollahypoteesi hylätään, jos { y C α }. Ekvivalentti testi eli samat p-arvot ja kriittiset alueet saadaan mistä tahansa sen aidosti kasvavasta muunnoksesta. Myöhemmin käytetään siitä varsinkin muunnosta 2 log v(y) = 2 ( l(θ 1 ; y) l(θ 0 ; y) ). Käytännössä Neymanin Pearsonin apulauseen oletukset ovat harvoin voimassa.
5.5.5 Esimerkki: uskottavuusosamäärän testi normaalimallin odotusarvolle Seuraavassa esimerkissä sillä löydetään tasaisesti voimakkain testisuure (vaikka oletukset eivät toteudukaan) Tarkastellaan taas normaalimallia Y 1,..., Y n N(µ, σ 2 0 ) sen eräs uskottavuusfunktio (laskimme jo esimerkissä 2.1.4 tämän) on L(µ) = exp ( n(y µ)2 ) 2σ0 2 Kun H 0 : µ = µ 0 ja H 1 : µ = µ 1 ja µ 1 > µ 0, niin Neymanin Pearsonin uskottavuusosamäärän saadaan muotoon L(θ 1 ; y) L(θ 0 ; y) = exp ( n 2σ 2 0 ((y µ 1 ) 2 (y µ 0 ) 2) = exp ( n 2σ0 2 (2y(µ 1 µ 0 ) (µ 2 1 µ 2 0) )
5.5.5 Esimerkki: uskottavuusosamäärän testi normaalimallin odotusarvolle Kun µ 1 > µ 0 on kuvaus v(y) = exp ( n 2σ0 2 (2y(µ 1 µ 0 ) (µ 2 1 µ 2 0) ) = w(y) ja w on aidosti kasvava. Havaitsemme: P µ0 (v(y) v(y)) = P µ0 (w(y ) w(y)) = P µ0 (z(y) z(y)) kun z(y) = n(y µ 0 )/σ 0 on z-testisuure. Siispä testisuurella v ja z on samat p-arvot
5.5.5 Esimerkki: uskottavuusosamäärän testi normaalimallin odotusarvolle Koska lisäksi α = P µ0 (Y C α ) = P µ0 (Z c ) niin luvusta 5.4.1. tiedämme, että c on luku, jolla α = 1 Φ(c ). Olemme päätelleet: z-testisuureella ja Neymanin Pearsonin uskottavuusosamääräntestisuureella on sama kriittinen alue ja niillä on samat p-arvot, joten ne ovat ekvivalentit
5.5.6 Monotoninen uskottavuusosamäärä Tarkastellaan yleisesti mallia f Y (y; θ), jonka parametri on yksiulotteinen. Määritelmä Sanotaan, että mallilla on monotoninen uskottavuusosamäärä, jos löytyy sellainen tunnusluku t = t(y), että v(y) = L(θ 1; y) L(θ 0 ; y) = f Y(y; θ 1 ) f Y (y; θ 0 ) = w(t(y)) ja lisäksi w on aidosti kasvava aina kun θ 1 > θ 0. Huom. tällöin t(y) on tasaisesti voimakkain testisuure, kun H 0 : θ = θ 0 ja H 1 : θ > θ 0 (vast. H 1 : θ < θ 0 )
5.5.7 Esimerkki: eksponenttimalli Oletetaan: Y 1,..., Y n Exp(λ) ja 0 < λ < λ. Tällöin: v(y) = f Y (y; λ ) f Y (y; λ) = (λ ) n exp( λ yi ) λ n exp( λ y i ) = ( λ λ )n exp( (λ λ) y i ) = w( y i )
5.5.7 Esimerkki: eksponenttimalli Päättelemme: mallilla on monotoninen uskottavuusosamäärä Testisuure t(y) = y i on tasaisesti voimakkain testisuure testille H 0 : λ = λ 0, H 1 : λ > λ 0. (pienet arvot ovat kriittisiä).
5.6 Uskottavuusfunktioon perustuvia testejä I Realistisissa testausasetelmissa ainakin vastahypoteesi on yhdistetty eikä yleensä ole mahdollista löytää tasaisesti voimakkainta testiä Monotonine uskottavuusosamäärä on poikkeus. Kysymykseen onko mitenkään mahdollista läytää sopivia testisuureita? esittelemme kolme uskottavuusfunktioon perustuvaa testiä
5.6.2 Uskottavuusosamäärän testisuure Tämä perustuu Neymanin Pearsonin testisuureeseen Korvataan θ 1 (koska H 1 yhdistetty) suurimman uskottavuuden estimaatilla Määritelmä Testisuuretta r(y) = 2 ( l( θ(y); y) l(θ 0 ; y) ) kutsutaan uskottavuusosamäärän testisuureeksi. Tämä on aina positiivinen ja suuret arvot ovat kriittisiä H 0 :lle. Intuitiivisesti ajattelemme, että jos uskottavuus θ 0 :ssa on paljon pienempi kuin uskottavuus su-estimaatissa, niin tämä todistaa H 0 :aa vastaan.
5.6.3 Esimerkki: normaalimalli, kun varianssi tunnettu Jälleen kerran normaalimalli toimii mainiosti. Oleteaan: Y 1,..., Y n N(µ, 1) ja tarkastellaan hypoteesia H 0 : µ = µ 0. Tällöin: l(µ; y) = n/2(y µ) 2 sekä µ = y. Siispä: r(y) = n(y µ 0 ) 2, kun H 0 pätee. Siispä: r(y) χ 2 1, kun H 0 pätee, koska tällöin n(y µ0 ) N(0, 1).
5.6.4 Uskottavuusosamäärän testisuureen asymptoottinen jakauma Edellisen normaalimallin tulos on voimassa asymptoottisesti kun havainnot ovat samoin jakautuneita ja riippumattomia, sekä malli on riittävän säännöllinen. Apulause Asymptoottisesti uskottavuusosamäärätestin jakauma on r(y) as χ 2 1, kun H 0 : θ = θ 0 pätee (5.6) Todistus. Ehkä liitutaululla.
5.6.4 Uskottavuusosamäärän testisuureen asymptoottinen jakauma Todistuksen oleellisin pointti on näyttää, että r(y) ι(θ 0 )( θ(y) θ 0 ) 2 Tällöin su-estimaattorin asymptoottinen normaalisuus (Lause 3.6.5) kertoo, että Ja tästä väite seuraakin. ι(θ0 )( θ(y) θ 0 ) N(0, 1) as
5.5.3 khin neliön χ 2 1 tiheysfunktion kuvaaja
5.6.5 Waldin testisuure Nämä testisuureet perustuu suoraan erotukseen θ θ 0 :) Määritelmä Asetetaan ja w 1/2 (y) = ι(θ 0 )( θ(y) θ 0 ) w(y) = ι(θ 0 )( θ(y) θ 0 ) 2. Näitä kutsutaan Waldin testisuureiksi. Vaihtoehtoisia testisuureita saadaan vaihtamalla Fisherin informaatio joksikin seuraavista: j(θ 0 ; y), j( θ; y) ja ι( θ)
5.6.5 Waldin testisuure Tyypillisin variantti mitä näkee, on se, missä käytetään Fisherin informaatiota su-estimaatin kohdalla ι( θ) Edellä nähtiin, että seuraavien testisuureiden asymptoottinen jakauma selviää su-estimaattorin asymptoottisesta normaalisuudesta Tarkemmin: w 1/2 (Y) as N(0, 1), w(y) as χ 2 1 kun H 0 : θ = θ 0 pätee Näistä w 1/2 :ta voi käyttää sekä yksi- että kaksisuuntaiseen vastahypoteesien kanssa ja w:tä kaksisuuntaisten vastahypoteesien kanssa
5.6.6 Raon testisuure Raon pistemäärätestisuure perustuu ajatukseen, että H 0 :n pätiessä pistemäärän l (θ 0 ; y) 0. Tarkemmin: (säännöllisille malleille) pistemäärän odotusarvo E θ l (θ 0 ; Y) = 0 kun H 0 pätee (Apulause 2.5.3) Osoitimme luvussa 3.6.7. että kaiken lisäksi l (θ 0 ; Y) as N(0, ι(θ 0 )) kun H 0 : θ = θ 0 pätee
5.6.6 Raon testisuure Määritelmä Asetetaan u 1/2 (y) = l (θ 0 ; y) ι(θ0 ) ja u(y) = l (θ 0 ; y) 2 ι(θ 0 ) Näitä kutsutaan Raon testisuureiksi. Testisuureita käytetään samoin kuin Waldin testisuureita. Huom. eräs Raon testisuureiden hyvistä puolista on, ettei su-estimaattia tarvitse selvittää niiden muodostamista varten
5.6.7 Esimerkki: eksponenttimalli Verrataan edellisiä testisuureita eksponenttimallille, sillä normaalimallilla eroja on hankala havaita :) Oletetaan: Y 1,..., Y n Exp(1/µ) ja nollahypoteesi H 0 : µ = µ 0 (ja µ 0 > 0) Tiedämme: log-uskottavuusfunktio on l(µ; y) = n log µ ny/µ Tiedämme: µ = y (otoskeskiarvo).
5.6.7 uskottavuusosamäärätesti eksponenttimallille Uskottavuusosamäärän testisuure voidaan nyt määrätä r(y) = 2 ( n(log µ log µ) ny(1/ µ 1/µ) ) = 2n ( log(y/µ) 1 + y/µ ) Waldin ja Raon testisuureita varten tarvitsemme vielä Fisherin informaation ι(µ)
5.6.7 Fisherin informaatio eksponenttimallille Derivoimalla kahdesti µ:n suhteen saamme, Siispä: l (µ; y) = n µ 2 2ny µ 3 ι(µ) = E µ ( l (µ; Y)) = n µ 3 (E µ(2y µ)) = n µ 2
5.6.7 Waldin testisuure eksponenttimallille Edellisten laskujen mukaan w 1/2 (y) = ι(µ 0 )( µ(y) µ 0 ) = n(y µ0 ) µ 0 Tämän variantti, kun Fisherin informaatio korvataan ι( µ):lla, on n(y w 1/2 µ0 ) (y) = y Koska tämä on vallan tyypillinen määritelmä Waldin testisuureelle, käytämme seuraavassa jälkimmäistä
5.6.7 Raon testisuure eksponenttimallille Pistemäärä jäi laskematta, mutta l (µ; y) = n/µ + ny/µ 2 = n(y µ) µ 2 Siispä Raon testisuure on u 1/2 (y) = 1 ι(θ0 ) n(y µ 0) µ 2 = 0 n(y µ0 ) µ 0
5.6.7 Numeerinen esimerkki kestoikämalli (1.2.2): µ = keskimääräinen kestoikä (tunneissa) H 0 : µ = 1000 (eli valmistaja väittää kestoksi 1000 tuntia (keskimäärin) H 1 : µ < 1000 (arvellaan pienemmäksi, mitä valmistaja väittää) otoskoko n = 50 ja havaitaan y = 800. Koska yksisuuntainen testi, niin uskottavuusosamäärän testisuure ei kovin käyttökelpoinen.
5.6.7 Numeerinen esimerkki Waldin testisuure (jälkimmäinen variantti): Raon testisuure: w 1/2 (y) = 50(800 1000) 800 1.77 u 1/2 (y) = 50(800 1000) 1.41 1000
5.6.7 Numeerinen esimerkki Waldin testisuure (jälkimmäinen variantti) ja p-arvo: 50(800 1000) w 1/2 (y) = 800 Raon testisuure ja p-arvo: 1.77, p Φ( 1.77) 0.038 u 1/2 (y) = 50(800 1000) 1000 1.41, p Φ( 1.41) 0.079 Tarkka p-arvo (sillä Y /10 χ 2 100, kun µ = 1000) p = P 1000 (Y /10 80) 0.070