Tilastollinen päättely. 2. Datan redusoinnin periaatteet Tyhjentävyys Uskottavuus

Transkriptio

1 Mat.36 Tlastolle päättely. Data reduso peraatteet Tlastolle päättely. Data reduso peraatteet.. Tyhjetävyys Asllaarsuus, Basu teoreema, Data redusot, Faktorotteoreema, Iformaato, Mmaale tyhjetävyys, Otos, Otostuusluku, Parametr, Rppumattomuus, Svutuusluku, Todeäkösyysjakauma, Tyhjetävyys, Tyhjetävyysperaate, Täydellsyys, Yhtesjakauma.. Uskottavuus Brbaum teoreema, Data redusot, Ehdollsuusperaate, Evdess, Fdusaalsuus, Formaal tyhjetävyysperaate, Formaal uskottavuusperaate, Otos, Otostuusluku, Parametr, Rppumattomuus, Tyhjetävyys, Tyhjetävyysperaate, Uskottavuus, Uskottavuusfukto, Uskottavuusperaate, Yhtesjakauma Ilkka Mell (007) /7

2 Mat.36 Tlastolle päättely. Data reduso peraatteet Ilkka Mell (007) /7

3 Mat.36 Tlastolle päättely. Data reduso peraatteet.. Tyhjetävyys Otos ja otostuusluvut Olkoo X, X,, X satuasotos jakaumasta, joka pstetodeäkösyys ta theysfukto f(x;) rppuu parametrsta. Tällö havaot X, X,, X ovat rppumattoma, dettsest jakautueta satuasmuuttuja, jolla o sama pstetodeäkösyys ta theysfukto f(x;): Olkoo X, X, K, X X f( x; ), =,, K, X = (X, X,, X ) satuasmuuttuje X, X,, X muodostama vektor. Kutsumme satuasmuuttuje X, X,, X (mtallsa) fuktota (otos ) tuusluvuks. T X = T X X K X ( ) (,,, ) Olkoot satuasmuuttuje X, X,, X havatut arvot Merktää tätä: x, x,, x X = x, X = x,, X = x Satuasmuuttuje X, X,, X havatut arvot x, x,, x määräävät havatopstee x = (x, x,, x ) Jos satuasmuuttujat X, X,, X ovat saaeet otaa tuloksea havatuks arvoksee havatoarvot x, x,, x, tuusluku T X = T X X K X ( ) (,,, ) saa havatuks arvoksee t fukto T( ) arvo havatopsteessä x = (x, x,, x ): t = T x = T x x K x ( ) (,,, ) Tyhjetävyysperaate Tuusluku T(X) o tyhjetävä parametrlle, jos se käyttää jossak melessä kake otoksessa oleva formaato parametrsta. Tämä o tyhjetävyyde av määrtelmä, joka kutek tavottaa tyhjetävyyde kästtee olease prtee. Määrtelmä täsmeetää seuraavassa kappaleessa. Ilkka Mell (007) 3/7

4 Mat.36 Tlastolle päättely. Data reduso peraatteet Tyhjetävyysperaate saoo, että jos T(X) o tyhjetävä parametrlle, parametra koskevat johtopäätökset rppuvat otoksesta X va tuusluvu T(X) arvoje kautta. Tos saoe, jos x ja y ovat kaks havatopstettä, jolle T(x) = T(y) e johtavat samoh johtopäätöks parametrsta. Tyhjetävyys Tuusluku T(X) o tyhjetävä parametrlle, jos otokse X ehdolle jakauma kteällä tuusluvu T(X) arvolla e rpu parametrsta. Tarkastelemme seuraavassa (ja myös jatkossa) tyhjetävyyttä ja se karaktersota va dskreette jakaume tapauksessa. Svuutamme tässä jatkuve jakaume tapaukse kästtely she lttyve tekste hakaluukse taka. Hakaluudet jatkuve jakaume tapauksessa lttyvät she, että soveltavamme ehdollse todeäkösyyde määrtelmä e sall sellaste tapahtume ehdollste todeäkösyykse kästtely, jossa ehtotapahtuma todeäkösyys = 0. Ehdollse todeäkösyyde määrtelmä vodaa kutek ylestää sellasee muotoo, että tästä e ole hattaa. Ste kakk se, mtä tässä (ja myös jatkossa) tyhjetävyydestä estetää dskreette jakaume tapauksessa pätee myös jatkuve jakaume tapauksessa. Oletetaa, että tuusluku T(X) o tyhjetävä parametrlle. Olkoo t tuusluvu T(X) mahdolle arvo el sellae arvo, jolle Pr ( T( X) = t) > 0 Tarkastellaa ehdollsta todeäkösyyttä Jos x o havatopste, jolle Pr ( X= x T( X) = t) T(x) t Pr ( X= x T( X) = t) = 0 Ste vomme rajottua tarkastelemaa ehdollsa todeäkösyyksä Pr ( X= x T( X) = T( x)) Koska olemme olettaeet, että tuusluku T(X) o tyhjetävä parametrlle, ehdolle todeäkösyys Pr ( X= x T( X) = T( x)) e rpu parametrsta suoraa tyhjetävyyde määrtelmä mukaa. Ste vomme jatkossa jättää deks pos tästä ehdollsesta todeäkösyydestä ja krjottaa Pr( X= x T( X) = T( x)) Tarkastelemme seuraavassa mssä melessä parametrlle tyhjetävä tuusluku T(X) ssältää kake otoksessa oleva formaato parametrsta. Ilkka Mell (007) 4/7

5 Mat.36 Tlastolle päättely. Data reduso peraatteet Oletetaa, että heklö A havatsee otokse X = x ja määrää tuusluvu T(X) arvo T(x). Tehdessää päätelmä parametrsta, hä vo ss käyttää tetoa sekä stä, että X = x että tetoa stä, että T(X) = T(x). Oletetaa, että heklölle B kerrotaa va se, että tuusluku T(X) o saaut arvo T(x). Heklö B pystyy tämä tedo perusteella määräämää todeäkösyydet el joukossa Pr( X= x T( X) = T( x)) { } AT( x) = y T( y) = T( x) määrtelly todeäkösyysjakauma, koska she lttyvät todeäkösyydet vodaa tyhjetävyyde määrtelmä mukaa määrätä lma tetoa parametr todellsesta arvosta. Ste A vo geeroda (esmerkks satuaslukugeeraattor avulla) havao Y, joka toteuttaa ehdo Pr( Y = y T( X) = T( x)) = Pr( X= y T( X) = T( x)) Kute alla osotetaa, satuasmuuttujlla X ja Y o sama e ehdolle todeäkösyysjakauma. Tämä merktsee stä, että A:lla ja B:llä o käytettävssää täsmällee yhtä paljo formaatota parametrsta. Koska havato Y o geerotu, B: formaato parametrsta e ole adost lsäätyyt. B: ato formaato parametrsta ssältyy she, että tuusluvulla T(X) o arvo T(x). Edellä estetystä seuraa, että B, joka tetää va se, että T(X) = T(x) omaa täsmällee yhtä paljo formaato parametrsta ku A, joka tutee myös otokse X = x Täydeetää yllä estettyä tarkastelua lopuks sllä, että äytetää, että satuasmuuttujlla X ja Y o sama e ehdolle todeäkösyysjakauma el että Pr ( X= x) = Pr ( Y= x) Huomaa, että tapahtumat {X = x} ja {Y = x} ovat tapahtuma {T(X) = T(x)} osajoukkoja. Lsäks Pr( X= x T( X) = T( x)) = Pr( Y= x T( X) = T( x)) ja ämä ehdollset todeäkösyydet evät rpu parametrsta. Ste Pr( X= x) = Pr( X= x ja T( X) = T( x)) = Pr( X= x T( X) = T( x))pr ( T( X) = T( x)) = Pr( Y = x T( X) = T( x))pr ( T( X) = T( x)) = Pr ( Y = x ja T( X) = T( x)) = Pr ( Y = x) Tyhjetävyyde karaktersot Jotta vosmme käyttää yllä estettyä tyhjetävyyde määrtelmää todstaaksemme, että tuusluku T(X) o tyhjetävä parametrlle, medä o todstettava, että ehdolle todeäkösyys Pr ( X= x T( X) = t) Ilkka Mell (007) 5/7

6 Mat.36 Tlastolle päättely. Data reduso peraatteet e rpu parametr arvosta kaklle ktelle x ja t. Lause: Olkoo Todstus: f ( x; ) otokse X yhtesjakauma pstetodeäkösyys ta theysfukto ja qt ( ; ) tuusluvu T(X) pstetodeäkösyys ta theysfukto. Tällö T(X) o tyhjetävä parametrlle, jos suhde f ( x; ) qt ( ( x); ) e rpu parametrsta. Todstamme lausee va dskreette jakaume tapauksessa. Jos x o havatopste, jolle T(x) t Pr ( X= x T( X) = t) = 0 kaklle parametr arvolle. Ste rttää todstaa, että todeäkösyys e rpu parametrsta. Pr ( X= x T( X) = T( x)) Koska tapahtuma {X = x} o tapahtuma {T(X) = T(x)} osajoukko, Tässä Pr ( X= x ja T( X) = T( x)) Pr( X= x T( X) = T( x)) = Pr ( T( X) = T( x)) f(x;) Pr ( X= x) = Pr ( T( X) = T( x)) f( x; ) = qt ( ( x); ) o otokse X yhtesjakauma pstetodeäkösyysfukto ja q(t;) o tuusluvu T(X) pstetodeäkösyysfukto. Ilkka Mell (007) 6/7

7 Mat.36 Tlastolle päättely. Data reduso peraatteet Ste tuusluku T(X) o tyhjetävä parametrlle, jos ja va jos suhde f ( x; ) qt ( ( x); ) e rpu parametrsta. Esmerkk.: Otos ormaaljakaumasta Satuasmuuttuja X oudattaa ormaaljakaumaa parametre µ = E( X) σ = Var( X) = E[( X µ ) ] jos se theysfukto o muotoa / f( x; µ ) = ( πσ ) exp ( x ),,,, µ = σ K Oletamme esmerkssä., että varass σ o tuettu. Oletetaa, että havaot X, X,, X muodostavat satuasotokse ormaaljakaumasta N(µ,σ ). Tällö X, X, K, X X N( µσ, ), =,, K, Olkoot satuasmuuttuje X, X,, X havatut arvot x, x,, x Merktää tätä: X = x, X = x,, X = x Olkoo X = (X, X,, X ) satuasmuuttuje X, X,, X muodostama vektor ja x = (x, x,, x ) de havattuje arvoje muodostama vektor. Näytetää, että havatoje artmeette keskarvo T( X) = X = X = o tyhjetävä tuusluku odotusarvoparametrlle µ. Ilkka Mell (007) 7/7

8 Mat.36 Tlastolle päättely. Data reduso peraatteet Otokse X, X,, X yhtesjakauma theysfukto vodaa krjottaa satuasmuuttuje X, X,, X rppumattomuude taka muotoo Nyt f( x; µ ) = f( x; µ ) = = ( π) σ exp ( x ) µ = σ / = ( π) σ exp ( x ) µ σ = jossa ( x µ ) = ( x x + x µ ) = = = ( x x) ( x x)( x µ ) ( x µ ) = = = = + + = ( x x) + x ( µ ) = x = x = T( x) Tämä seuraa stä, että = = ( x x)( x µ ) = ( x µ ) ( x x) = ( x µ ) x x = = = ( x µ ) x x = 0 = Ste f( x; µ ) = ( π) σ exp ( x x) + x ( µ ) / σ = Otosjakauma koskevassa luvussa o todstettu, että yllä estettyje oletukse pätessä artmeette keskarvo T( X) = X oudattaa ormaaljakaumaa parametre µ ja σ /: σ X N µ, Ste se theysfukto o muotoa / / q( T( x); µ ) = ( π) σ exp ( x µ ) σ Ilkka Mell (007) 8/7

9 Mat.36 Tlastolle päättely. Data reduso peraatteet Koska theysfuktode ( π) σ exp ( ) ( µ ) f( x; µ ) = qt ( ( x); µ ) / / ( π) σ exp ( x µ ) σ / x x x σ + = = x x / ( )/ ( ) ( π) σ exp ( ) σ = suhde e rpu parametrsta µ, tuusluku T( X ) = X o tyhjetävä parametrlle µ. Tyhjetävyyde todstame tyhjetävyyde määrtelmää ojate o use hakalaa. Todstame tapahtuu tavallsest huomattavast helpomm vetoamalla seuraavassa estettävää faktorotteoreemaa. Faktorotteoreema: Olkoo Todstus: f ( x; ) otokse X yhtesjakauma pstetodeäkösyys ta theysfukto. Tuusluku T(X) o tyhjetävä parametrlle, jos ja va jos o olemassa fuktot g(t;) ja h(x) ste, että f( x; ) = g( T( x); ) h( x) kaklle havatopstelle x ja parametr mahdollslle arvolle ja fukto g rppuu otoksesta X = x va tuusluvu T(X) kautta ja fukto h e rpu parametrsta. Todstamme lausee va dskreette jakaume tapauksessa. () Olkoo T(X) tyhjetävä. Valtaa ja g( t; ) = Pr ( T( X) = t) h( x) = Pr( X= x T( X) = T( x)) Fukto g(t;) rppuu parametrsta. Mutta koska T(X) o tyhjetävä, fukto h(x) määrttelevä ehdolle todeäkösyys e rpu parametrsta. Käyttämällä hyväks yllä estettyjä määrtelmä, otokse X yhtesjakauma pstetodeäkösyysfukto f(x;) vodaa krjottaa seuraav muotoh: f( x; ) = Pr ( X= x) = Pr ( X= x ja T( X) = T( x)) = Pr ( T( X) = T( x))pr( X= x T( X) = T( x)) = g( T( x); ) h( x) Ste otokse X yhtesjakauma pstetodeäkösyysfukto f(x;) vodaa faktoroda vaadtulla tavalla. Ilkka Mell (007) 9/7

10 Mat.36 Tlastolle päättely. Data reduso peraatteet () Oletetaa, että otokse X yhtesjakauma pstetodeäkösyysfukto f(x;) vodaa faktoroda seuraavalla tavalla: f( x; ) = g( T( X); ) h( x) Olkooq(t;) tuusluvu T(X) pstetodeäkösyysfukto. Näyttääksemme, että T(X) o tyhjetävä, tarkastelemme suhdetta f ( x; ) qt ( ( x); ) Määrtellää joukko Ste { } AT( x) = y T( y) = T( x) f( x; ) g( T( x); ) h( x) = qt ( ( x); ) qt ( ( x); ) = g( T( x); ) h( x) g( T( x); ) h( y) AT ( x) g( T( x); ) h( x) = g( T( x); ) h( y) = h( x) h( y) AT ( x) AT ( x) Koska olemme ss todstaeet, että suhde f ( x; ) qt ( ( x); ) e rpu parametrsta, tyhjetävyyde karaktersotlauseesta seuraa, että tuusluku T(X) o tyhjetävä parametrlle. Esmerkk.: Otos ormaaljakaumasta (jatkoa esmerklle.) Sovelletaa faktorotteoreemaa esmerk. tlateesee. Esmerkssä. todett, että otokse X, X,, X yhtesjakauma theysfukto vodaa krjottaa muotoo f( x; µ ) = ( π) σ exp ( x x) + x ( µ ) / σ = Ste theysfukto f(x;) vodaa faktoroda seuraavalla tavalla: / f( x; µ ) = ( π) σ exp ( x ) exp ( ) x x µ σ = σ Ilkka Mell (007) 0/7

11 Mat.36 Tlastolle päättely. Data reduso peraatteet Olkoo gt ( ; µ ) = exp x ( µ ) σ h( x) = ( π) exp ( x x) / σ σ = Fukto g(t;µ) rppuu havatoarvosta x va fukto T( x) = x kautta ja fukto h(x) e rpu tutemattomasta parametrsta µ. Ste faktorotteoreemasta seuraa, että tuusluku T( X ) = X o tyhjetävä parametrlle µ. Esmerkessä. ja. tyhjetävää tuuslukua o ollut otokse reaalarvoe fukto ja kostukse kohteea olevaa parametra koskeva formaato otoksesta o tvstetty yhtee tuuslukuu T(x). Tlastoteteessä kohdataa kutek moa tlateta, jossa parametra koskevaa formaatota e voda tvstää yhtee lukuu. Tällö tyhjetävää tuuslukua T(X) o jok vektor: T( X) = ( ( X),, ( X)) T K T r Tällae o tlae use sllo, ku myös parametra o vektor: = (, K, ) s Tavallsest r = s, mutta ä e tarvtse olla. Myös vektorarvoset tyhjetävät tuusluvut löydetää tavallsest helpote faktorotteoreemaa soveltamalla. Esmerkk.3: Otos ormaaljakaumasta (jatkoa esmerklle.) Oletetaa, että havaot X, X,, X muodostavat satuasotokse ormaaljakaumasta N(µ,σ ) kute esmerkssä., mutta oletamme yt, että sekä odotusarvoparametr µ että varassparametr σ ovat tutemattoma. Ste parametrvektora o = ( µσ, ) Esmerk. mukaa otokse X, X,, X yhtesjakauma theysfukto vodaa krjottaa muotoo f( x; µ, σ ) ( π) σ exp ( x x) x ( µ ) Määrtellää otosvarass S kaavalla jossa / = σ + = S X X = ( ) = Ilkka Mell (007) /7

12 Mat.36 Tlastolle päättely. Data reduso peraatteet Olkoo jossa X X = = s x x = ( ) = x = x = tuusluvu S havattu arvo. Ste otokse ormaaljakautuee otokse yhtesjakauma theysfukto vodaa krjottaa muotoo jossa / f( x; µ, σ ) = ( π) σ exp ( ) t + t ( µ ) σ t = T( x) = x t = T ( x) = s Määrtellää vektor Olkoo t = ( t, t) g ( ; ) = ( x;, ) h( x) f µσ Olemme ss äyttäeet, että f( x; µσ, ) = g( t, t ; µσ, ) h( x) = g( T( x), T ( x); µσ, ) h( x) jossa fukto g rppuu otoksesta X = x va tuusluvu kautta ja fukto h e rpu parametrsta = (µ,σ ). Ste faktorotteoreemasta seuraa, että tuusluku T X X X ( ) = ( T( ), T( )) = ( X, S ) o tyhjetävä parametrlle = (µ,σ ). Esmerkk.4: Otos ekspoettperheestä Oletetaa, että havaot T X X X ( ) = ( T( ), T( )) = ( X, S ) X, X,, X muodostavat satuasotokse ekspoettperheestä, joka pstetodeäkösyys ta theysfukto o muotoa k f( x; ) = h( x) c( )exp w( ) t( x) = Ilkka Mell (007) /7

13 Mat.36 Tlastolle päättely. Data reduso peraatteet jossa = (,,, d ), d k. Tällö tuusluku TX ( ) = t ( X j), K, tk( X j) j= j= o tyhjetävä parametrlle. Huomautus: Suur osa tlastotetee tavaomassta jakaumsta kuuluu ekspoettperheesee. Tällasa jakauma ovat esmerkks sellaset dskreett jakaumat kute Beroull jakauma, bomjakauma, geometre jakauma, egatve bomjakauma ja Posso jakauma sekä sellaset jatkuvat jakaumat kute ekspoettjakauma, ormaaljakauma, gamma jakauma, χ jakauma ja beta jakauma. Tyhjetävä tuusluvu fuktode tyhjetävyys Lause: Todstus: Jokae tyhjetävä tuusluvu bjekto o tyhjetävä. Olkoo fukto r bjekto, joka käätesfukto o r. Oletetaa, että T(X) o tyhjetävä tuusluku ja T ( x) = rt ( ( x)) kaklle x. Faktorotteoreema mukaa o olemassa fuktot g ja h ste, että Määrtellää Tällö f = g T h = g r T h ( x; ) ( ( X); ) ( x) ( ( ( X)); ) ( x) g t = g r t ( ; ) ( ( ); ) f( x; ) = g ( T ( X); ) h( x) jote faktorotteoreema mukaa tuusluku T (X) o tyhjetävä. Esmerkk.5: Otos ormaaljakaumasta (jatkoa esmerklle.3) Oletetaa, että havaot X, X,, X muodostavat satuasotokse ormaaljakaumasta N(µ,σ ) kute esmerkssä., mutta oletamme yt, että sekä odotusarvoparametr µ että varassparametr σ ovat tutemattoma. Esmerkssä.3 todett, että tuusluku T X X X ( ) = ( T( ), T( )) = ( X, S ) o tyhjetävä parametrlle = (µ,σ ). Ilkka Mell (007) 3/7

14 Mat.36 Tlastolle päättely. Data reduso peraatteet Koska kuvaus X, X ( X, S ) = = o bjekto, myös havatoje X, X,, X summa = ja elösumma = X X ovat yhdessä tyhjetävä parametrelle µ ja σ. Mmaale tyhjetävyys Tyhjetävä tuusluku T(X) o mmaalsest tyhjetävä, jos T(X) o jokase (muu) tyhjetävä tuusluvu fukto. Tällä tarkotetaa seuraavaa: Jos T (X) o melvaltae tyhjetävä tuusluku ja T (x) = T (y) tällö T(X) o mmaalsest tyhjetävä, jos T(x) = T(y) Mmaalse tyhjetävyyde karaktersot Lause: Olkoo Todstus: f ( x; ) otokse X yhtesjakauma pstetodeäkösyys ta theysfukto. Oletetaa, että fuktolla T(X) o seuraava omasuus: Suhde f ( x; ) f ( y; ) e rpu parametrsta (el o vako parametr fuktoa), jos ja va jos T(x) = T(y) Tällö tuusluku T(X) o mmaalsest tyhjetävä. Todstukse ykskertastamseks oletetaa, että f ( x; ) > 0 kaklle havatopstelle x ja parametr arvolle. Ilkka Mell (007) 4/7

15 Mat.36 Tlastolle päättely. Data reduso peraatteet () Näytetää es, että tuusluku T(X) o tyhjetävä. Olkoo { t t T( x) jollek x } Τ= = Χ jossa Χ o kakke mahdollste havatopstede x joukko. Ste Τ o jouko Χ kuva kuvauksessa T(x). Olkoo t { x ( x) } A = T = t kuvaukse T(x) määrttelemä ostus joukossa Χ. Valtaa jokasesta joukosta A t yks melvaltae alko x t A t. Tällö x T( x) At o jokaselle x X. Koska x ja x T ( x) kuuluvat aa samaa joukkoo A t, t T( x) ( ) = T xt ( x) ja suhde f( x; ) f( x ; ) T( x) o vako parametr fuktoa. Ste vomme määrtellä fukto h( x) = f( x; ) f( x ; ) T( x) joukossa X ja fukto h(x) e rpu parametrsta. Määrtellää velä fukto g( t; ) = f( x ; ) joukossa Τ. Yllä estetystä seuraa, että t f( x ; ) f( x; ) f h g T h f( x ; ) T( x) ( x; ) = ( x) = = ( ( x); ) ( x) T( x) () jote T(x) o tyhjetävä faktorotteoreema mukaa. Näytetää, että tuusluku T(X) o mmaalsest tyhjetävä. Olkoo T (X) melvaltae toe tyhjetävä tuusluku parametr. Faktorotteoreema mukaa o olemassa fuktot g ja h ste, että f( x; ) = g ( T ( x); ) h ( x) Olkoot x ja y kaks havatopstettä, jolle T (x) = T (y). Tällö f( x ; ) g ( T ( ); ) h ( ) h ( ) = x x = x f( y; ) g ( T ( y); ) h ( y) h ( y) Ilkka Mell (007) 5/7

16 Mat.36 Tlastolle päättely. Data reduso peraatteet Koska tämä suhde e rpu parametrsta, oletuksesta seuraa, että T(x) = T(y) jote tuusluku T(x) o tuusluvu T (X) fukto. Koska T (X) ol valttu melvaltasest, tuusluku T(x) o mmaalsest tyhjetävä. Esmerkk.6: Otos ormaaljakaumasta (jatkoa esmerkelle..3) Oletetaa, että havaot X, X,, X muodostavat satuasotokse ormaaljakaumasta N(µ,σ ) kute esmerkssä., jossa oletett, että varassparametr σ o tuettu. Esmerkessä. ja. todett, että tuusluku T( X ) = X o tyhjetävä parametrlle µ. Esmerk.3 mukaa otokse X, X,, X yhtesjakauma theysfukto vodaa krjottaa muotoo jossa f( x; µ ) = ( π) σ exp ( x x) + x ( µ ) / = ( π) σ exp ( ) t + t ( µ ) σ t = T( x) = x t = T ( x) = s / σ = Ste faktorotteoreemasta seuraa, että myös tuusluku T X = X X = ( ) ( T( ), T( )) ( X, S ) o tyhjetävä parametrlle µ. Tuusluku T( X) = X selväst reduso havatoaesto vomakkaamm ku tuusluku T X = X X = ( ) ( T( ), T( )) ( X, S ) koska emme tue otosvarass arvoa, jos tuemme tuusluvu T( X ) = X arvo. Tuusluku T(X) o tuusluvu T (X) fukto, mkä ähdää määrttelemällä fukto jollo r( a, b) = a r = r T T = r x s = x = T ( T( x)) ( ( x), ( x)) (, ) ( x) Ilkka Mell (007) 6/7

17 Mat.36 Tlastolle päättely. Data reduso peraatteet Koska tuusluvut T(X) ovat T (X) tyhjetävä parametrlle µ, e ssältävät sama formaato parametrsta µ. Ste otosvarass S ssältyvä lsäformaato e lsää tetoamme parametrsta µ, ku varass σ o tuettu. Jos varass σ o tutemato, tuusluku T( X) = X e ole tyhjetävä ja tuusluku T X = X X = ( ) ( T( ), T( )) ( X, S ) ssältää tuuslukua T( X) = X eemmä formaatota parametrsta = (µ,σ ). Esmerkk.7: Otos ormaaljakaumasta (jatkoa esmerkelle..3 ja.6) Oletetaa, että havaot X, X,, X muodostavat satuasotokse ormaaljakaumasta N(µ,σ ) kute esmerkssä., mutta oletamme yt, että sekä odotusarvoparametr µ että varassparametr σ ovat tutemattoma. Olkoot x ja y kaks melvaltasta havatopstettä ja olkoot x, y, s, s x y havatoarvosta x, x,, x ja y, y,, y määrätyt artmeettset keskarvot ja otosvarasst. Esmerk.3 mukaa vomme krjottaa Ste suhde f f f f / ( π) σ exp ( ) s ( ) x + x µ ( x; µσ, ) σ = ( y; µσ, ) / ( π) σ exp ( ) s ( ) y + y µ σ = + σ ( x; µσ, ) ( y; µσ, ) e rpu parametresta µ ja σ, jos ja va jos x = y s = s x y exp ( )( s ) ( ) ( ) x sy x y µ x y Ste mmaalse tyhjetävyyde karaktersotlauseesta seuraa, että tuusluku ( X, S ) o mmaalsest tyhjetävä parametrlle (µ,σ ). Ilkka Mell (007) 7/7

18 Mat.36 Tlastolle päättely. Data reduso peraatteet Asllaarsuus Tuusluku S(X) o asllaare tuusluku el svutuusluku, jos se jakauma e rpu parametrsta. Esmerkk.8: Asllaare tuusluku pakkaparametrperheessä Olkoof(x) theysfukto ja olkoo < µ < + parametr. Tällö parametr µ deksomaa theysfuktode perhettä f(x µ) kutsutaa pakkaparametrperheeks, joka stadardtheysfukto o f(x) ja, joka pakkaparametra o µ. Oletetaa, että havaot X, X,, X muodostavat satuasotokse pakkaparametrperheestä, joka kertymäfukto o Olkoot F(x µ), < µ < + X (), X (),, X () otoksee X, X,, X lttyvät järjestystuusluvut. Näytämme, että vahteluväl ptuus R = X () X () o asllaare tuusluku. Olkoo Z, Z,, Z otos jakaumasta F(x), jossa ss µ = 0 ja olkoot X = Z + µ, X = Z + µ,, X = Z + µ Tällö tuusluvu R kertymäfukto o F ( r; µ ) = Pr( R r) R = Pr(max X m X r) = Pr(max( Z + µ ) m( Z + µ ) r) = Pr(max( Z ) m( Z ) + µ µ r) = Pr(max( Z ) m( Z ) r) mkä e rpu pakkaparametrsta µ, koska satuasmuuttuje Z, Z,, Z jakauma e rpu pakkaparametrsta µ. Ste vahteluväl R oasllaare. Ilkka Mell (007) 8/7

19 Mat.36 Tlastolle päättely. Data reduso peraatteet Esmerkk.9: Asllaare tuusluku skaalaparametrperheessä Olkoof(x) theysfukto ja olkoo σ > 0 parametr. Tällö parametr σ deksomaa theysfuktode perhettä f(x/σ) kutsutaa skaalaparametrperheeks, joka stadardtheysfukto o f(x) ja, joka skaalaparametra o σ. Oletetaa, että havaot X, X,, X muodostavat satuasotokse pakkaparametrperheestä, joka kertymäfukto o F(x/σ), σ > 0 Näytämme, että kakk tuusluvut, jotka rppuvat otoksesta aoastaa suhtede X /X, X /X,, X /X kautta ovat asllaarsa. Olkoo Z, Z,, Z otos jakaumasta F(x), jossa ss σ = ja olkoot X = σz, X = σz,, X = σz Tällö satuasmuuttuje X /X, X /X,, X /X yhtesjakauma kertymäfukto o F( y, K, y ; σ) = Pr( X / X y, K, X / X y ) = Pr( σz /( σz ) y, K, σz /( σz ) y ) = Pr( Z / Z y, K, Z / σz y ) mkä e rpu skaalaparametrsta σ, koska satuasmuuttuje Z, Z,, Z jakauma e rpu skaalaparametrsta σ. Ste tuuslukuje X /X, X /X,, X /X jakauma o rppumato skaalaparametrsta σ ja o myös mkä tahasa tuuslukuje X /X, X /X,, X /X fukto. Täydellsyys Olkoo gt ( ; ) pstetodeäkösyys ta theysfuktode perhe tuusluvulle T(X). Jakaumaperhe o täydelle, jos stä, että kaklle seuraa, että E[ gt ( ; )] = 0 Pr( gt ( ; ) = 0) = Ilkka Mell (007) 9/7

20 Mat.36 Tlastolle päättely. Data reduso peraatteet kaklle. Tällö myös tuuslukua T(X) kutsutaa täydellseks. Basu teoreema: Todstus: Jos tuusluku T(X) o täydelle ja mmaalsest tyhjetävä, T(X) o rppumato kaksta asllaarssta tuusluvusta. Todstamme lausee va dskreette jakaume tapauksessa. Olkoo S(X) melvaltae asllaare tuusluku. Tällö todeäkösyys Pr( S( X) = s) e rpu parametrsta. Myöskää ehdolle todeäkösyys Pr( S( X) = s T( X) = t) = Pr( X { x S( x) = s} T( X) = t) e rpu parametrsta, koska tuusluku T(X) o tyhjetävä. Ste se todstamseks, että tuusluvut T(X) ja S(X) ovat rppumattoma, rttää osottaa, että Pr( S( X) = s T( X) = t) = Pr( S( x) = s) kaklle t Τ. Kokoastodeäkösyyde kaava mukaa Edellee, koska Pr( S( x) = s) = Pr( S( X) = s T( X) = t)pr ( T( X) = t) t Τ t Τ Pr ( T( X) = t) = Pr( S( x) = s) = Pr( S( X) = s)pr ( T( X) = t) t Τ Määrtellää tuusluku g( t) = Pr( S( X) = s T( X) = t) Pr( S( X) = s) Yllä estetystä seuraa, että E[ gt ()] = gt ()Pr( T( X) = t) = 0 t Τ kaklle. Koska T(X) o täydelle, g(t) = 0 kaklle t Τ, jollo Pr( S( X) = s T( X) = t) = Pr( S( X) = s) Ilkka Mell (007) 0/7

21 Mat.36 Tlastolle päättely. Data reduso peraatteet Esmerkk.0: Otos ekspoettperheestä Oletetaa, että havaot X, X,, X muodostavat satuasotokse ekspoettperheestä, joka pstetodeäkösyys ta theysfukto o k f( x; ) = h( x) c( )exp w( ) t( x) = jossa = (,,, k ). Tällö tuusluku TX ( ) = t ( X j), K, tk( X j) j= j= o täydelle, jos joukko {( w ( ), K, w ( )) Θ} k Lause: (Θ o parametr mahdollste arvoje muodostama parametravaruus) ssältää jouko avome jouko. Jos mmaalsest tyhjetävä tuusluku o olemassa, jokae täydelle tuusluku o mmaalsest tyhjetävä. k.. Uskottavuus Uskottavuusfukto Olkoo f ( x; ) otokse X= (,,, ) X X K X yhtesjakauma pstetodeäkösyys ta theysfukto. Oletetaa, että X= x= (,, K, ) x x x o otokse X havattu arvo el havatopste, tällö parametr fuktota L( ; x) = f( x; ) kutsutaa (otokse X) uskottavuusfuktoks. Jos X o dskreett satuasvektor, L( ; x) = Pr ( X= x) Ilkka Mell (007) /7

22 Mat.36 Tlastolle päättely. Data reduso peraatteet Jos vertaamme uskottavuusfukto arvoa kahdessa er parametravaruude psteessä ja havatsemme, että Pr ( X= x) = L( ; x) > L( ; x) = Pr ( X= x) otos, joka olemme havaeet o uskottavamp, jos ku sllo, ku = = Uskottavuusperaate Olkoot x ja y ovat kaks havatopstettä, jolle L( ; x) L( ; y) el, jolle o olemassa parametrsta rppumato vako C(x,y) ste, että L( ; x) = L( ; y) C( xy, ) Tällö uskottavuusperaate saoo, että havatopstestä x ja y ptää tehdä samat parametra johtopäätökset. Erkostapauksessa C(x,y) = uskottavuusperaate saoo, että jos kaks havatopstettä x ja y tuottavat sama uskottavuusfukto, e ssältävät sama formaato parametrsta. Fdusaalsuus Fdusaalsuusperaattee mukaa uskottavuudet vodaa tulkta todeäkösyyksks. Tämä merktsee stä, että jos uskottavuusfukto L( ; x) jaetaa ormeeraustekjällä + = N( x) L( ; x) d (jos parametravaruus o umerotuva, o tegraal korvattava summalla) L( ; x) N ( x) vodaa tulkta parametr todeäkösyysjakaumaks (olettae, että N(x) < ). O syytä ottaa huomoo, että houkuttelevuudestaa huolmatta usemmat tlastotetee teora edustajat evät hyväksy fdusaalsuusperaatetta. Esmerkk.: Normaal fdusaale jakauma Oletetaa, että havaot X, X,, X Ilkka Mell (007) /7

23 Mat.36 Tlastolle päättely. Data reduso peraatteet muodostavat satuasotokse ormaaljakaumasta N(µ,σ ) kute esmerkssä., jossa oletett, että varassparametr σ o tuettu. Esmerkssä. todett, että otokse yhtesjakauma theysfukto f(x;) vodaa faktoroda seuraavalla tavalla: / f( x; µ ) = ( π) σ exp ( x ) exp ( ) x x µ σ = σ Ste otokse X, X,, X uskottavuusfukto o muotoa / L( µ ; x) = ( π) σ exp ( x ) exp ( ) x x µ σ = σ Olkoot x ja y kaks havatopstettä. Tällö jos ja va jos jollo L( µ ; x) = L( µ ; y) C( xy, ) x = y C( xy, ) = exp ( x x) ( y y) σ = = Ste uskottavuusperaatteesta seuraa, että havatopstestä x ja y ptää tehdä samat johtopäätökset parametrsta µ, jos x = y Fdusaale todeäkösyysjakauma parametrlle µ saadaa jakamalla uskottavuusfukto L(;x) ormeeraustekjällä Tulokseks saadaa + N( x) = L( µ ; x) dµ ( )/ ( ) = ( π) σ exp ( x ) x σ = L( µ ; x) / = ( π) σ exp ( x µ ) N( x) σ Ste parametr µ fdusaale jakauma o ormaaljakauma N( x, / ) σ. Evdess Olkoo X satuasvektor, joka pstetodeäkösyys ta theysfukto o f(x;) ja olkoo parametravaruude Θ pste. Kutsutaa kolmkkoa tlastollseks kokeeks. E = ( X,,{ f( x; )}) Ilkka Mell (007) 3/7

24 Mat.36 Tlastolle päättely. Data reduso peraatteet Oletetaa, että o tehty tlastolle koe E, jollo o havattu otos X = x ja haluamme tehdä otokse perusteella jok parametra koskeva johtopäätökse. Olkoo tämä johtopäätös Ev(E,x) mkä tarkotetaa kokeesee E ja havatoh x ssältyvää evdessä parametrsta. Formaal tyhjetävyysperaate Formulodaa tyhjetävyysperaate uudellee. Olkoo E = ( X,,{ f( x; )}) tlastolle koe ja olkoo tuusluku T(X) tyhjetävä parametrlle. Jos x ja y ovat kaks havatopstettä, jolle Ehdollsuusperaate Olkoot ja T(X) = T(Y) Ev(E,x) = Ev(E,y) E = ( X,,{ f ( x ; )}) E = ( X,,{ f ( x ; )}) kaks tlastollsta koetta, jolla e välttämättä ole muta yhtesä elemettejä ku parametr. Olkoo J satuasmuuttuja, jolle (rppumatta parametrsta ja satuasmuuttujsta X ja X ) Pr( J = ) = Pr( J = ) = 0.5 Tarkastellaa sekotettua koetta, jossa havataa es satuasmuuttuja J arvo ja tehdää se jälkee koe E J. Tämä merktsee stä, että sekotettu koe o muotoa jossa ja E = ( X,,{ f ( x ; )}) X = ( j, X ) Ehdollsuusperaattee mukaa j f ( x ; ) = f (( j, xj); ) = f j( xj; ) Ev( E,( j, x )) = Ev( E, x ) j j j Ilkka Mell (007) 4/7

25 Mat.36 Tlastolle päättely. Data reduso peraatteet Ehdollsuusperaate saoo, että jos valtsemme kahdesta tlastollsesta kokeesta tose satuasest ja havatsemme kokee tuloksea havatopstee x, parametrsta saatava formaato rppuu aoastaa tehdystä kokeesta. Formaal uskottavuusperaate Olkoot ja E = ( X,,{ f ( x ; )}) E = ( X,,{ f ( x ; )}) kaks tlastollsta koetta, jolla e välttämättä ole muta yhtesä elemettejä ku parametr. Oletetaa, että edellee, että x o havatopste kokeesta E ja L( ; x ) = CL( ; x ) kaklle. Vako C saa rppua havatopstestä Formaal uskottavuusperaattee mukaa Ev( E, x ) = Ev( E, x ) x o havatopste kokeesta E. Oletetaa x ja Formaalsta uskottavuusperaatteesta seuraa, että jos o tlastolle koe, E = ( X,,{ f( x; )}) Ev(E,x) saa rppua kokeesta E ja havatopsteestä x va uskottavuusfukto kautta. L(; x) Brbaum teoreema: x, mutta e saa rppua parametrsta. Formaal tyhjetävyysperaate ja ehdollsuusperaate mplkovat formaal uskottavuusperaattee, ja käätäe, formaal uskottavuusperaate mplko formaal tyhjetävyysperaattee ja ehdollsuusperaattee. Todstus (luoos): () Todstetaa, että formaal tyhjetävyysperaate ja ehdollsuusperaate mplkovat formaal uskottavuusperaattee. Olkoot (kute formaalssa uskottavuusperatteessa) ja E = ( X,,{ f ( x ; )}) E = ( X,,{ f ( x ; )}) Ilkka Mell (007) 5/7

26 Mat.36 Tlastolle päättely. Data reduso peraatteet kaks tlastollsta koetta, jolla e välttämättä ole muta yhtesä elemettejä ku parametr ja olkoot lsäks x o havatopste kokeesta E ja x o havatopste kokeesta E. Olkoo (kute ehdollsuusperaatteessa) E = ( X,,{ f ( x ; )}) sekotettu koe, jossa havataa es satuasmuuttuja J arvo ja tehdää se jälkee koe E J, jossa ja X = ( j, X ) j f ( x ; ) = f (( j, xj); ) = f j( xj; ) Määrtellää kokee E otosavaruudessa tuusluku (, x ), jos j = ja x = x ta j = ja x = x T( j, xj ) = ( jx, j ), muullo Olkoo lsäks ja Koska g( t; ) = g(( j, x ); ) = f (( j, x ); ) j j j C, jos ( j, xj ) = (, x ) h( j, xj ) =, muullo g( T( j, x ); ) h( j, x ) = f (( j, x ); ) j j j j kaklle (j,x j ), faktorotteoreemasta seuraa, että (, ) T J x J o tyhjetävä tuusluku kokeessa E. Edellee formaalsta tyhjetävyysperaatteesta seuraa, että Ev( E,(, x )) = Ev( E,(, x )) ja ehdollsuusperaatteesta seuraa, että Ste Ev( E,(, x )) = Ev( E, x )) Ev( E,(, x )) = Ev( E, x )) Ev( E, x )) = Ev( E, x )) mkä merktsee stä, että formaal uskottavuusperaate o tos. Ilkka Mell (007) 6/7

27 Mat.36 Tlastolle päättely. Data reduso peraatteet () Todstetaa, että formaal uskottavuusperaate mplko formaal tyhjetävyysperaattee ja ehdollsuusperaattee. Tarkastellaa koketa E ja E j, jotka o määrtelty kute kohdassa (). Vodaa osottaa, että Ev( E,( j, x )) = Ev( E, x ) j j j mkä merktsee stä, että ehdollsuusperaate o tos. Edellee, jos T(X) o tyhjetävä ja T(x) = T(y) uskottavuusfuktot ovat proportoaalsa ja formaalsta uskottavuusperaatteesta seuraa, että Ev( E, x) = Ev( E, y) mkä merktsee stä, että ehdollsuusperaate o tos. Ilkka Mell (007) 7/7