Tilastollinen päättely. 2. Datan redusoinnin periaatteet Tyhjentävyys Uskottavuus

Transkriptio

1 Mat Tlastolle päättely. Data reduso peraatteet Tlastolle päättely. Data reduso peraatteet.1. Tyhjetävyys Asllaarsuus, Basu teoreema, Data redusot, Faktorotteoreema, Iformaato, Mmaale tyhjetävyys, Otos, Otostuusluku, Parametr, Rppumattomuus, Svutuusluku, Todeäkösyysjakauma, Tyhjetävyys, Tyhjetävyysperaate, Täydellsyys, Yhtesjakauma.. Uskottavuus Brbaum teoreema, Data redusot, Ehdollsuusperaate, Evdess, Fdusaalsuus, Formaal tyhjetävyysperaate, Formaal uskottavuusperaate, Otos, Otostuusluku, Parametr, Rppumattomuus, Tyhjetävyys, Tyhjetävyysperaate, Uskottavuus, Uskottavuusfukto, Uskottavuusperaate, Ilkka Mell (010) 1/8

2 Mat Tlastolle päättely. Data reduso Ilkka Mell (010) /8

3 Mat Tlastolle päättely. Data reduso peraatteet.1. Tyhjetävyys Otos ja otostuusluvut Olkoo X 1, X,, X satuasotos jakaumasta, joka pstetodeäkösyys- ta theysfukto f(x;) rppuu parametrsta. Tällö havaot X 1, X,, X ovat rppumattoma, dettsest jakautueta satuasmuuttuja, jolla o sama pstetodeäkösyys- ta theysfukto f(x;): Olkoo X, X,, X 1 X f ( x; ), 1,,, X = (X 1, X,, X ) satuasmuuttuje X 1, X,, X muodostama -vektor. Kutsumme satuasmuuttuje X 1, X,, X (mtallsa) fuktota (otos-) tuusluvuks. T X T X1 X X ( ) (,,, ) Olkoot satuasmuuttuje X 1, X,, X havatut arvot Merktää tätä: x 1, x,, x X 1 = x 1, X = x,, X = x Satuasmuuttuje X 1, X,, X havatut arvot x 1, x,, x määräävät havatopstee x = (x 1, x,, x ) Jos satuasmuuttujat X 1, X,, X ovat saaeet otaa tuloksea havatuks arvoksee havatoarvot x 1, x,, x, tuusluku T X T X1 X X ( ) (,,, ) saa havatuks arvoksee t fukto T() arvo havatopsteessä x = (x 1, x,, x ): t T x T x1 x x ( ) (,,, ) Tyhjetävyysperaate Tuusluku T(X) o tyhjetävä parametrlle, jos se käyttää jossak melessä kake otoksessa oleva formaato parametrsta. Tämä o tyhjetävyyde av määrtelmä, joka kutek tavottaa oleaset prteet tyhjetävyyde kästteestä. Määrtelmä täsmeetää seuraavassa Ilkka Mell (010) 3/8

4 Mat Tlastolle päättely. Data reduso peraatteet Tyhjetävyysperaate saoo, että jos T(X) o tyhjetävä parametrlle, parametra koskevat johtopäätökset rppuvat otoksesta X va tuusluvu T(X) arvoje kautta. Tos saoe, jos x ja y ovat kaks havatopstettä, jolle T(x) = T(y) e johtavat samoh johtopäätöks parametrsta. Tyhjetävyys Tuusluku T(X) o tyhjetävä parametrlle, jos otokse X ehdolle jakauma kteällä tuusluvu T(X) arvolla (ehdolla T(X) = t) e rpu parametrsta. Tarkastelemme seuraavassa (ja myös jatkossa) tyhjetävyyttä ja se karaktersota va dskreette jakaume tapauksessa. Svuutamme tässä estyksessä jatkuve jakaume tapaukse kästtely she lttyve tekste hakaluukse taka. Hakaluudet jatkuve jakaume tapauksessa lttyvät she, että soveltamamme ehdollse todeäkösyyde määrtelmä e sall sellaste tapahtume ehdollste todeäkösyykse kästtely, jossa ehtotapahtuma todeäkösyys = 0 (musta, että jatkuve jakaume tapauksessa yhde pstee todeäkösyys = 0). Ehdollse todeäkösyyde määrtelmä vodaa kutek ylestää sellasee muotoo, että tästä e ole hattaa. Ste kakk se, mtä tässä (ja myös jatkossa) tyhjetävyydestä estetää dskreette jakaume tapauksessa, pätee myös jatkuve jakaume tapauksessa. Oletetaa, että tuusluku T(X) o tyhjetävä parametrlle. Olkoo t tuusluvu T(X) mahdolle arvo el sellae arvo, jolle Pr ( T ( X) t) 0 Tarkastellaa ehdollsta todeäkösyyttä Jos x o havatopste, jolle Pr ( X x T ( X) t) T(x) t Pr ( X x T ( X) t) 0 Tämä seuraa stä, että (ehdollse todeäkösyyde määrtelmä mukaa) ja jote Pr ( X x ja T ( X) t) Pr ( X x T ( X) t) Pr ( T ( X) t) { X x ja T ( X) t} { T ( X) t} Pr ( X x T ( X) t) 1 Ste vomme rajottua tarkastelemaa ehdollsa todeäkösyyksä Pr ( X x T ( X) T ( Ilkka Mell (010) 4/8

5 Mat Tlastolle päättely. Data reduso peraatteet Koska olemme olettaeet, että tuusluku T(X) o tyhjetävä parametrlle, (tyhjetävyyde määrtelmä mukaa) ehdolle todeäkösyys Pr ( X x T ( X) T ( x)) e rpu parametrsta. Ste vomme jatkossa jättää deks pos tästä ehdollsesta todeäkösyydestä ja krjottaa Pr( X x T ( X) T( x)) Tarkastelemme seuraavassa stä, mssä melessä parametrlle tyhjetävä tuusluku T(X) ssältää kake otoksessa oleva formaato parametrsta. Oletetaa, että heklö A havatsee otokse X = x ja määrää tuusluvu T(X) arvo T(x). Tehdessää päätelmä parametrsta, hä vo ss käyttää sekä tetoa stä, että X = x että tetoa stä, että T(X) = T(x). Oletetaa, että heklölle B kerrotaa va se, että tuusluku T(X) o saaut arvo T(x). Heklö B vo tämä tedo perusteella määrätä todeäkösyydet el joukossa Pr( X x T ( X) T( x)) AT ( x) y T( y) T ( x) määrtelly todeäkösyysjakauma, koska she lttyvät todeäkösyydet vodaa tyhjetävyyde määrtelmä mukaa määrätä lma tetoa parametr todellsesta arvosta. Ste A vo geeroda (esmerkks pseudosatuaslukuje avulla) havao Y, joka toteuttaa ehdo Pr( Y y T ( X) T ( x)) Pr( X y T( X) T ( x)) Kute alla osotetaa, satuasmuuttujlla X ja Y o sama e-ehdolle todeäkösyysjakauma. Tämä merktsee stä, että A:lla ja B:llä o käytettävssää täsmällee yhtä paljo formaatota parametrsta. Koska havato Y o geerotu, B: formaato parametrsta e ole adost lsäätyyt. B: ato formaato parametrsta ssältyy she, että tuusluvulla T(X) o arvo T(x). Edellä estetystä seuraa, että B:llä, joka tetää va se, että T(X) = T(x) o täsmällee yhtä paljo formaato parametrsta ku A:lla, joka tutee myös otokse X = x Täydeetää yllä estettyä tarkastelua lopuks sllä, että äytetää, että satuasmuuttujlla X ja Y o sama e-ehdolle todeäkösyysjakauma el että Pr ( X x) Pr ( Y x) Huomaa, että tapahtumat {X = x} ja {Y = x} ovat tapahtuma {T(X) = T(x)} osajoukkoja. Lsäks Pr( X x T ( X) T ( x)) Pr( Y x T( X) T( x)) ja ämä ehdollset todeäkösyydet evät rpu Ilkka Mell (010) 5/8

6 Mat Tlastolle päättely. Data reduso peraatteet Ste Pr ( X x) Pr ( X x ja T ( X) T( x)) Pr( X x T ( X) T ( x)) Pr ( T ( X) T ( x)) Pr( Y x T ( X) T ( x)) Pr ( T ( X) T ( x)) Pr ( Y x ja T ( X) T ( x)) Pr ( Y x) Tyhjetävyyde karaktersot Jotta vosmme käyttää yllä estettyä tyhjetävyyde määrtelmää todstaaksemme, että tuusluku T(X) o tyhjetävä parametrlle, medä o todstettava, että ehdolle todeäkösyys Pr ( X x T ( X) t) e rpu parametr arvosta kaklle ktelle x ja t. Lause: Olkoo Perustelu: f ( x; ) otokse X yhtesjakauma pstetodeäkösyys- ta theysfukto ja q( t; ) tuusluvu T(X) pstetodeäkösyys- ta theysfukto. Tällö T(X) o tyhjetävä parametrlle, jos suhde f ( x; ) q( T ( x); ) e rpu parametrsta. Todstamme lausee va dskreette jakaume tapauksessa. Jos x o havatopste, jolle T(x) t Pr ( X x T ( X) t) 0 kaklle parametr arvolle. Ste rttää todstaa, että todeäkösyys e rpu parametrsta. Pr ( X x T ( X) T ( Ilkka Mell (010) 6/8

7 Mat Tlastolle päättely. Data reduso peraatteet Koska tapahtuma {X = x} o tapahtuma {T(X) = T(x)} osajoukko, Pr ( X x ja T ( X) T ( x)) Pr ( X x T ( X) T ( x)) Pr ( T( X) T( x)) Pr ( X x) Pr ( T( X) T ( x)) f ( x; ) q( T ( x); ) Tässä f(x;) o otokse X yhtesjakauma pstetodeäkösyysfukto ja q(t;) o tuusluvu T(X) pstetodeäkösyysfukto. Ste tuusluku T(X) o tyhjetävä parametrlle, jos ja va jos suhde f ( x; ) q( T ( x); ) e rpu parametrsta. Esmerkk 1.1: Otos ormaaljakaumasta Satuasmuuttuja X oudattaa ormaaljakaumaa parametre E( X ) Var( X ) E[( X ) ] jos se theysfukto o muotoa 1/ 1 f ( x; ) ( ) exp ( x ), 1,,, Oletamme tässä, että varass o tuettu. Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse ormaaljakaumasta N(, ). Tällö X, X,, X 1 X N(, ), 1,,, Olkoot satuasmuuttuje X 1, X,, X havatut arvot x 1, x,, x Merktää tätä: X 1 = x 1, X = x,, X = Ilkka Mell (010) 7/8

8 Mat Tlastolle päättely. Data reduso peraatteet Olkoo X = (X 1, X,, X ) satuasmuuttuje X 1, X,, X muodostama vektor ja x = (x 1, x,, x ) de havattuje arvoje muodostama vektor. Näytetää, että havatoje artmeette keskarvo 1 T ( X) X X 1 o tyhjetävä tuusluku odotusarvoparametrlle. Otokse X 1, X,, X yhtesjakauma theysfukto vodaa krjottaa satuasmuuttuje X 1, X,, X rppumattomuude taka muotoo Nyt f ( x; ) f ( x ; ) ( ) exp ( x ) 1 / 1 ( ) exp ( x ) 1 jossa ( x ) ( x x x ) ( x x) ( x x)( x ) ( x ) ( x x) ( x ) 1 1 x x T ( x) Tämä seuraa stä, että 1 1 ( x x)( x ) ( x ) ( x x) ( x ) x x 1 1 ( x ) x x 0 Ilkka Mell (010) 8/8

9 Mat Tlastolle päättely. Data reduso peraatteet Ste 1 f ( x; ) ( ) exp ( x x) ( x ) / 1 Otosjakauma koskevassa luvussa o todstettu, että yllä estettyje oletukse pätessä artmeette keskarvo T ( X) X oudattaa ormaaljakaumaa parametre ja /: X N, Ste se theysfukto o muotoa 1/ 1 1/ q( T ( x); ) ( ) exp ( x ) Koska theysfuktode 1 ( ) exp ( ) ( ) f ( x; ) q( t( x); ) 1/ 1 1/ ( ) exp ( x ) / x x x 1 1 x x 1/ ( 1)/ ( 1) ( ) exp ( ) 1 suhde e rpu parametrsta, tuusluku T ( X) X o tyhjetävä parametrlle. Tyhjetävyyde todstame tyhjetävyyde määrtelmää ojate o use hakalaa. Todstame tapahtuu tavallsest paljo helpomm vetoamalla seuraavassa estettävää faktorotteoreemaa. Faktorotteoreema: Olkoo Perustelu: f ( x; ) otokse X yhtesjakauma pstetodeäkösyys- ta theysfukto. Tuusluku T(X) o tyhjetävä parametrlle, jos ja va jos o olemassa fuktot g(t;) ja h(x) ste, että f ( x; ) g( T ( x); ) h( x) kaklle havatopstelle x ja parametr mahdollslle arvolle ja fukto g rppuu otoksesta X = x va tuusluvu T(X) kautta ja fukto h e rpu parametrsta. Todstamme lausee va dskreette jakaume tapauksessa. () Olkoo T(X) Ilkka Mell (010) 9/8

10 Mat Tlastolle päättely. Data reduso peraatteet Valtaa ja g( t; ) Pr ( T ( X) t) h( x) Pr( X x T ( X) T ( x)) Fukto g(t;) rppuu parametrsta. Mutta koska T(X) o tyhjetävä, fukto h(x) määrttelevä ehdolle todeäkösyys e rpu parametrsta. Käyttämällä hyväks yllä estettyjä määrtelmä, otokse X yhtesjakauma pstetodeäkösyysfukto f(x;) vodaa krjottaa seuraav muotoh: f ( x; ) Pr ( X x) Pr ( X x ja T ( X) T( x)) Pr ( T( X) T ( x)) Pr( X x T ( X) T ( x)) g( T( x); ) h( x) Ste otokse X yhtesjakauma pstetodeäkösyysfukto f(x;) vodaa faktoroda vaadtulla tavalla. Lsäks äemme, että Pr ( T ( X) T ( x)) g( T ( x); ) jote g( T ( x); ) o tuusluvu T(X) pstetodeäkösyysfukto. () Oletetaa, että otokse X yhtesjakauma pstetodeäkösyysfukto f(x;) vodaa faktoroda seuraavalla tavalla: f ( x; ) g( T ( X); ) h( x) Olkoo q(t;) tuusluvu T(X) pstetodeäkösyysfukto. Näyttääksemme, että T(X) o tyhjetävä, tarkastelemme suhdetta f ( x; ) q( T ( x); ) Määrtellää joukko Ste AT ( x) y T( y) T ( x) f ( x; ) g( T( x); ) h( x) q( T ( x); ) q( T ( x); ) AT ( x) AT ( x) g( T ( x); ) h( x) g( T ( x); ) h( y) g( T ( x); ) h( x) g( T ( x); ) h( y) h( x) h( y) AT ( Ilkka Mell (010) 10/8

11 Mat Tlastolle päättely. Data reduso peraatteet Koska olemme ss todstaeet, että jos suhde f ( x; ) q( T ( x); ) e rpu parametrsta, tyhjetävyyde karaktersotlauseesta seuraa, että tuusluku T(X) o tyhjetävä parametrlle. Esmerkk 1.: Otos ormaaljakaumasta (jatkoa esmerklle 1.1) Sovelletaa faktorotteoreemaa esmerk 1.1 tlateesee. Esmerkssä 1.1 todett, että otokse X 1, X,, X yhtesjakauma theysfukto vodaa krjottaa muotoo 1 f ( x; ) ( ) exp ( x x) ( x ) / 1 Ste theysfukto f(x;) vodaa faktoroda seuraavalla tavalla: Olkoo / 1 1 f ( x; ) ( ) exp ( x ) exp ( ) x x 1 1 g( t; ) exp ( x ) 1 h( x) ( ) exp ( x x) / 1 Fukto g(t;) rppuu havatoarvosta x va fukto T ( x) x kautta ja fukto h(x) e rpu tutemattomasta parametrsta. Ste faktorotteoreemasta seuraa, että tuusluku T ( X) X o tyhjetävä parametrlle. Esmerkessä 1.1 ja 1. tyhjetävää tuuslukua o ollut otokse reaalarvoe fukto ja kostukse kohteea olevaa parametra koskeva formaato otoksesta o tvstetty yhtee tuuslukuu T(x). Tlastoteteessä kohdataa kutek use tlateta, jossa parametra koskevaa formaatota e voda tvstää yhtee tuuslukuu. Tällö tyhjetävää tuuslukua T(X) o jok vektor: T( X) ( ( X),, ( X)) T1 T r Tällae o tlae use sllo, ku myös parametra o vektor: θ (,, ) 1 s Tavallsest r = s, mutta ä e tarvtse olla. Myös vektorarvoset tyhjetävät tuusluvut löydetää tavallsest helpote faktorotteoreemaa Ilkka Mell (010) 11/8

12 Mat Tlastolle päättely. Data reduso peraatteet Esmerkk 1.3: Otos ormaaljakaumasta (jatkoa esmerklle 1.1) Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse ormaaljakaumasta N(, ) kute esmerkssä 1.1, mutta oletamme yt, että sekä odotusarvoparametr että varassparametr ovat tutemattoma. Ste parametrvektora o θ (, ) Esmerk 1.1 mukaa otokse X 1, X,, X yhtesjakauma theysfukto vodaa krjottaa muotoo 1 f ( x;, ) ( ) exp ( x x) ( x ) Määrtellää otosvarass S kaavalla jossa / 1 1 S X X ( ) 1 1 Olkoo jossa X 1 X 1 1 s x x ( ) 1 1 x 1 x 1 tuusluvu S havattu arvo. Ste otokse ormaaljakautuee otokse yhtesjakauma theysfukto vodaa krjottaa muotoo jossa / 1 f ( x;, ) ( ) exp ( 1) t ( t1 ) t T ( x) x 1 1 t T ( x) s Määrtellää vektor t ( t1, Ilkka Mell (010) 1/8

13 Mat Tlastolle päättely. Data reduso peraatteet Olkoo g ( t; θ) f ( x;, ) h( x) 1 Olemme ss äyttäeet, että f ( x;, ) g( t, t ;, ) h( x) g( T ( x), T ( x);, ) h( x) 1 1 jossa fukto g rppuu otoksesta X = x va tuusluvu kautta ja fukto h e rpu parametrsta = (, ). Ste faktorotteoreemasta seuraa, että tuusluku T X X X ( ) ( T1 ( ), T ( )) ( X, S ) o tyhjetävä parametrlle = (, ). Esmerkk 1.4: Otos ekspoettperheestä Oletetaa, että havaot T X X X ( ) ( T1 ( ), T ( )) ( X, S ) X 1, X,, X muodostavat satuasotokse ekspoettperheestä, joka pstetodeäkösyys- ta theysfukto o muotoa k f ( x; θ) h( x) c( θ)exp w ( θ) t ( x) 1 jossa = ( 1,,, d ), d k. Tällö tuusluku T( X) t1( X j ),, tk ( X j ) j1 j1 o tyhjetävä parametrlle. Huomautus: Huomattava osa tlastotetee tavaomassta todeäkösyysjakaumsta kuuluu ekspoettperheesee. Tällasa jakauma ovat esmerkks sellaset dskreett jakaumat kute Beroulljakauma, bomjakauma, geometre jakauma, egatve bomjakauma ja Possojakauma sekä sellaset jatkuvat jakaumat kute ekspoettjakauma, ormaaljakauma, gammajakauma, -jakauma ja betajakauma. Tyhjetävä tuusluvu fuktode tyhjetävyys Lause: Perustelu: Jokae tyhjetävä tuusluvu bjekto o tyhjetävä. Olkoo fukto r bjekto, joka käätesfukto o r Ilkka Mell (010) 13/8

14 Mat Tlastolle päättely. Data reduso peraatteet Oletetaa, että T(X) o tyhjetävä tuusluku ja T ( x) r( T( x)) kaklle x. Faktorotteoreema mukaa o olemassa fuktot g ja h ste, että Määrtellää Tällö f g T h g r T h 1 ( ; ) ( ( ); ) ( ) ( x X x ( ( X)); ) ( x) g t g r t 1 ( ; ) ( ( ); ) f ( x; ) g ( T ( X); ) h( x) jote faktorotteoreema mukaa tuusluku T (X) o tyhjetävä. Esmerkk 1.5: Otos ormaaljakaumasta (jatkoa esmerklle 1.3) Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse ormaaljakaumasta N(, ) kute esmerkssä 1.1, mutta oletamme yt, että sekä odotusarvoparametr että varassparametr ovat tutemattoma. Esmerkssä 1.3 todett, että tuusluku T X X X ( ) ( T1 ( ), T ( )) ( X, S ) o tyhjetävä parametrlle = (, ). Koska kuvaus X, X ( X, S ) 1 1 o bjekto, myös havatoje X 1, X,, X summa 1 ja elösumma 1 X X ovat yhdessä tyhjetävä parametrelle ja. Mmaale tyhjetävyys Tyhjetävä tuusluku T(X) o mmaalsest tyhjetävä, jos T(X) o jokase (muu) tyhjetävä tuusluvu Ilkka Mell (010) 14/8

15 Mat Tlastolle päättely. Data reduso peraatteet Tällä tarkotetaa seuraavaa: Jos T (X) o melvaltae tyhjetävä tuusluku ja T (x) = T (y) tällö T(X) o mmaalsest tyhjetävä, jos T(x) = T(y) Mmaalse tyhjetävyyde karaktersot Lause: Olkoo Perustelu: f ( x; ) otokse X yhtesjakauma pstetodeäkösyys- ta theysfukto. Oletetaa, että fuktolla T(X) o seuraava omasuus: Suhde f ( x; ) f ( y; ) e rpu parametrsta (el o vako parametr fuktoa), jos ja va jos T(x) = T(y) Tällö tuusluku T(X) o mmaalsest tyhjetävä. Todstukse ykskertastamseks oletetaa, että f ( x; ) 0 kaklle havatopstelle x ja parametr arvolle. () Näytetää es, että tuusluku T(X) o tyhjetävä. Olkoo T t t T( x) jollek x X jossa o kakke mahdollste havatopstede x joukko. Ste o jouko kuva kuvauksessa T(x). Olkoo A x T ( x) t t kuvaukse T(x) määrttelemä ostus joukossa. Valtaa jokasesta joukosta A t yks melvaltae alko x t A t. Tällö xt ( x) At jokaselle x X. Koska x ja xt ( x) t kuuluvat aa samaa joukkoo A t, T ( x) T ( x ) ja suhde f ( x; ) f ( x ; ) T ( x) T ( Ilkka Mell (010) 15/8

16 Mat Tlastolle päättely. Data reduso peraatteet o vako parametr fuktoa. Ste vomme määrtellä fukto h( x) f ( x; ) f ( x ; ) T ( x) joukossa X ja fukto h(x) e rpu parametrsta. Määrtellää velä fukto g( t; ) f ( x ; ) joukossa. Yllä estetystä seuraa, että t f ( x ; ) f ( x; ) f h g T h f ( x ; ) T ( x) ( x; ) ( x) ( ( x); ) ( x) T ( x) () jote tuusluku T(X) o faktorotteoreema mukaa tyhjetävä parametrlle. Näytetää, että tuusluku T(X) o mmaalsest tyhjetävä. Olkoo T (X) melvaltae toe tyhjetävä tuusluku. Faktorotteoreema mukaa o olemassa fuktot g ja h ste, että f ( x; ) g( T( x); ) h( x) Olkoot x ja y kaks havatopstettä, jolle T (x) = T (y). Tällö f ( x ; ) g( T( ); ) h( ) h( ) x x x f ( y; ) g( T( y); ) h( y) h( y) Koska tämä suhde e rpu parametrsta, oletuksesta seuraa, että T(x) = T(y) jote tuusluku T(x) o tuusluvu T (x) fukto. Koska T (X) ol valttu melvaltasest, tuusluku T(X) o mmaalsest tyhjetävä. Esmerkk 1.6: Otos ormaaljakaumasta (jatkoa esmerkelle ) Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse ormaaljakaumasta N(, ) kute esmerkssä 1.1, jossa oletett, että varassparametr o tuettu. Esmerkessä 1.1 ja 1. todett, että tuusluku T ( X) X o tyhjetävä Ilkka Mell (010) 16/8

17 Mat Tlastolle päättely. Data reduso peraatteet Esmerk 1.3 mukaa otokse X 1, X,, X yhtesjakauma theysfukto vodaa krjottaa muotoo jossa 1 f ( x; ) ( ) exp ( x x) ( x ) / 1 ( ) exp ( 1) t ( t1 ) t T ( x) x 1 1 t T ( x) s / 1 Ste faktorotteoreemasta seuraa, että myös tuusluku T X X X ( ) ( T1 ( ), T ( )) ( X, S ) o tyhjetävä parametrlle. Tuusluku T ( X) X selväst reduso havatoaesto vomakkaamm ku tuusluku T X X X ( ) ( T1 ( ), T ( )) ( X, S ) koska emme velä tue otosvarass arvoa, jos tuemme tuusluvu T ( X) X Tuusluku T(X) o tuusluvu T (X) fukto, mkä ähdää määrttelemällä fukto jollo r( a, b) a r r T T r x s x T ( T ( x)) ( 1( x), ( x)) (, ) ( x) Koska tuusluvut T(X) ovat T (X) tyhjetävä parametrlle, e ssältävät sama formaato parametrsta. Ste otosvarass S ssältyvä lsäformaato e lsää tetoamme parametrsta, ku varass o tuettu. Jos varass o tutemato, tuusluku T ( X) X e ole tyhjetävä ja tuusluku T X X X ( ) ( T1 ( ), T ( )) ( X, S ) ssältää tuuslukua T ( X) X eemmä formaatota parametrsta = (, ). Ilkka Mell (010) 17/8

18 Mat Tlastolle päättely. Data reduso peraatteet Esmerkk 1.7: Otos ormaaljakaumasta (jatkoa esmerkelle ja 1.6) Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse ormaaljakaumasta N(, ) kute esmerkssä 1.1, mutta oletamme yt, että sekä odotusarvoparametr että varassparametr ovat tutemattoma. Olkoot x ja y kaks melvaltasta havatopstettä ja olkoot x, y, s, s x y havatoarvosta x 1, x,, x ja y 1, y,, y määrätyt artmeettset keskarvot ja otosvarasst. Esmerk 1.3 mukaa vomme krjottaa Ste suhde f f f f / 1 ( ) exp ( 1) s ( ) x x ( x;, ) / 1 ( ) exp ( 1) s ( ) y y 1 ( y;, ) ( x;, ) ( y;, ) exp ( 1)( s ) ( ) ( ) x sy x y x y o rppumato parametresta ja, jos ja va jos x y s s x y Ste mmaalse tyhjetävyyde karaktersotlauseesta seuraa, että tuusluku ( X, S ) o mmaalsest tyhjetävä parametrlle (, ). Asllaarsuus Tuusluku S(X) o asllaare tuusluku el svutuusluku, jos se jakauma e rpu parametrsta. Esmerkk 1.8: Pakkaparametrperhe ja havatoje vahteluväl Olkoo f(x) theysfukto ja olkoo < < + parametr. Tällö parametr deksomaa theysfuktode perhettä f(x Ilkka Mell (010) 18/8

19 Mat Tlastolle päättely. Data reduso peraatteet kutsutaa pakkaparametrperheeks, joka stadardtheysfukto o f(x) ja, joka pakkaparametra o. Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse pakkaparametrperheestä, joka kertymäfukto o Olkoot F(x ), < < + X (1), X (),, X () otoksee X 1, X,, X lttyvät järjestystuusluvut. Näytämme, että vahteluväl ptuus R = X () X (1) o asllaare tuusluku. Olkoo Z 1, Z,, Z otos jakaumasta F(x), jossa ss = 0 ja olkoot X 1 = Z 1 +, X = Z +,, X = Z + Tällö tuusluvu R kertymäfukto o F ( r; ) Pr( R r) R Pr(max X m X r) Pr(max( Z ) m( Z ) r) Pr(max( Z ) m( Z ) r) Pr(max( Z ) m( Z ) r) mkä e rpu pakkaparametrsta, koska satuasmuuttuje Z 1, Z,, Z jakauma e rpu pakkaparametrsta. Ste vahteluväl R o asllaare tuusluku. Esmerkk 1.9: Skaalaparametrperhe ja havatoje osamäärät Olkoo f(x) theysfukto ja olkoo > 0 parametr. Tällö parametr deksomaa theysfuktode perhettä f(x/) kutsutaa skaalaparametrperheeks, joka stadardtheysfukto o f(x) ja, joka skaalaparametra o. Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse pakkaparametrperheestä, joka kertymäfukto o F(x/), > Ilkka Mell (010) 19/8

20 Mat Tlastolle päättely. Data reduso peraatteet Näytämme, että kakk tuusluvut, jotka rppuvat otoksesta aoastaa suhtede X 1 /X, X /X,, X 1 /X kautta ovat asllaarsa. Olkoo Z 1, Z,, Z otos jakaumasta F(x), jossa ss = 1 ja olkoot X 1 = Z 1, X = Z,, X = Z Tällö satuasmuuttuje X 1 /X, X /X,, X 1 /X yhtesjakauma kertymäfukto o F( y,, y ; ) Pr( X / X y,, X / X y ) Pr( Z /( Z ) y,, Z /( Z ) y ) Pr( Z / Z y,, Z / Z y ) mkä e rpu skaalaparametrsta, koska satuasmuuttuje Z 1, Z,, Z jakauma e rpu skaalaparametrsta. Ste tuuslukuje X 1 /X, X /X,, X 1 /X jakauma o rppumato skaalaparametrsta ja o myös mkä tahasa tuuslukuje X 1 /X, X /X,, X 1 /X fukto. Täydellsyys Olkoo g( t; ) pstetodeäkösyys- ta theysfuktode perhe tuusluvulle T(X). Jakaumaperhe o täydelle, jos stä, että kaklle seuraa, että E[ g( t; )] 0 Pr( g( t; ) 0) 1 kaklle. Tällö myös tuuslukua T(X) kutsutaa täydellseks. Täydellsyys o mmaalsest tyhjetävä tuusluvu omasuus, joka takaa se, että ko. tuusluku o rppumato kaksta asllaarssta tuusluvusta el svutuusluvusta. Basu teoreema: Perustelu: Jos tuusluku T(X) o täydelle ja mmaalsest tyhjetävä, T(X) o rppumato kaksta asllaarssta tuusluvusta. Todstamme lausee va dskreette jakaume tapauksessa. Olkoo S(X) melvaltae asllaare tuusluku. Tällö todeäkösyys Pr( S( X) s) e rpu Ilkka Mell (010) 0/8

21 Mat Tlastolle päättely. Data reduso peraatteet Myöskää ehdolle todeäkösyys Pr( S( X) s T ( X) t) Pr( X { x S( x) s} T ( X) t) e rpu parametrsta, koska tuusluku T(X) o tyhjetävä. Ste se todstamseks, että tuusluvut T(X) ja S(X) ovat rppumattoma, rttää osottaa, että Pr( S( X) s T( X) t) Pr( S( x) s) kaklle t. Kokoastodeäkösyyde kaava mukaa Edellee, koska Pr( S( x) s) Pr( S( X) s T ( X) t) Pr ( T( X) t) tt tt Pr ( T ( X) t) 1 Pr( S( x) s) Pr( S( X) s) Pr ( T ( X) t) tt Määrtellää tuusluku g( t) Pr( S( X) s T ( X) t) Pr( S( X) s) Yllä estetystä seuraa, että E [ g( t)] g( t) Pr ( T( X) t) 0 tt kaklle. Koska T(X) o täydelle, tästä seuraa, että g(t) = 0 kaklle t, jollo Pr( S( X) s T( X) t) Pr( S( X) s) Esmerkk 1.10: Otos ekspoettperheestä Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse ekspoettperheestä, joka pstetodeäkösyys- ta theysfukto o k f ( x; θ) h( x) c( θ)exp w ( θ) t ( x) 1 jossa = ( 1,,, k Ilkka Mell (010) 1/8

22 Mat Tlastolle päättely. Data reduso peraatteet Tällö tuusluku T( X) t1( X j ),, tk ( X j ) j1 j1 o täydelle, jos joukko ( w ( θ),, w ( θ)) θ 1 k ( o parametr mahdollste arvoje muodostama parametravaruus) ssältää avaruude k avome jouko. Basu teoreema todstuksessa e ole käytetty hyväks tyhjetävä tuusluvu mmaalsuutta. Itse asassa vodaa todstaa, että seuraava lause pätee: Lause: Jos mmaalsest tyhjetävä tuusluku o olemassa, jokae täydelle tuusluku o mmaalsest tyhjetävä. Ste vaatmus tyhjetävä tuusluvu mmaalsuudesta Basu teoreemassa o Ilkka Mell (010) /8

23 Mat Tlastolle päättely. Data reduso peraatteet.. Uskottavuus Uskottavuusfukto Olkoo otokse f ( x; ) X (,,, ) X1 X X yhtesjakauma pstetodeäkösyys- ta theysfukto. Oletetaa, että x x1 x x (,,, ) o otokse X havattu arvo el havatopste. Tällö parametr fuktota L( ; x) f ( x; ) kutsutaa (otokse X) uskottavuusfuktoks. Ertysest, jos X o dskreett satuasmuuttuja, L( ; x) Pr ( X x) Jos vertaamme uskottavuusfukto arvoa kahdessa er parametravaruude psteessä ja havatsemme, että Pr ( X x) L( ; x) L( ; x) Pr ( X x) 1 1 otos, joka olemme havaeet, o uskottavamp, jos ku sllo, ku = 1 = Uskottavuusperaate Olkoot x ja y ovat kaks havatopstettä, jolle L( ; x) L( ; y) el jolle o olemassa parametrsta rppumato vako C(x, y) ste, että L( ; x) L( ; y) C( x, y) Uskottavuusperaattee mukaa havatopstestä x ja y ptää tällö tehdä samat parametra johtopäätökset. Erkostapauksessa C(x, y) = 1 uskottavuusperaate saoo, että jos havatopsteet x ja y tuottavat sama uskottavuusfukto, havatopsteet x ja y ssältävät sama formaato Ilkka Mell (010) 3/8

24 Mat Tlastolle päättely. Data reduso peraatteet Fdusaalsuus Fdusaalsuusperaattee mukaa uskottavuudet vodaa tulkta todeäkösyyksks. Tämä merktsee stä, että jos uskottavuusfukto L( ; x) jaetaa ormeeraustekjällä N( x) L( ; x) d (jos parametravaruus o äärelle ta umerotuva, tegraal o korvattava summalla) L( ; x) N( x) vodaa tulkta parametr todeäkösyysjakaumaks (olettae, että N(x) < ). O syytä ottaa huomoo, että houkuttelevuudestaa huolmatta moet tlastotetee teora keskesstä kehttäjstä evät ole hyväksyeet fdusaalsuusperaatetta. Esmerkk.1: Normaale fdusaale jakauma Oletetaa, että havaot X 1, X,, X muodostavat satuasotokse ormaaljakaumasta N(, ) kute esmerkssä 1.1, jossa oletett, että varassparametr o tuettu. Esmerkssä 1. todett, että otokse yhtesjakauma theysfukto f(x;) vodaa faktoroda seuraavalla tavalla: / 1 1 f ( x; ) ( ) exp ( x ) exp ( ) x x 1 Ste otokse X 1, X,, X uskottavuusfukto o muotoa / 1 1 L( ; x) ( ) exp ( x ) exp ( ) x x 1 Olkoot x ja y kaks havatopstettä. Tällö jos ja va jos jollo L( ; x) L( ; y) C( x, y) x y 1 C( x, y) exp ( x x) ( y y) 1 Ilkka Mell (010) 4/8

25 Mat Tlastolle päättely. Data reduso peraatteet Ste uskottavuusperaatteesta seuraa, että havatopstestä x ja y ptää tehdä samat johtopäätökset parametrsta, jos x y Fdusaale todeäkösyysjakauma parametrlle saadaa jakamalla uskottavuusfukto L(;x) ormeeraustekjällä Tulokseks saadaa N( x) L( ; x) d ( 1)/ ( 1) 1 1 ( ) exp ( x ) x 1 L( ; x) 1/ 1 ( ) exp ( x ) N( x) Ste parametr fdusaalsea jakaumaa o ormaaljakauma N( x, / ). Evdess Olkoo X satuasvektor, joka pstetodeäkösyys- ta theysfukto o f(x;) ja olkoo parametravaruude pste. Kutsutaa kolmkkoa tlastollseks kokeeks. E ( X,,{ f ( x; )}) Oletetaa, että o tehty tlastolle koe E, jollo o havattu otos X = x ja haluamme tehdä otokse X = x perusteella jok parametra koskeva johtopäätökse. Olkoo tämä johtopäätös Ev(E,x) mllä tarkotetaa kokeesee E ja havatoh x ssältyvää evdessä parametrsta. Formaal tyhjetävyysperaate Formulodaa tyhjetävyysperaate uudellee. Olkoo E ( X,,{ f ( x; )}) tlastolle koe ja olkoo tuusluku T(X) tyhjetävä parametrlle. Jos x ja y ovat kaks havatopstettä, jolle T(X) = T(Y) Ev(E,x) = Ilkka Mell (010) 5/8

26 Mat Tlastolle päättely. Data reduso peraatteet Ehdollsuusperaate Olkoot ja E ( X,,{ f ( x ; )}) E ( X,,{ f ( x ; )}) kaks tlastollsta koetta, jolla e välttämättä ole muta yhtesä elemettejä ku parametr. Olkoo J satuasmuuttuja, jolle (rppumatta parametrsta ja satuasmuuttujsta X 1 ja X ) Pr( J 1) Pr( J ) 0.5 Tarkastellaa sekotettua koetta, jossa havataa es satuasmuuttuja J arvo ja tehdää se jälkee koe E J. Tämä merktsee stä, että sekotettu koe o muotoa jossa ja E X ( X,,{ f ( x ; )}) ( j, X ), j 1, Ehdollsuusperaattee mukaa j 1 f ( x ; ) f (( j, x j ); ) f j ( x j; ), j 1, Ev( E,( j, x )) Ev( E, x ), j 1, j j j Ehdollsuusperaate saoo, että jos valtsemme kahdesta tlastollsesta kokeesta tose satuasest ja havatsemme kokee tuloksea havatopstee x, parametrsta saatava formaato rppuu aoastaa tehdystä kokeesta. Formaal uskottavuusperaate Olkoot ja E ( X,,{ f ( x ; )}) E ( X,,{ f ( x ; )}) kaks tlastollsta koetta, jolla e välttämättä ole muta yhtesä elemettejä ku parametr. Oletetaa, että edellee, että x 1 o havatopste kokeesta E 1 ja x L( ; x ) CL( ; x ) 1 o havatopste kokeesta E. Oletetaa kaklle. Vako C saa rppua havatopstestä x 1 ja x, mutta e saa rppua Ilkka Mell (010) 6/8

27 Mat Tlastolle päättely. Data reduso peraatteet Formaal uskottavuusperaattee mukaa Ev( E, x ) Ev( E, x ) 1 1 Formaalsta uskottavuusperaatteesta seuraa, että jos o tlastolle koe, E ( X,,{ f ( x; )}) Ev(E,x) saa rppua kokeesta E ja havatopsteestä x va uskottavuusfukto kautta. L(; x) Brbaum teoreema: Formaal tyhjetävyysperaate ja ehdollsuusperaate mplkovat formaal uskottavuusperaattee, ja käätäe, formaal uskottavuusperaate mplko formaal tyhjetävyysperaattee ja ehdollsuusperaattee. Perustelu (luoos): () Todstetaa, että formaal tyhjetävyysperaate ja ehdollsuusperaate mplkovat formaal uskottavuusperaattee. Olkoot (kute formaalssa uskottavuusperaatteessa) ja E ( X,,{ f ( x ; )}) E ( X,,{ f ( x ; )}) kaks tlastollsta koetta, jolla e välttämättä ole muta yhtesä elemettejä ku parametr ja olkoot lsäks x1 o havatopste kokeesta E 1 ja x o havatopste kokeesta E. Olkoo (kute ehdollsuusperaatteessa) E ( X,,{ f ( x ; )}) sekotettu koe, jossa havataa es satuasmuuttuja J arvo ja tehdää se jälkee koe E J, jossa ja X ( j, X ), j 1, j 1 f ( x ; ) f (( j, x j ); ) f j ( x j; ), j 1, Määrtellää kokee E otosavaruudessa tuusluku (1, x ), jos j 1 ja x x ta j ja x x T ( j, x j ) ( j, x j ), muullo 1 1 Ilkka Mell (010) 7/8

28 Mat Tlastolle päättely. Data reduso peraatteet Olkoo lsäks ja Koska g( t; ) g(( j, x ); ) f (( j, x ); ), j 1, j j j C, jos ( j, x j ) (, x) h( j, x j ) 1, muullo g( T ( j, x ); ) h( j, x ) f (( j, x ); ), j 1, j j j j kaklle (j, x j ), faktorotteoreemasta seuraa, että (, ) T J x J () o tyhjetävä tuusluku kokeessa E. Edellee formaalsta tyhjetävyysperaatteesta seuraa, että Ev( E,(1, x )) Ev( E,(, x )) 1 ja ehdollsuusperaatteesta seuraa, että Ste Ev( E,(1, x )) Ev( E, x )) Ev( E,(, x )) Ev( E, x )) Ev( E, x )) Ev( E, x )) 1 1 mkä merktsee stä, että formaal uskottavuusperaate o tos. Todstetaa, että formaal uskottavuusperaate mplko formaal tyhjetävyysperaattee ja ehdollsuusperaattee. Tarkastellaa koketa E ja E j, jotka o määrtelty kute kohdassa (). Vodaa osottaa, että Ev( E,( j, x )) Ev( E, x ), j 1, j j j mkä merktsee stä, että ehdollsuusperaate o tos. Edellee, jos T(X) o tyhjetävä ja T(x) = T(y) uskottavuusfuktot ovat proportoaalsa ja formaalsta uskottavuusperaatteesta seuraa, että Ev( E, x) Ev( E, y) mkä merktsee stä, että ehdollsuusperaate o Ilkka Mell (010) 8/8