MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi Viikko 4

Transkriptio

1 MS-A Todeäkösyyslaskea ja tlastotetee peruskurss Vkko Tlastollste aestoje kerääme ja mttaame; tlastollste aestoje kuvaame; Otokset ja otosjakaumat; Estmot; Estmotmeetelmät; Vällestmot Mtä tlastotede o? Tlastotede kehttää ja soveltaa meetelmä ja malleja, jode avulla reaalmaalma lmöstä vodaa tehdä johtopäätöksä tlatessa, jossa lmötä koskev tetoh lttyy epävarmuutta ja satuasuutta. Mallt ja meetelmät perustuvat todeäkösyyslasketaa. Tlastotedettä vodaa soveltaa kakkalla mssä tuotetaa reaalmaalma lmötä kuvaavaa kvattatvsta tetoa. Jokae emprse tutkmukse havatoaesto o tlastotetee tutkmukse mahdolle kohde. Tlastolle aesto Tlastollse tutkmukse kakk mahdollset kohteet muodostavat tutkmukse (kohde-) perusjouko. Tutkmukse kohteks valttuja perusjouko alkota kutsutaa havatoyksköks. Tlastolle aesto koostuu havatoykskötä kuvaave muuttuje havatusta arvosta. Tlastollse kuvalu meetelmä: Tlastografkka, tlastollset tuusluvut, tlastollset mallt Tlastollse päättely meetelmä: Tlastollset mallt, tlastolle estmot, tlastolle testaus Aesto kerääme ja kotrollodut kokeet Jos tutkmukse kohteea o koko perusjoukko, tutkmusta kutsutaa kokoastutkmukseks Muute kyseessä o otatatutkmus. Tutkmus o koe, jos tutktaa olosuhtede aktvse muuttamse vakutusta tutkmukse kohtes. Muute saomme, että tutkmus perustuu suor havatoh. Va kotrollodusta kokeessa vodaa tehdä luetettava johtopäätöksä Vertallaa vähtää kahde erlase kästtely vakutuksa. Kästtelyje kohdstamsessa o käytettävä satuastusta. Kokeessa tehdää rttäväst koetostoja. Mttaame ja tlastollset mtta-astekot Tutkmukse kohdetta kuvaavat kvaltatvset (laadullset) ja kvattatvset (umeerset) tedot saadaa mttaamalla: Nomaal- el laatueroasteko: Kertoo mh luokkaa mttaukse kohde kuuluu. Esm. sukupuol, asupakka. Ordaal- el järjestysastekko: Jakaa tlastoyksköt luokk, jode välllä o järjestys. Esm. opparvot: ylopplas, kaddaatt, d/master, lsesaatt, tohtor. Itervall- el välmatka-astekko: Kertoo kuka paljo kahde mtattava kohtee omasuudet eroavat tosstaa. Esm. lämpötla Celsus-astea. Suhdeasteko: Kertoo kuka mota kertaa eemmä ta vähemmä mttaukse kohteella o mtattavaa omasuutta ku jollak tosella kohteella. Esm. ptuus, opeus, lämpötla Kelvastekolla. Havatoarvot Tutktaa : havatoykskö omasuutta x Havatoarvot x, x,, x saadaa mttaamalla muuttuja x arvo havatoykskölle. Havatoarvoje jakaumaa havatoyksköde joukossa vodaa kuvalla graafsella estyksellä ta jakauma tuusluvulla Frekvess Nämä o estelty ltteessä Tlastollste aestoje kuvaame (ks Noppa, Vkko ) f Pstede jakauma x s x x m Pstemäärä k Medaa Frekvess Ruuve ptuukse luokteltu frekvessjakauma Ptuus (cm)

2 Tlastolle mall Tlastotetee keskee oletus o, että tlastollse aesto o geerout jok satuaslmö. Tutkmukse kohteta kuvaavat muuttujat tulktaa satuasmuuttujks. Havatoarvot tulktaa äde satuasmuuttuje realsaatoks Tlastollsella malllla tarkotetaa äde satuasmuuttuje todeäkösyysjakaumaa Rppuu tavallsest parametresta, jode arvoja e yleesä tueta. Parametrt o estmotava el arvotava havatoaestosta. Use parametre arvosta o estetty oletuksa ta vättetä, jota halutaa testata aestosta saatava formaato valossa Satuasotata ja satuasotokset Satuasotos: Ne perusjouko alkot, jotka o arpomalla pomttu havatoyksköks (el tutkmuksekohteks) Sattuma määrää mtkä alkosta tulevat pomtuks otoksee. Havatoykskötä kuvaave muuttuje havatut arvot ovat satuasa sä melessä, että e vahtelevat satuasest otoksesta tosee. Kakk havatusta arvosta lasketut tuusluvut ovat satuasa sä melessä, että e vahtelevat satuasest otoksesta tosee. 8 Ykskertae satuasotata Olkoot X, X,, X rppumattoma ja dettsest jakautueta satuasmuuttuja Nllä o ss sama pstetodeäkösyys- ta theysfukto f(x) Saomme, että satuasmuuttujat X, X,, X muodostavat (ykskertase) satuasotokse jakaumasta f(x). Satuasmuuttuja X, X,, X kutsutaa tavallsest havaoks. Otokse pommse jälkee satuasmuuttujat saavat havatuks arvoksee havatoarvot x, x,, x Merktää: X = x, X = x,, X = x Satuasuus e ss lty otaa tuloksea saatuh havatoarvoh, vaa pomassa sovellettuu arvotaa Tlastolle mall ykskertaselle satuasotaalle Satuasmuuttuje X, X,, X yhtesjakauma muodostaa tlastollse mall havatoarvoje satuaselle vahtelulle otoksesta tosee. Koska satuasmuuttujat X, X,, X o oletettu rppumattomks, satuasmuuttuje X, X,, X yhtesjakauma o muotoa f( x, x,, x ) f( x ) f ( x ) f( x ) mssä. Vrt. Rppumattome satuasmuuttuje yhteysjakauma tehysfukto o reuajakaume theysfuktode tulo (Vkko ) Koska X, X,, X ovat samo jakautueta, vodaa reuajakaumat merktä ) =) kaklla 9 Otostuusluvut Olkoo jok fukto. Kutsumme satuasmuuttujaa T = g(x, X,, X ) (otos-) tuusluvuks. T: jakaumaa kutsutaa tuusluvu T otosjakaumaks. T: otosjakauma muodostaa tlastollse mall tuusluvu arvoje satuaselle vahtelulle otoksesta tosee. Esmerkkejä tuusluvusta Artmeette keskarvo (vrt.,, = ) Otosvarass Frekvess Suhteelle frekvess Artmeette keskarvo Havatoje X, X,, X artmeette keskarvo: X X X X X o satuasmuuttuja, joka saamat arvot vahtelevat satuasest otoksesta tosee. Odotusarvo: = ( ) = ) = Varass: Var = Var( ) = = Perustelut: Rppumattome satuasmuuttuje summa varass (Vkko ) Stadardpokkeamaa D = kutsutaa tavallsest keskarvo keskvrheeks Otosjakauma keskttyy odotusarvo ympärlle, ku kasvaa.

3 Artmeettse keskarvo otosjakauma Jos X, X,, X muodostavat satuasotokse ormaaljakaumasta, el ), oudattaa ormaal-jakaumaa:, ) Perustelu: Normaaljakautuede satuasmuuttuje summa o ormaaljakautuut Jos havaot X, X,, X muodostavat satuasotokse jakaumasta, joka odotusarvo o ja varass o, oudattaa approksmatvsest ormaaljakaumaa: ~, Perustelu: keskee raja-arvolause Tulos pätee tety lsäehdo myös mossa sellasssa tlatessa, jossa havatoje rppumattomuutta ja samaa jakaumaa koskevat oletukset evät päde. Otosvarass Havatoje X, X,, X otosvarass S X X ( ) o satuasmuuttuja, joka saamat arvot vahtelevat satuasest otoksesta tosee. Kuvaa havatoarvoje vahtelua artmeettse keskarvo ympärllä. Odotusarvo: E( S ) Jos havaot ), =,, Otosvarass S varass: Otosvarass S stadardpokkeama Var( S ) D ( S ) D( S ) Frekvess Määrtellää dkaattorsatuasmuuttuja X X =, jos :e havatoyksköllä o jok tetty ealta määrätty omasuus A, muute X = X : pstelodeäkösyysfukto: f()=p=pr(a), f()=q=-p Frekvess = o satuasmuuttuja Kuvaa de havatoyksköde lukumäärää : kokosessa otoksessa, jolla o tetty omasuus A Odotusarvo ja varass: E( f ) p Var( f) pq Noudattaa bomjakaumaa parametre ja p: f ~B(, p) Suhteelle frekvess Suhteelle frekvess o satuasmuuttuja Kuvaa de havatoyksköde suhteellsta osuutta otoksessa, jolla o jok omasuus A Odotusarvo ja varass E( pˆ ) p ˆ Var( p) D ( p) ˆ pq Stadardpokkeamaa D = kutsutaa tavallsest suhteellse frekvess kesk-vrheeks D kuvaa otosvahtelua odotusarvosa p ympärllä Otosjakauma keskttyy yhä vomakkaamm p: ympärlle, ku otoskoko kasvaa Suhteellse frekvess asymptootte jakauma Suhteelle frekvess p =f/oudattaa suurssa otoksssa approksmatvsest ormaaljakaumaa: pq pˆ~ a N p, Perustelu: keskese raja-arvolause Ste stadardotu satuasmuuttuja ˆp p Z pq oudattaa suurssa otoksssa approksmatvsest stadardotua ormaaljakaumaa: Z ~ a N(,) Estmaattort ja estmaatt Oletetaa, että X, X,, X muodostavat satuasotokse jakaumasta f(x;) Merktää: ), : jakauma parametrt vrt. ), ~Beroull( ). Koska parametr arvoa e yleesä tueta, se täytyy estmoda otoksesta X, X,, X Parametr estmomsee käytetää jotak tuuslukua T Satuasmuuttujaa T = g(x, X,, X ) kutsutaa parametr estmaattorks Havatoarvosta x, x,, x laskettua arvoa t = g(x,x,,x ) kutsutaa parametr estmaatks 8

4 Hyvä estmaattor Todeäkösyysjakauma parametrelle o tavallsest tarjolla useta vahtoehtosa estmaattoreta Estmaattoreta vodaa raketaa esm. suurmmauskottavuude meetelmällä ta momettmeetelmällä Estmaattor valtaa ohjaavat hyvyyskrteert, jolla pyrtää takamaa se, että valttu estmaattor tuottaa järkevä arvoja estmotavalle parametrlle. Harhattomuus Tehokkuus Tarketuvuus Estmaattor harhattomuus ja harha Estmaattor T o harhato parametrlle, jos se odotusarvo yhtyy parametr arvoo:,, )= Harhato estmaattor tuottaa keskmäär okea kokosa arvoja parametrlle. Estmaattor T harha o Bas T = ) Jos estmaattor T o harhato parametrlle, Bas T = = Esm. Suhteelle frekvess o harhato estmaattor todeäkösyydelle p: E = = 9 Estmaattor keskelövrhe ja tehokkuus Parametr estmaattor T keskelövrhe o MSE ( ) Nelövrhe vodaa tulkta koostuva varasssta ja harhasta, sllä MSE =Var +Bas() Tod. MSE Bas() ( ) ) ( ) ) =Var =Var Jos T o harhato parametrlle MSE =Var Estmaattor o tehokkaamp ku estmaattor, jos Var( )<Var Estmaattor o täystehokas, jos se varass o peemp ku mkä tahasa muu parametr estmaattor. (Täys)tehokkuudesta järkevää puhua va jok estmaattorluoka ssällä (esm. harhattomat estmaattort) Vrt. estmaattor T= Var(T)= Harhattomuus ja tehokkuus: Esmerkk Olkoo X, X,, X satuasotos ormaaljakaumasta N(, ). Estmodaa odotusarvoa kahdella estmaattorlla. Havatoje artmeette keskarvo:. Havatoje medaa (el keskmmäe havato): Me Molemmat ovat harhattoma: E( X) E( Me) Kutek: Var( X) Var( Me) Artmeette keskarvo o ormaaljakauma odotusarvo estmaattora tehokkaamp ku medaa Vodaa osottaa, että havatoarvoje artmeette keskarvo o ormaaljakauma odotusarvoparametr estmaattora täystehokas. Tarketuvuus Olkoo,, parametr estmaattor, otoskoolle Estmaattor o tarketuva parametrlle, jos se kovergo melke varmast koht parametr okeata arvoa, ku otoskoo aetaa kasvaa rajatta: P lm = Mks tällae määrtelmä? O helppo keksä jooja, jossa estmaattor e kovergodu koht okeaa arvoa (esm. +, +, ) Sks määrtelmä e kellä tällaste realsaatode olemassa oloa, vaa aoastaa että de todeäkösyys o olla. Suurmma uskottavuude meetelmä: Uskottavuusfukto Olkoo X, X,, X ykskertae satuasotos jakaumasta f(x;), joka parametra o : X ~f(x;). Määrtelmä: Havatoje uskottavuusfukto o L( ; x, x,, x) f ( x, x,, x ; ) el havatoje yhtesjakauma pstelodeäkösyys- ta theysfukto tulkttua parametr fuktoks. Eglaks: Lkelyhood fucto Koska havaot X, X,, X oletetaa rppumattomks, vodaa krjottaa L( ; x, x,, x ) f ( x, x,, x ; ) f( x ; ) f( x ; ) f( x ; )

5 Suurmma uskottavuude meetelmä: Estmaattor Olkoo t=g(x,,x ) se parametr arvo, joka maksmo uskottavuusfukto, el L(g(x,x,,x );x,,x ) L( ;x,,x ) kaklla (käyvllä) Idea: Etstää parametrelle sellaset arvot, jotka tekevät saadu havatoaesto x,x,,x mahdollsmma todeäköseks SU-meetelmä: Esmerkk tasajakaumasta X tasajakautuut vällle [, ]. Parametr tutemato Havaot (x,,x )= (,,,) Uskottavuusfukto: / f(x;) x Määrtelmä: Parametr suurmma uskottavuude estmaattor (SU-estmaattor) o satuasmuuttuja ˆ g( X, X,, X ) L: maksm parametr suhtee atavaa lausekkeessa o ss sjotettu satuasmuuttujat X,,X L Maksmodaa L SU-estmaatt = Ylestys: : SU-estmaattor o satuasmuuttuja max(x,,x ) SU-estmaattor määrääme: Hyödyllsä tekkota Parametr käyvä arvoaluee reuat; L: epäjatkuvuuskohdat vrt. tasajakauma esmerkk Dervaata ollakohdat Ratkase ste, että,, = Logartme uskottavuusfukto ) =log,, =log = log( ) Saavuttaa äärarvosa samassa psteessä ku L, koska logartm o adost mootoe fukto Use ykskertasemp muodoltaa ku L Summa dervot helpompaa ku tulo SU-estmaattor omasuudet SU-estmaattor e välttämättä täytä yhtäkää hyvä estmaattor krteerestä harhattomuus, tehokkuus ta tarketuvuus Suurmma uskottavuude meetelmää käytettäessä o aa erksee varmstettava tuloksea saadu estmaattor hyvyys. SU-estmaattor käyttöä vodaa perustella se ylesllä asymptoottslla omasuukslla. Hyv yles ehdo pätee että SU-estmaattor o tarketuva ja asymptoottsest ormaale. 8 Normaaljakautuma parametre SU-estmaattort Olkoo X,, X ~ N(, ): N(, ) Uskottavuusfukto: L(, ; x, x,, x ) f( x ;, ) f( x ;, ) f( x ;, ) ( ) exp ( x ) Log-uskottavuusfukto: l(, ; x, x,, x ) x f( x;, ) exp, log L(, ; x, x,, x) log log( ) ( ) x N(,.9) N(,) N(, ) Normaaljakautuma parametre SU-estmaattort l(, ) log log( ) ( x ). Dervodaa parametr suhtee ja merktää dervaatta ollaks: l(, ) ( x ) ˆ x x o aoa ollakohta ja ataa : maksm parametr suhtee.. Sjotetaa ratkasu logartmsee uskottavuusfuktoo: lx (, ) log log( ) ( x ) x. Dervodaa parametr suhtee ja merktää dervaatta ollaks: l(, ) ( ) x x ˆ ( x x) aoa ollakohta ja ataa maksm parametr suhtee 9

6 Normaaljakautuma parametre SU-estmaattort Normaaljakauma odotusarvo SU-estmaattor o havatoje artmeette keskarvo = Harhato, tehokas (mmvarasse harhattome estmaattore joukossa), tarketuva ja oudattaa ormaaljakaumaa, ) Normaaljakauma varass harhato estmaattor o otosvarass = ) SU-estmaattor = ) o ss harhae, sllä = = ( ) S / oudattaa -jakaumaa parametrlla - Merktä: ( )S / ~ (-) Beroull-jakauma parametr SU-estmaattor Olkoo X,,X havatoja Beroull-jakaumasta: X ~Ber(p) Pstetodeäkösyysfukto: Beroull(.8) x x f( x; p) p ( p), x,; p.8 Uskottavuusfukto:. L( p; x, x,, x ). f( x ; p) f( x ; p) f( x ; p) x x p ( p) Logartme uskottavuusfukto: l( p; x, x,, x ) log L( p; x, x,, x ) x log( p) ( x )log( p). E(X ) =.8 Beroull-jakauma parametr SU-estmaattor l( p) x log( p) ( x )log( p) Dervodaa parametr p suhtee ja merktää dervaatta ollaks: l( p) x x = p p p o aoa ollakohta ja ataa uskottavuusfukto maksm. Beroull-jakauma Ber(p) parametr p SU-estmaattor o suhteelle frekvess = Harhato, tehokas, tarketuva ja oudattaa suurssa otoksssa approksmatvsest ormaaljakaumaa p( p) pˆ~ a N p, Välestmot Välestmossa todeäkösyysjakauma f(x ; ) tutemattomalle parametrlle pyrtää määräämää luottamusväl havatoje perusteella Vrt. parametr arvo pste-estmot edellä Estmaat arvo vahtelee otoksesta tosee E ole järkevää yrttää ataa rajoja, jode ssällä : arvo o täys varmast. Se sjaa vodaa yrttää määrttää luottamusväl, joka uskotaa pettävä allee parametr arvo tetyllä todeäkösyydellä. Esm. 99% luottamusväl, 9% luottamusväl, Välestmot: Luottamusväl määrääme Olkoo X,,X satuasotos jakaumasta f(x;), mssä o tutemato parametr Valtaa luottamustaso ( ) ste, että < < Määrätää satuasmuuttujat L(X,, X ) ja U(X,, X ) ste että Pr =. [L, U] o parametr luottamusväl luottamustasolla (). Päätepsteet L ja U rppuvat yleesä sekä havaosta että valtusta luottamustasosta Käytäössä : arvo o tutemato ekä ole tetoa, oko se arvo saadu luottamusväl ssällä. Käytettäessä esm. 9%: luottamusvälä keskmäär kertaa sadasta käy, että tarkka arvo jää väl ulkopuolelle Luottamustaso kasvattame johtaa luottamusvälpteemsee Normaaljakauma odotusarvo luottamusväl (ku varass tuetaa) Olkoo X ~N(, ) : harhato estmaattor o artmeette keskarvo = Tedetää estmaattor jakauma: X ~ N(, / ) Stadardodaa ja käytetää tlastollsa taulukko: X P(.9).9 Tämä vo muokata muotoo PX (.9 X.9 ).9 : 9%: luottamusväl: X.9, X.9 Otoksesta x,, x vodaa laskea luottamusväl arvoks x.9, x.9

7 Normaaljakauma odotusarvo luottamusväl (ku myös varass ptää estmoda havaosta) Olkoo X,,X ~N(, ) : harhato estmaattor o artmeette keskarvo = t-jakauma theysfukto : harhato estmaattor o otosvarass = ) Vodaa osottaa että satuasmuuttuja t= oudattaa Studet t-jakaumaa, / t t~t(-) ( vapausaste - ) / +t / Määrätää t(-)-jakaumasta pste t / ste, että Pr(tt / )=/ Symmetra perusteella: Pr(t -t / )= / ja Pr(-t / t t / )=- =Pr / =Pr Normaaljakauma odotusarvo luottamusväl (ku myös varass ptää estmoda havaosta) Normaaljakauma odotusarvoparametr luottamusväl luottamustasolla (- ) o Otoksesta x,, x lasketaa es, stte = ) ja lopulta luottamusväl päätepsteet Luottamustaso (-) kasvattame pdetää luottamusvälä ( kasvaa) Otoskoo kasvattame (keskmäär) lyhetää luottamusvälä t s / / t s 8 Normaaljakauma odotusarvo luottamusväl: Esmerkk Koe tekee ruuveja, jode vahtelevat satuasest oudattae ormaaljakaumaa X ~N(, ) Ruuve joukosta pomtaa ykskertae satuasotos, joho kuuluvat ruuvt mtataa Otokse koko: = Ptuukse keskarvo: =.9cm Ptuukse otosvarass: = ) =.8 Otoskeskhajota: = =.8cm Mkä o luottamusväl ruuve todellselle keskptuudelle luottamustasolla.9? Luokkavält Luokkafrekvesst (9.8,9.9] (9.9,9.9] (9.9,.] (.,.] (.,.] (.,.] (.,.] (.,.] (.,.] Frekvess Ruuve ptuukse luokteltu frekvessjakauma Ptuus (cm) Normaaljakauma odotusarvo luottamusväl: Esmerkk Luottamustaso.9 =. /=. Studet t-jakauma parametrlla df=- Degrees of Freedom, vapausasteet Nyt df= =9, jollo taulukosta ähdää, että Pr(t +.) =. t. =. Sjotetaa lukuarvot Luottamusväl kaavaa: s.8 x t / (.,.) Ruuve todelle keskptuus o 9% todeäkösyydellä välllä [.cm,.c] t(9)-jakauma theysfukto..... Frekvess. Ruuve ptuukse luokteltu frekvessjakauma Ptuus (cm) +. 9 Normaaljakauma varass luottamusväl Normaaljakauma varass luottamusväl Olkoo X,,X ~N(, ) harhato estmaattor o otosvarass = ), mssä = Vodaa osottaa, että El satuasmuuttuja ) / oudattaa -jakaumaa vapausaste - Määrätää psteet Pr )=/ ja / -jakauma theysfukto / / / ste että Pr )= Normaaljakauma varassparametr luottamusväl luottamustasolla (- ) o ( ) S ( ) S, / / Otoksesta x,, x lasketaa es, stte = ) ja lopulta luottamusväl päätepsteet, Luottamustaso (-) kasvattame pdetää luottamusvälä kasvaa, peeee Otoskoo kasvattame (keskmäär) lyhetää luottamusvälä =Pr =Pr

8 Beroull-jakauma parametr luottamusväl Beroull(.8) Olkoo X,,X ~Beroull(p).8 p: harhato estmaattor o suhteelle. frekvess =. Vodaa osottaa että satuasmuuttuja. = ( )/ E(X ) =.8 o asymptoottsest ormaaljakautuut: z~n(,). Määrätää psteet ste, että N(,)-jakauma theysfukto. Pr( /. Symmetrsyys Pr( / Pr Pr =... z / +z / Beroull-jakauma parametr luottamusväl Beroull-jakauma parametr p approksmatve luottamusväl luottamustasolla (- ) o ˆ ( ˆ ) ˆ ( ˆ ) ˆ p p /, ˆ p p pz pz/ Otoksesta x,, x lasketaa es suhteellse frekvess estmaatt = ja stte luottomusväl päätepstede umeerset arvot Luottamustaso (-) kasvattame pdetää luottamusvälä Luottamusväl (keskmäär) lyheee ku havatoje lukumäärää kasvaa Luottamusväl o lyhmmllää =,ja psmmllää ku =. Perustelu: Luottamusväl ptuus o o alaspä aukeava paraabel, mssä 8