Beroulljaauma Beroull oe o ahde mahdollse ulostulo oe, jossa taahtumsta äytetää mtysä ostume ja eäostume. Esmerejä: rahahetto (ruua ta laava), lase sytymä (tyttö ta oa), helö verryhmä ( ta c ), oselja tet lääseme (yllä ta e) je.. Beroull oeessa oe tehdää erra ja ollaa ostueta stä saadaao tuloses taahtuma (ostume, todeäösyys ) va e (todeäösyys 1- ). Koee tulosta vodaa uvata satuasmuuttujalla X: P(X ostume ) P(X1) P(X eäostume )P(X0) 1-, mssä 0 < < 1 Jaauma ss: P(Xx) x (1-) 1-x, x0,1. E(X) Var(X) (1-) Bomjaauma Beroulloee ylestys: tostetaa B-oetta ertaa ja lasetaa ua mota ertaa saadaa ostume. Esmer: Hetetää rahaa 10 ertaa ja halutaa tetää mä t o saada 4 ruuaa. X ~ B(,), mssä o oee tostoje luumäärä Jaauma: P(X) ( ) (1-) - E(X) Var(X) (1-) Esmer: Oloo eljä geeä jota tuottavat samaa rotea P. Oletetaa että yhde gee mutaatotodeäösyys solu elaaa o 0.002 ja solu tarvtsee tomasee vähtää ahde gee oeata tomtaa. Mä o todeäösyys että solu tom oe? P({solu tom}) P(X>2) 1-P(X<2) 1-1 0 ( 4 )0.998 0.002-0.99999997 1
Geometre jaauma Tehdää havatoja sarjasta rumattoma Ber() oeta ja ollaa ostueta stä mllo estyy esmmäe ostuut oetulos S-muuttuja X, joa saa arvosee esmmäse ostuee oee järjestestysumero, oudattaa geometrsta jaaumaa X~Geom() P(X) (1-) -1, E(X) 1/ Var(X) (1-)/ 2 1,2, Esmer: Teear Bra Kottarae o äättäyt jataa DN sevess mostamsta aua ues hä saa mostamse ostumaa. Oletetaa että mostame ostuu 50%: todeäösyydellä. Moeeo mostamsee häe o varauduttava jotta hä vo tyytyä 95%: varmuutee mostamse ostumsesta? Ratasu erustuu Geom() jaauma ertymäfutoo F(x)P(X<x) Koelemalla F(4)0.937 ja F(5)0.968 havataa että o Bra o hyvä varautua 5:tee mostamsyrtysee. Posso jaauma Satuasmuuttuja X oudattaa Posso jaaumaa (λ 0) jos P(X) e -λ λ /!, mssä 0,1,2, X~Posso(λt) mttaa jo dmeso t (esm. aja) ysövälllä sattuede (harvaste) taauste luumäärää. ESIM: Vauutusyhtöö saauve, tetystä oettomuustyystä aheutuede, orvausvaatmuste luumäärä tetyllä aavälllä. Parametr t vo olla myös tuus, ta-ala, tlavuus ta muu dmeso Posso jaaumaa vodaa äyttää dyaamste satuaslmöde matemaattsea malla. Dyaamste lmöde yhteydessä äytetää termä rosess Posso rosess o ylesest äytetty stoaste rosess mm. erlaste alvelutlatede malla 2
Posso jaauma ESIM: saata saauu tettyy alvelusteesee satuasest ja tosstaa rumatta esmäär 4 asaasta muutssa. Oletetaa että saaume oudattaa Posso rosessa. Lase t että muut aaa tulee aa ys asaas. Ratasu: P(X 1 asaas muut aaa) 1-P(X0) Mtä o yt λ? Vastaus λ 4 El 1-P(X0) 1 e -(λt) (λt) 0 /0! 1-e -4 0.982 Posso jaaumalle: E(X) λ Var(X) λ Posso jaauma ESIM: saata saauu tettyy alvelusteesee satuasest ja tosstaa rumatta esmäär 5 asaasta muutssa. Jos asaasalveluste ystyy alvelemaa masmssaa 8 asaasta muutssa, mä o todeäösyys että alveluste e ysty muut aaa alvelemaa aa saauva asaata? Ratasu: P(X>8) 1- P(X 8) 1-8 0 e -λ λ /!, Mtä o yt λ? Vastaus λ 5 El P(X>8)1-P(X 8) 1-0.9320.168 3
Posso vs. bomjaauma Taausssa jossa bomjaaumaa lttyvä Beroull oee ostumstodeäösyys o e ja tostooede luumäärä suur -> Posso jaaumalla vodaa arosmoda bomjaaumaa Todstus: Noudattaoo X~B(,) jollo P(X) ( ) (1-) - Oloo λ/, jollo u ->0 ->0 u E[X] λ ysyy vaoa. Tällö u -> P(X ) λ λ 1! λ λ 1 - λ λ 1! -1 - -1 λ 1 -! ( - )! λ e! -λ λ 1 osa (1-(λ/)) lähestyy : asvaessa oht termä e -λ seä (1-(λ/)) - ja haasulossa oleva term lähestyvät yhtä. - Posso vs. bomjaauma ESIM: Lase todeäösyys että oretaa 2 geeä havataa vallses 500 gee jouosta, jos tedetää yhde gee mutaatotodeäösyyde oleva 0.001. Ratasussa äytetää Posso arosmaatota bomjaaumalle. Mtä o λ? λ 500(0.001) 0.5 Nyt ss P(X 2) x 2 0 (e -0.5 0.5 x )/x! 0.9856 4
Mota dsreettä s-muuttujaa Tarastellaa dsreettä satuasmuuttujaa: X 1,,X Satuasvetor X(X 1,,X ) vodaa lttää yhdstetty todeäösyysjaauma: (x)p(x 1 x 1,, X x ), mssä x(x 1,,x ) o satuasvetor X realsaato. TPUS 1: S-muuttujat X 1,,X rumattoma Satuasmuuttujlla jaaumat (x )P(X x ), 1,,. Tällö (x) (x ) Jos satuasmuuttujat X 1,,X ovat samasta jaaumasta ja tosstaa rumattoma tällö äee äytettävä lyheettä d (deedetly ad detcally dstrbuted). Multomjaauma TPUS 2: Dsreett s-muuttujat X 1,,X tosstaa ruva Tarastellaa tälläse taause erostaausta, joa johtaa multomjaaumaa (bomjaauma ylestys) Oletetaa että tehdää tostooe ertaa että joasella tostolla mellä o mahdollsta ulostuloa todeäösyysllä, 1,, ESIM: Noahetto ertaa, jollo 6 ja 1/6. Määrtellää X : atava ulostulo, 1,,, estymsluumäärä tostolla. Tällö todeäösyys että X x (el (x)p(x 1 x 1,, X x )) saadaa multomjaaumasta ( x)! (x!) mssä 1,, ja x(x 1,,x ) o ss satuasvetor X realsaato. x Mtä o x? Vastaus el selväst X :t ruva tosstaa. 5
Muutama jatuva jaauma Normaaljaauma X~N(µ,σ 2 ) Stadartot Y (X- µ)/ σ 2 johtaa Y~N(0,1). HUOM! Jos X~B(,) ja ->, tällö satuasmuuttuja Y(X-)/sqrt((1-)) ~ N(0,1). Tasajaauma: X~ Tas(a,b), (x)1/(b-a), u a x b, muute 0. E[X](a+b)/2 ja Var[X](b-a) 2 /12 Gammajaauma: X~Gamma(α,β), (x)1/((β α )Γ(α)) x α-1 ex(-x/β), u x,α,β>0, u x<0 (x)0. E[X] αβ ja Var[X] αβ 2 Esoettjaauma X~Ex(β) Gamma(1,β). Gammajaauma Gammajaauma theysfuto er α arvolla u β1. 1 0.9 alfa1 alfa2 alfa3 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0 0 1 2 3 4 5 6 7 8 6
χ 2 jaauma χ 2 jaauma o Gammajaauma erostaaus, joa saadaa valtsemalla αv/2, (v>0) ja β2: (x)1/((2 v/2 )Γ(v/2)) x v/2-1 ex(-x/2), u x >0 (x)0, u x<0. Parametr v saotaa atava χ 2 jaaumaa oudattava satuasmuuttuja X~Ch2(v/2) vaausastede luumäärä. E[X] v ja Var[X] 2v Seuraavat teoreemat ätevät χ 2 jaaumaa: Teoreema 1: Jos X 1 ja X 2 ovat rumattoma χ 2 jaautueta satuasmuuttuja vaausaste v 1 ja v 2 äde s-muuttuje summasatuasmuuttuja XX 1 + X 2 oudattaa X~Ch2((v 1 + v 2 )/2). Teoreema 2: Jos X~N(µ,σ 2 ) ja X 1,,X o äyttee satuasotus X:sta, tällö satuasmuuttuja Y ( 1 (X - µ))/σ 2 oudattaa χ 2 jaaumaa vaausaste : Y ~ Ch2(/2). χ 2 jaauma χ 2 jaauma o Gammajaauma erostaaus, joa saadaa valtsemalla αv/2, (v>0) ja β2: 0.6 (x)1/((2 v/2 )Γ(v/2)) x v/2-1 ex(-x/2), u x >0 (x)0, u x<0. Parametr 0.5 v saotaa atava χ 2 jaaumaa oudattava satuasmuuttuja X~Ch2(v/2) vaausastede luumäärä. 0.4 E[X] v ja Var[X] 2v v1 v2 v3 v5 0.3 0.2 0.1 0 0 1 2 3 4 5 6 7 8 7
χ 2 jaauma ESIM: Oletetaa että X o X~N(10, σ 2 ), mssä σ 2 tutemato. Estmodaa σ 2 X: satuasotosesta oo 30 äytettä. Mllä t:llä tämä otosestmaatt s 2 e ole 20% elessä oeasta varasssta σ 2 Ratasu: Otosestmaatt s 2 ( 1 (X - 10))/. Ehto ss 0.8σ 2 < ( 1 (X - 10))/ < 1.2 σ 2, josta 30 < ( 1 (X - 10))/ σ 2 < 36, mssä satuasmuuttuja Y ( 1 (X - 10))/ σ 2 oudattaa Y~Ch2(30/2) vaausaste 30. P(Y<30) 0.25 ja P(Y>36) 0.26, el P(30<Y<36) 0.55. Huomo teoreemaa 2: Jos µ o tutemato ja se joudutaa estmodaa äyttestä s(x 1 + +X )/ satuasmuuttuja Y ( 1 (X - s))/σ 2 oudattaa χ 2 jaaumaa vaausaste -1: Y ~ Ch2((-1)/2). Ylesest: estmotavaa suuretta udottaa vaausastee -:tee. χ 2 test Tarastellaa tlastollsta χ 2 test ahde jaauma vertalemsee Teoreema: Jos 1,, ja e 1, e ovat havatut ( ) ja odotetut (e ) määrät yrtyse satuastostooeessa jossa mahdollsta ulostuloa, tällö u -> summa 2 ( - e ) 1 jaauma oudattaa χ 2 jaaumaa -1 vaausaste. e ESIM: Ylosto asvtetee latosella rsteytett ruusuja, ja tulosea saat 120 uasta, 48 eltasta, 36 sstä ja 13 voletta ruusua. Tutmusta johtava rofessor olett että väre suhteet ovat 9:3:3:1. Oo testtulos oeava rofessor teorasta? RTK: Hyotees H 0 : 1 9/16, 2 3/16, 3 3/16, 4 1/16 ovat t:t multomjaaumalle jossa 4 ulostuloa ja 217. 120 48 36 13 e 122 41 41 14 Nyt y 1 {( - e ) 2 /e } 1.9, osa Y~Ch2(3/2) ja F χ2 (1.9)0.41 jote 59%: todeäösyydellä teora ätee (rtte arvo F χ2 (7.81)0.95) 8
Parametre estmosta Oloo satuasmuuttuja X jaauma (x θ), mssä θ määrtellää :lla arametrlla θ(θ 1,, θ ). Oloo edellee x(x 1,, x ) oo oleva satuasotos X:stä. Tämä havatoaesto malla o satuasvetor (X 1,,X ). Havattu otos x(x 1,, x ) o (X 1,,X ): realsaato Estmossa arametre θ arvot el estmaatt θ^(θ^1,, θ^ ) saadaa sjottamalla havaot estmotaavaa t(x 1,, x ): θ^ t(x 1,, x ) rvo θ^ o satuasmuuttuja θ * t(x 1,, x ) realsaato. Satuasmuuttuja θ * o arametr θ estmaattor Estmaatt o todelle, lasettu arvo, estmaattor o mall Estmaattor θ * hyvyyttä mtattaessa tarastellaa ua lähellä todellsta (tutematota) arvoa θ saatu estmaatt θ^ o. Hyvä estmaattor: Parametre estmosta 1) HRHTTOMUUS: taa esmäär oeta arvoja 2) MINIMI VRINSSI: rvoje varass o e 4) TRKENTUVUUS: Havatoje määrä asvaessa estmaattor atamat arvot taretuvat HRHTTOMUUS: E[ θ * ] θ TRKENTUVUUS: lm -> P( E[θ * ]- θ )0)1 Suurmma usottavuude meetelmä (maxmum lelhood; ML) o eräs suostummsta estmotmeetelmstä 9
Suurmma usottavuude meetelmä Maxmum lelhood, ML-meetelmä Meetelmässä satuasmuuttuja X odotetaa oudattava jaaumaa (x;θ), mssä θ(θ 1,, θ ) ( arametra) ML estmaattort evät aa ole ysästtesä ja harhattoma, e ute ovat yleesä taretuva LÄHTÖKOHT: Se mall (x;θ) X:lle o aras, joa teee X:stä havatu otose (x 1,, x ) todeäösemmäs. Jos X-dsreett: Tällö todeäösyys saada otos (x 1,, x ) u äytteet ovat samo jaautueta ja tosstaa rumattoma o L(θ) 1 (x ;θ), mssä L (θ) o usottavuusfuto (lelhoodfuto). Suurmma usottavuude meetelmässä etstää sellaset arametrarvot θ^ jota masmovat lelhoodfuto L(θ) L(θ^) max θ L(θ) Suurmma usottavuude meetelmä Laseallssta systä use L(θ):sta otetaa logartm, jollo saadaa l(θ) (log L(θ) log 1 (x ;θ) 1 (x ;θ), mssä l(θ) :aa utsutaa logartmses usottavuusfutos (log lelhood) max θ L(θ) ja max θ l(θ) tuottavat sama ratasu estmaates. ESIM: Lasetaa DN sevessstä emäste,g,c,t: estymserrat, G, C ja T ( 1 ). Määrtä ML estmaattorlla : estymstodeäösyys P(X). RTKISU: Satuasmuuttuja X~B(, ). El saadaa havaolla X usottavuusfutos L() (1 ) c 10
Suurmma usottavuude meetelmä josta edellee l() log log + log (1 + c ) c log(1 Dervomalla l() : suhtee ja asettamalla dl()/d 0 saadaa ) dl() d c 1 0, josta (1 ) c El suurmma usottavuude (ML) estmaats :lle saadaa ^ /. MP estmaattor Masmum Posteror (MP) meetelmässä estmaatt θ^ saadaa osterorjaaumasta (θ x): (θ^ x) max (θ x), mssä (θ x) (x θ)(θ)/(x) Bayes aava muaa. El otmaalset arametrt θ^ ovat Bayeslasessa melessä todeäösemmät arametrarvot havaolla x ja etuätestetämysellä (θ). MP vastaa ML: 1) MP, masmodaa (θ x) arametre θ suhtee. 2) ML, masmodaa usottavuusfutota (x θ ) arametre θ suhtee MP:ssa max (θ x) saadaa dervaattaehdosta d(θ x) /d θ 0, joa dette ehdo d log (x θ )/d θ + d log (θ )/d θ 0, joa yhtälö ratasu ataa MP estmaat θ^ arametrelle θ. Jos (θ) tasajaautuut, d log (θ )/d θ 0, jollo MP estmaattor vastaa ML estmaattora (el masmodaa usottavuusfutota (x θ)) 11