B TEKNILLINEN KORKEKOULU Tetoverkkolaboratoro luento05.ppt S-38.45 - Lkenneteoran perusteet - Kevät 00 Ssältö eruskästteet Dskreett satunnasmuuttujat Dskreett jakaumat lkm-jakaumat Jatkuvat satunnasmuuttujat Jatkuvat jakaumat akajakaumat Muut satunnasmuuttujat
Otosavaruus, alkestapaus, tapahtuma Otosavaruus Ω sample space on kakken mahdollsten alkestapausten ω sample muodostama joukko, ω Ω Esm. 0. Rahanhetto: Ω {H,T} Esm.. Nopanhetto: Ω {,,3,4,5,6} Esm.. sakkaden lkm jonossa: Ω {0,,,...} Esm. 3. sakkaan palveluaka esm. mnuuttena: Ω { R >0} Tapahtumat,B,C,... events ovat otosavaruuden Ω mtallsa osajoukkoja,,b,c,... Ω Esm.. Nopanhetossa parllnen luku : {,4,6} Esm.. Jono tyhjä : {0} Esm. 3. sakkaan palvelu kestää yl 3 mnuutta : { R >3.0} Merktään :llä kakken tapahtumen joukkoa, Varma tapahtuma: otosavaruus Ω tse Mahdoton tapahtuma: tyhjä joukko 3 Tapahtumen yhdstely Yhdste unon ta B : B {ω Ω ω ta ω B} Lekkaus ntersecton ja B : B {ω Ω ω ja ω B} Komplementt complement e : c {ω Ω ω } Tapahtumat ja B ovat tostensa possulkeva dsjont, jos B Kokoelma tapahtuma {B, B, }muodostaa tapahtuman ostuksen partton, jos B B j kaklla j B B B B 3 4
Todennäkösyys Tapahtuman todennäkösyyttä tn, probablty merktään :lla, [0,] Todennäkösyysmtta on ss ns. joukkofunkto, : [0,] Omnasuuksa: 0 0 Ω v c v B + B B v B B + B v kokoelma {B } on tapahtuman ostus Σ B v B B 5 Ehdollnen todennäkösyys Oletetaan, että tapahtumalle B: B > 0 Määr. Tapahtuman ehdollnen todennäkösyys condtonal probablty ehdolla B on B B B Seuraus: B B B B 6
Kokonastodennäkösyyden kaava Olkoon kokoelma {B } otosavaruuden Ω ostus Tällön kokoelma { B } on tapahtuman ostus, joten kts. kalvo 5 v Oletaan lsäks, että B > 0 kaklla. Tällön kts. kalvo 6 B B B Tätä kutsutaan kokonastodennäkösyyden kaavaks B B 3 Ω B B 4 7 Bayesn kaava Olkoon kokoelma {B } otosavaruuden Ω ostus Oletetaan, että > 0 ja B > 0 kaklla. Tällön kts. kalvo 6 B B B B Nän ollen, kokonastodennäkösyyden kaavan nojalla kts. kalvo 7, B B B j B j B j Tätä kutsutaan Bayesn kaavaks tn:ksä B kutsutaan tapahtumen B aprortodennäkösyyksks tn:ksä B taas sanotaan tapahtumen B a posteror todennäkösyyksks ehdolla, että tapahtuma tapahtu 8
9 Tlastollnen rppumattomuus Määr. Tapahtumat ja B ovat rppumattoma ndependent, jos Seuraus: Vastaavast: B B B B B B B B B B B 0 Määr. Reaalarvonen satunnasmuuttuja sm, random varable on mtallnen kuvaus otosavaruudesta Ω reaallukujen joukkoon R, : Ω R jokaseen alkestapaukseen ω Ω ltetään reaalluku ω Mtallsuus measurablty tarkottaa, että kakk tyyppä olevat otosavaruuden joukot kuuluvat tapahtumen joukkoon,ts. { } Tapahtuman tnonsten{ } Satunnasmuuttujat Ω Ω } { }: { ω ω
Esmerkk Rahaa hetetään kolme kertaa peräkkän Otosavaruus: Ω { ω, ω, ω3 ω {H,T},,,3} Olkoon satunnasmuuttuja, joka kertoo klaavojen T tals lkm:n nässä kolmessa hetossa: ω HHH HHT HTH THH HTT THT TTH TTT ω 0 3 Tapahtuman ndkaattor Olkoon melvaltanen tapahtuma Määr. Satunnasmuuttujaa, joka määrtellään kaavalla, ω 0, ω ω sanotaan tapahtuman ndkaattorks ndcator Selvästkn: { { } 0} c
Kertymäfunkto Määr. Sm:n kertymäfunkto kf, cumulatve dstrbuton functon on kuvaus F : R [0,], joka määrtellään kaavalla F { } Kf määrää täydellsest ko. sm:n jakauman dstrbuton so. tn:t { B}, mssä B Rja { B} Omnasuuksa: F on kasvava F on okealta jatkuva F 0 v F 0 F 3 Satunnasmuuttujen tlastollnen rppumattomuus Määr. Sm:t ja Y ovat rppumattoma, jos kaklla ja y {, Y y} { } { Y y} Määr. Sm:t,, n ovat täydellsest rppumattoma, jos kaklla ja {,..., n n} { } { n n } 4
Rppumattomen satunnasmuuttujen maksm ja mnm Olkoot sm:t,, n täydellsest rppumattoma Merktään ma : ma{,, n }. Tällön ma { } {,, n } { } { } Merktään mn : mn{,, n }. Tällön mn n { > } { >,, n > } { > } { n > } 5 Ssältö eruskästteet Dskreett satunnasmuuttujat Dskreett jakaumat lkm-jakaumat Jatkuvat satunnasmuuttujat Jatkuvat jakaumat akajakaumat Muut satunnasmuuttujat 6
Dskreett satunnasmuuttujat Määr. Joukkoa R sanotaan dskreetks dscrete, jos se on äärellnen, {,, n }, ta numerotuvast ääretön, {,, }. Määr. Sm on dskreett, jos on olemassa sellanen dskreett joukko S R, että Seuraus: { } 0 kaklla S { S } { } 0 kaklla S Joukkoa S sanotaan sm:n arvojoukoks 7 stetodennäkösyysfunkto Olkoon sm dskreett Sm:n jakauman määräävät pstetodennäkösyydet p, p : { }, S Määr. Sm:n pstetodennäkösyysfunkto ptnf, probablty mass functon p : R [0,] määrtellään kaavalla p : { p, } 0, S Kf on tässä tapauksessa seuraava porrasfunkto: F { } p : S 8
Esmerkk p F 3 4 3 4 pstetodennäkösyysfunkto ptnf kertymäfunkto kf S {,, 3, 4 } 9 Dskreetten satunnasmuuttujen rppumattomuus Dskreett sm:t ja Y ovat rppumattoma, jos ja van jos kaklla S ja y j S Y {, Y y j} { } { Y y j} 0
Odotusarvo Määr. Sm:n odotusarvo mean, epectaton määrtellään kaavalla µ : E[ ]: { } p S S p Huom.. Odotusarvo on hyvn määrtelty van, jos Σ p < Huom.. Jos Σ p, nn vodaan merktä E[] Omnasuuksa: c R E[c] ce[] E[ + Y] E[] + E[Y] ja Y rppumattoma E[Y] E[]E[Y] Varanss Määr. Sm:n varanss varance määrtellään kaavalla σ : D [ ]: Var[ ]: E[ E[ ] ] Kätevä kaava todsta!: D [ ] E[ ] E[ ] Omnasuuksa: c R D [c] c D [] ja Y rppumattoma D [ + Y] D [] + D [Y]
Kovaranss Määr. Sm:en ja Y välnen kovaranss covarance määr. kaavalla σ Y : Cov[, Y ]: E[ E[ ] Y E[ Y ]] Kätevä kaava todsta!: Cov[, Y ] E[ Y ] E[ ] E[ Y ] Omnasuuksa: Cov[,] Var[] Cov[,Y] Cov[Y,] Cov[+Y,Z] Cov[,Z] + Cov[Y,Z] v ja Y rppumattoma Cov[,Y] 0 3 Muta jakaumaan lttyvä tunnuslukuja Määr. Sm:n hajonta standard devaton: σ : D [ ]: D [ ] Määr. Sm:n varaatokerron coeffcent of varaton: c : C[ ]: D[ ] E[ ] Määr. Sm:n k:s momentt moment, k,,...: µ k k : E[ ] 4
Rppumattomen satunnasmuuttujen keskarvo Olkoot sm:t,, n rppumattoma ja samon jakautuneta IID odotusarvonaan µ ja varanssnaan σ Merktään näden sm:en keskarvoa sample mean seuraavast: n n : n Tällön todsta! E[ D D[ n [ n ] µ n ] ] σ n σ n 5 Suurten lukujen lak SLL Olkoot sm:t,, n rppumattoma ja samon jakautuneta IID odotusarvonaan µ ja varanssnaan σ Hekko suurten lukujen lak: kaklla ε >0 { µ > ε} 0 n Vahva suurten lukujen lak: todennäkösyydellä n µ 6
Ssältö eruskästteet Dskreett satunnasmuuttujat Dskreett jakaumat lkm-jakaumat Jatkuvat satunnasmuuttujat Jatkuvat jakaumat akajakaumat Muut satunnasmuuttujat 7 Bernoull-jakauma Bernoull p, p 0, kuvaa yksttästä satunnaskoetta, jonka tuloksena joko onnstumnen ta epäonnstumnen 0; vrt. rahanhetto onnstumnen tn:llä p ja epäonnstumnen tn:llä p rvojoukko: S {0,} stetodennösyydet: { 0} p, { } Odotusarvo: E[] p 0 + p p Tonen momentt: E[ ] p 0 + p p Varanss: D [] E[ ] E[] p p p p p 8
Bnomjakauma Bn n, p, n {,,...}, p 0, onnstumsten lkm n:ssä perättäsessä ja tosstaan rppumattomassa satunnaskokeessa; + + n mssä Bernoullp n satunnaskokeden lkm n p onnstumsen tn yksttäsessä satunnaskokeessa n!! n! rvojoukko: S {0,,,n} n! n n stetodennäkösyydet: { n n p p } Odotusarvo: E[] E[ ] + + E[ n ] np Varanss: D [] D [ ] + + D [ n ] np p rppumattomuus! 9 Geometrnen jakauma Geom p, p 0, peräkkästen onnstumsten lkm ennen ensmmästä epäonnstumsta sarjassa peräkkäsä ja tosstaan rppumattoma satunnaskoketa p onnstumsen tn yksttäsessä satunnaskokeessa rvojoukko: S {0,, } stetodennäkösyydet: { } p p Odotusarvo: E[] p p p/ p Tonen momentt: E[ ] p p p/ p + p/ p Varanss: D [] E[ ] E[] p/ p 30
Geometrsen jakauman unohtavasuusomnasuus Geometrsella jakaumalla on ns. unohtavasuusomnasuus memoryless property: kaklla,j {0,,...} Todsta! { + j } { j} Ohje: Todsta ensn, että { } p 3 Geometrsest jakautuneden satunnasmuuttujen mnm Olkoot sm:t Geomp ja Geomp rppumattoma Tällön mn : mn{, } Geom p p ja { mn } p p p, {,} Todsta! Ohje: Kts. kalvo 5 3
osson-jakauma osson a, a > 0 bnomjakauman rajatapaus, kun n ja p 0 sten, että np a rvojoukko: S {0,, } stetodennäkösyydet: Odotusarvo: E[] a { } Tonen momentt: E[ ] a E[ ] a + a Varanss: D [] E[ ] E[] a a a e! 33 Esmerkk Oletetaan, että pakallskeskukseen on kytkettynä 00 tlaajaa yksttäsen tlaajan omnaslkenne on 0.0 erlanga tlaajat tomvat tosstaan rppumattomast Tällön käynnssäoleven puhelujen lkm Bn00,0.0 Vastaava osson-approksmaato: osson.0 stetodennäkösyyksen vertalua: 0 3 4 5 Bn00,0.0.36.679.693.795.0893.0354 osson.0.353.70.70.804.090.036 34
osson-jakauman omnasuuksa Summa: Olkoot sm:t ossona and ossona rppumattoma. Tällön + osson a + a Satunnasotanta: Olkoon ossona alkoden lkm jossakn satunnasen kokosessa joukossa. Valtaan nästä alkosta satunnanen osajoukko jokanen yksttänen alko otetaan mukaan tn:llä p, jonka kokoa merktään Y:llä. Tällön Y osson pa Satunnaslajttelu: Olkoot sm:t ja Y kuten yllä. Merk. Z Y. Tällön Y ja Z ovat rppumattoma ehdolla, että :ää e tunneta, Y osson pa ja Z osson p a 35 Ssältö eruskästteet Dskreett satunnasmuuttujat Dskreett jakaumat lkm-jakaumat Jatkuvat satunnasmuuttujat Jatkuvat jakaumat akajakaumat Muut satunnasmuuttujat 36
Jatkuvat satunnasmuutujat Määr. Sm on jatkuva contnuous, jos on olemassa sellanen ntegrotuva funkto f : R R +, että kaklla R pätee F : { } f y dy Funktota f sanotaan sm:n theysfunktoks tf, probablty densty functon Joukkoa S, mssä f > 0, sanotaan sm:n arvojoukoks Omnasuuksa: { } 0 kaklla R {a < < b} {a b} a b f d { } f d v { R} - f d S f d 37 Esmerkk f F 3 3 theysfunkto tf kertymäfunkto kf S, 3 38
Odotusarvo ja muta jakaumaan lttyvä tunnuslukuja Määr. Sm:n odotusarvo mean määrtellään kaavalla µ : E[ ]: f d Huom.. Odotusarvo on hyvn määrtelty van, jos - f d < Huom.. Jos - f, nn vodaan merktä E[] Jatkuvan sm:n odotusarvolla on samat omnasuudet kun dskreetn sm:n odotusarvolla kts. kalvo Muut jakaumaan lttyvät tunnusluvut varanss, kovaranss,... määrtellään odotusarvon avulla täsmälleen samon kun dskreetn sm:n tapauksessa Nän ollen myös näden tunnuslukujen omnasuudet sälyvät kts. kalvot -4 39 Ssältö eruskästteet Dskreett satunnasmuuttujat Dskreett jakaumat lkm-jakaumat Jatkuvat satunnasmuuttujat Jatkuvat jakaumat akajakaumat Muut satunnasmuuttujat 40
Tasajakauma U a, b, a < b jatkuva vastne nopanhetolle kakk arvot yhtä todennäkösä rvojoukko: S a,b Theysfunkto tf: Kertymäfunkto kf: f F : { d}, a, b b a a b a : { }, a, b Odotusarvo: E[] a b /b a d a + b/ Tonen momentt: E[ ] a b /b a d a + ab + b /3 Varanss: D [] E[ ] E[] b a / 4 Eksponenttjakauma Ep λ, λ > 0 geometrsen jakauman jatkuva vastne epäonnstumnen tn:llä λdt rvojoukko: S 0, Theysfunkto tf: f λ : { d} λe, > 0 Kertymäfunkto kf: F : { } e, > 0 Odotusarvo: E[] 0 λ ep λ d /λ Tonen momentt: E[ ] 0 λ ep λ d /λ Varanss: D [] E[ ] E[] /λ λ 4
Eksponenttjakauman unohtavasuusomnasuus Eksponenttjakaumalla on ns. unohtavasuusomnasuus memoryless property: kaklla,y 0, Todsta! { > + y > } { > y} Ohje: Todsta ensn, että { > }e λ Sovellus: Oletetaan, että puhelujen ptoajat ovat eksponentaalsest jakautuneta odotusarvonaan h mnuutta. Tarkastellaan puhelua, joka on jo kestänyt ajan mnuutta. Unohtavasuusomnasuuden nojalla tällä e ole mtään merktystä puhelun jäljellä olevan keston kannalta: keskmäärn tällanen puhelu kestää velä h mnuutta ss + h mnuutta kakenkakkaan! 43 Eksponentaalsest jakautuneden satunnasmuuttujen mnm Olkoot sm:t Epλ and Epλ rppumattoma. Tällön mn : mn{, } Ep λ + λ ja { mn } λ λ λ +, {,} Todsta! Ohje: Kts. kalvo 5 44
Normeerattu normaaljakauma N0, rppumattomen ja samon jakautuneden odotusarvona 0 ja varanssna sm:en normeeratun summan rajatapaus kts. kalvo 48 rvojoukko: S, Theysfunkto tf: f : { d} ϕ : π e Kertymäfunkto kf: Odotusarvo: E[] 0 tf symmetrnen! Varanss: D [] F : { } Φ : ϕ y dy 45 Normaaljakauma N µ, σ, µ R, σ > 0 jos µ/σ N0, rvojoukko: S, Theysfunkto tf: Kertymäfunkto kf: f : { d}: F ' σ ϕ µ σ F : { } { µ µ } µ Φ Odotusarvo: E[] µ+σe[ µ/σ] µ tf symmetr. µ:n suhteen Varanss: D [] σ D [ µ/σ] σ σ σ σ 46
Normaaljakauman omnasuuksa Lneaarmuunos: Olk. Nµ,σ ja α,β R. Tällön Y : α + β N αµ + β, α σ Summa: Olkoot sm:t Nµ,σ ja Nµ,σ rppumattoma. Tällön + N µ + µ, σ + σ Otoskeskarvo: Olkoot sm:t Nµ,σ,, n, rppumattoma ja samon jakautuneta IID noudattaen normaaljakaumaa. Tällön n : N, n µ n σ n 47 Keskenen raja-arvolause KRL Olkoot sm:t,, n rppumattoma ja samon jakautuneta IID odotusarvonaan µ ja varanssnaan σ ja lsäks kolmas momentt olemassa Keskenen raja-arvolause:.d. µ N0, σ / n n Seuraus: n N µ, n σ 48
Ssältö eruskästteet Dskreett satunnasmuuttujat Dskreett jakaumat lkm-jakaumat Jatkuvat satunnasmuuttujat Jatkuvat jakaumat akajakaumat Muut satunnasmuuttujat 49 Muta satunnasmuuttuja uhtaast dskreetten ja jatkuven sm:en lsäks on olemassa näden sekamuotoja Esmerkk: Merk. W:llä asakkaan odotusakaa M/M/ jonossa. Sm:n W jakaumalla on ns. atom nollassa ts. {W 0} ρ>0, mutta muuten jakauma on jatkuva F W ρ 0 0 50
Sanastoa otosavaruus sample space tapahtuma event todennäkösyys probablty ehdollnen tn condtonal probablty rppumattomuus ndependence satunnasmuuttuja random varable ndkaattor ndcator jakauma dstrbuton kertymäfunkto cumulatve dstrbuton functon dskreett dscrete pstetodennäkösyysfunkto probablty mass functon odotusarvo mean value epectaton varanss varance kovaranss covarance hajonta standard devaton varaatokerron coeffcent of varaton suurten lukujen lak law of large numbers jatkuva contnuous theysfunkto probablty densty functon unohtavasuusomnasuus memoryless property keskenen raja-arvolause central lmt theorem 5 THE END 5