4. Todennäköisyyslaskennan kertausta

Transkriptio

1 Sisältö Peruskäsitteet Diskreetit satuaismuuttujat Diskreetit jakaumat (lkm-jakaumat) Jatkuvat satuaismuuttujat Jatkuvat jakaumat (aikajakaumat) Muut satuaismuuttujat lueto04.ppt S Liikeeteoria perusteet - Kevät 006 Otosavaruus, alkeistapaus, tapahtuma Tapahtumie yhdistely Otosavaruus Ω (sample space) o kaikkie mahdolliste alkeistapauste ω (sample) muodostama joukko, ω Ω Esim. 0. Rahaheitto: Ω = {H,T} Esim.. Nopaheitto: Ω = {,,3,4,5,6} Esim.. Asiakkaide lkm joossa: Ω = {0,,,...} Esim. 3. Asiakkaa palveluaika (esim. miuutteia): Ω = { R > 0} Tapahtumat A,B,C,... (evets) ovat otosavaruude Ω mitallisia osajoukkoja, A,B,C,... Ω Esim.. Nopaheitossa parillie luku : A = {,4,6} Esim.. Joo tyhjä : A = {0} Esim. 3. Asiakkaa palvelu kestää yli 3 miuuttia : A = { R > 3.0} Merkitää :llä kaikkie tapahtumie A joukkoa, A Varma tapahtuma: otosavaruus Ω itse Mahdoto tapahtuma: tyhjä joukko 3 Yhdiste (uio) A tai B : A B = {ω Ω ω A tai ω B} Leikkaus (itersectio) A ja B : A B = {ω Ω ω A ja ω B} Komplemetti (complemet) ei A : A c = {ω Ω ω A} Tapahtumat A ja B ovat toistesa poissulkevia (disjoit), jos A B = Kokoelma tapahtumia {B, B, } muodostaa tapahtuma A ositukse (partitio), jos (i) B i B j = kaikilla i j (ii) i B i = A Esim.. Nopaheitossa parittomat ja parilliset luvut osittavat koko otosavaruude: B = {,3,5} ja B = {,4,6} B B B 3 A 4

2 Todeäköisyys Ehdollie todeäköisyys Tapahtuma A todeäköisyyttä (t, probability) merkitää :lla, [0,] Todeäköisyysmitta P o siis s. joukkofuktio, P: [0,] Omiaisuuksia: (i) 0 A (ii) ) = 0 (iii) Ω) = (iv) A c ) = (v) A = + A (vi) A B = A = + (vii) kokoelma {B i } o tapahtuma A ositus = Σ i B i ) (viii) A B B Oletetaa, että tapahtumalle B: > 0 Määr. Tapahtuma A ehdollie todeäköisyys (coditioal probability) ehdolla B o Seuraus: A A = P ( A = A = B 5 6 Kokoaistodeäköisyyde kaava Bayesi kaava Olkoo kokoelma {B i } otosavaruude Ω ositus Tällöi kokoelma {A B i } o tapahtuma A ositus, jote (kts. kalvo 5) ( vii) = i i P ( A B ) Olkoo kokoelma {B i } otosavaruude Ω ositus Oletetaa, että > 0 ja B i ) > 0 kaikilla i. Tällöi (kts. kalvo 6) A B ) B ) A B ) P ( Bi = i = i i Oletaa lisäksi, että B i ) > 0 kaikilla i. Tällöi (kts. kalvo 6) Näi olle, kokoaistodeäköisyyde kaava ojalla (kts. kalvo 7), P ( B ) A B ) = i i i B = i ) A Bi ) B i B ) A B j j j ) Tätä kutsutaa kokoaistodeäköisyyde kaavaksi B B A B 3 B4 Ω 7 Tätä kutsutaa Bayesi kaavaksi t:iäb i ) kutsutaa tapahtumie B i a priori todeäköisyyksiksi t:iäb i taas saotaa tapahtumie B i a posteriori todeäköisyyksiksi (ehdolla, että tapahtuma A tapahtui) 8

3 Tilastollie riippumattomuus Satuaismuuttujat Määr. Tapahtumat A ja B ovat riippumattomia (idepedet), jos P ( A = Seuraus: Vastaavasti: A A = = = A B = = = Määr. Reaaliarvoie satuaismuuttuja (sm, radom variable) o mitallie kuvaus otosavaruudesta Ω reaalilukuje joukkoo R, : Ω R jokaisee alkeistapauksee ω Ω liitetää reaaliluku (ω) Mitallisuus (measurability) tarkoittaa, että kaikki tyyppiä { }: = { ω Ω ( ω) } Ω olevat otosavaruude joukot kuuluvat tapahtumie joukkoo, ts. { } Tapahtuma todeäköisyys o site } 9 0 Esimerkki Tapahtuma idikaattori Rahaa heitetää kolme kertaa peräkkäi Otosavaruus: Ω = {( ω, ω, ω3) ω i {H,T}, i =,,3} Olkoo satuaismuuttuja, joka kertoo klaavoje (T = tails) lkm: äissä kolmessa heitossa: ω HHH HHT HTH THH HTT THT TTH TTT (ω) 0 3 Olkoo A mielivaltaie tapahtuma Määr. Satuaismuuttujaa A, joka määritellää kaavalla, ω A A( ω) = 0, ω A saotaa tapahtuma A idikaattoriksi (idicator) Selvästiki: A = } = c A = 0} = A ) =

4 Kertymäfuktio Satuaismuuttujie tilastollie riippumattomuus Määr. Sm: kertymäfuktio (kf, cumulative distributio fuctio) o kuvaus F : R [0,], joka määritellää kaavalla Kf määrää täydellisesti ko. sm: jakauma (distributio) so. t:t B}, missä B Rja { B} Omiaisuuksia: (i) F o kasvava (ii) F o oikealta jatkuva (iii) F ( ) = 0 (iv) F ( ) = F ( ) } 0 F () Määr. Sm:t ja Y ovat riippumattomia, jos kaikilla ja y, Y y} } Y y} Määr. Sm:t,, ovat täydellisesti riippumattomia, jos kaikilla i ja i,..., } } L } 3 4 Riippumattomie satuaismuuttujie maksimi ja miimi Sisältö Olkoot sm:t,, täydellisesti riippumattomia Merkitää ma := ma{,, }. Tällöi ma }, K, } } L } Merkitää mi := mi{,, }. Tällöi mi > } >, K, > } > } L > } Peruskäsitteet Diskreetit satuaismuuttujat Diskreetit jakaumat (lkm-jakaumat) Jatkuvat satuaismuuttujat Jatkuvat jakaumat (aikajakaumat) Muut satuaismuuttujat 5 6

5 Diskreetit satuaismuuttujat Pistetodeäköisyysfuktio Määr. Joukkoa A R saotaa diskreetiksi (discrete), jos se o äärellie, A = {,, }, tai umeroituvasti ääretö, A = {,, }. Määr. Sm o diskreetti, jos o olemassa sellaie diskreetti joukko S R, että Seuraus: = } 0 kaikilla S S } = = } = 0 kaikilla S Joukkoa S saotaa sm: arvojoukoksi 7 Olkoo sm diskreetti Sm: jakauma määräävät pistetodeäköisyydet p i, pi : = i}, i S Määr. Sm: pistetodeäköisyysfuktio (ptf, probability mass fuctio) p : R [0,] määritellää kaavalla p, = i i p ( ) : = } = 0, S Kf o tässä tapauksessa seuraava porrasfuktio: p F ( ) } = i i: i S 8 Esimerkki Diskreettie satuaismuuttujie riippumattomuus p () F () Diskreetit sm:t ja Y ovat riippumattomia, jos ja vai jos kaikilla i S ja y j S Y P { = i, Y = y j} = i} Y = y j} pistetodeäköisyysfuktio (ptf) kertymäfuktio (kf) S = {,, 3, 4 } 9 0

6 Odotusarvo Variassi Määr. Sm: odotusarvo (mea, epectatio) määritellää kaavalla µ : = E[ ]: = = } = p ( ) = pi i S S i Huom.. Odotusarvo o (hyvi) määritelty vai, jos Σ i p i i < Huom.. Jos i 0 ja Σ i p i i =, ii voidaa merkitä E[] = Määr. Sm: variassi (variace) määritellää kaavalla σ : = D [ ]: = Var[ ]: = E[( E[ ]) ] Kätevä kaava (todista!): D [ ] = E[ ] E[ ] Omiaisuuksia: (i) c R E[c] = ce[] (ii) E[ + Y] = E[] + E[Y] (iii) ja Y riippumattomia E[Y] = E[]E[Y] Omiaisuuksia: (i) c R D [c] = c D [] (ii) ja Y riippumattomia D [ + Y] = D [] + D [Y] Kovariassi Muita jakaumaa liittyviä tuuslukuja Määr. Sm:ie ja Y välie kovariassi (covariace) määr. kaavalla Määr. Sm: hajota (stadard deviatio): σ Y : = Cov[, Y ]: = E[( E[ ])( Y E[ Y ])] σ : = D [ ]: = D [ ] Kätevä kaava (todista!): Määr. Sm: variaatiokerroi (coefficiet of variatio): Cov[, Y ] = E[ Y ] E[ ] E[ Y ] D[ ] c : = C[ ]: = E[ ] Omiaisuuksia: (i) Cov[,] = Var[] (ii) Cov[,Y] = Cov[Y,] (iii) Cov[+Y,Z] = Cov[,Z] + Cov[Y,Z] (iv) ja Y riippumattomia Cov[,Y] = 0 3 Määr. Sm: k:s mometti (momet), k =,,...: ( k) k µ : = E[ ] 4

7 Riippumattomie satuaismuuttujie keskiarvo Suurte lukuje laki (SLL) Olkoot sm:t,, riippumattomia ja samoi jakautueita (IID) odotusarvoaa µ ja variassiaa σ Merkitää äide sm:ie keskiarvoa (sample mea) seuraavasti: : = i i= Tällöi (todista!) E[ ] = µ D σ [ ] = D[ σ ] = 5 Olkoot sm:t,, riippumattomia ja samoi jakautueita (IID) odotusarvoaa µ ja variassiaa σ Heikko suurte lukuje laki: kaikilla ε > 0 Vahva suurte lukuje laki: todeäköisyydellä Seuraus: Suurilla : arvoilla µ > ε} 0 µ µ 6 Sisältö Beroulli-jakauma Peruskäsitteet Diskreetit satuaismuuttujat Diskreetit jakaumat (lkm-jakaumat) Jatkuvat satuaismuuttujat Jatkuvat jakaumat (aikajakaumat) Muut satuaismuuttujat kuvaa yksittäistä satuaiskoetta, joka tuloksea joko oistumie () tai epäoistumie (0); vrt. rahaheitto oistumie t:llä p (ja epäoistumie t:llä p) Arvojoukko: S = {0,} Pistetodeöisyydet: Beroulli( p), p (0,) P { = 0} = p, = } = p Odotusarvo: E[] = ( p) 0 + p = p Toie mometti: E[ ] = ( p) 0 + p = p Variassi: D [] = E[ ] E[] = p p = p( p) 7 8

8 Biomijakauma Geometrie jakauma Bi(, p), {,,...}, p (0,) Geom( p), p (0,) oistumiste lkm :ssä perättäisessä ja toisistaa riippumattomassa satuaiskokeessa; = + + (missä i Beroulli(p)) = satuaiskokeide lkm p = oistumise t yksittäisessä satuaiskokeessa ( ) =! i i!( i)! Arvojoukko: S = {0,,,}! = ( ) L Pistetodeäköisyydet: i i ( ) p ( p = i} = i ) Odotusarvo: E[] = E[ ] + + E[ ] = p Variassi: D [] = D [ ] + + D [ ] = p( p) riippumattomuus! peräkkäiste oistumiste lkm ee esimmäistä epäoistumista (sarjassa peräkkäisiä ja toisistaa riippumattomia satuaiskokeita) p = oistumise t yksittäisessä satuaiskokeessa Arvojoukko: S = {0,, } Pistetodeäköisyydet: i = i} = p ( p) Odotusarvo: E[] = i ip i ( p) = p/( p) Toie mometti: E[ ] = i i p i ( p) = (p/( p)) + p/( p) Variassi: D [] = E[ ] E[] = p/( p) 9 30 Geometrise jakauma uohtavaisuusomiaisuus Geometrisesti jakautueide satuaismuuttujie miimi Geometrisella jakaumalla o s. uohtavaisuusomiaisuus (memoryless property): kaikilla i,j {0,,...} Todista! i + j i} j} Ohje: Todista esi, että i} = p i Olkoot sm:t Geom(p ) ja Geom(p ) riippumattomia Tällöi ja Todista! Ohje: Kts. kalvo 5 mi : = mi{, } Geom( p p) mi p = } = i i p p, i {,} 3 3

9 Poisso-jakauma Esimerkki biomijakauma rajatapaus, ku ja p 0 site, että p a Arvojoukko: S = {0,, } Pistetodeäköisyydet: a i a = i} = e i! Odotusarvo: E[] = a Poisso ( a), a > 0 Toie mometti: E[( )] = a E[ ] = a + a Variassi: D [] = E[ ] E[] = a Oletetaa, että paikalliskeskuksee o kytkettyä 00 tilaajaa yksittäise tilaaja omiaisliikee o 0.0 erlagia tilaajat toimivat toisistaa riippumattomasti Tällöi käyissäolevie puheluje lkm Bi(00,0.0) Vastaava Poisso-approksimaatio: Poisso(.0) Pistetodeäköisyyksie vertailua: Bi(00,0.0) Poisso(.0) Poisso-jakauma omiaisuuksia Sisältö (i) Summa: Olkoot sm:t Poisso(a ) ja Poisso(a ) riippumattomia. Tällöi + Poisso( a + a) (ii) Satuaisotata: Olkoo Poisso(a) alkioide lkm (jossaki satuaise kokoisessa joukossa). Valitaa äistä alkioista satuaie osajoukko (jokaie yksittäie alkio otetaa mukaa t:llä p), joka kokoa merkitää Y:llä. Tällöi Peruskäsitteet Diskreetit satuaismuuttujat Diskreetit jakaumat (lkm-jakaumat) Jatkuvat satuaismuuttujat Jatkuvat jakaumat (aikajakaumat) Muut satuaismuuttujat Y Poisso( pa) (iii) Satuaislajittelu: Olkoot sm:t ja Y kute yllä (ii). Merk. Z = Y. Tällöi Y ja Z ovat riippumattomia (ehdolla, että :ä ei tueta), Z Poisso(( p) a) 35 36

10 Jatkuvat satuaismuutujat Esimerkki Määr. Sm o jatkuva (cotiuous), jos o olemassa sellaie itegroituva fuktio f : R R +, että kaikilla Rpätee F ( ) : } = f ( y) dy Fuktiota f saotaa sm: tiheysfuktioksi (tf, probability desity fuctio) Joukkoa S, missä f > 0, saotaa sm: arvojoukoksi Omiaisuuksia: (i) = } = 0 kaikilla R (ii) a < < b} a b} = a b f () d (iii) A} = A f () d (iv) R} = - f () d = S f () d = 37 f () F () 3 3 tiheysfuktio (tf) kertymäfuktio (kf) S = (, 3 ) 38 Odotusarvo ja muita jakaumaa liittyviä tuuslukuja Sisältö Määr. Sm: odotusarvo (mea) määritellää kaavalla µ : = E[ ]: = f ( ) d Huom.. Odotusarvo o (hyvi) määritelty vai, jos - f () d < Huom.. Jos S =R + ja 0 f () =, ii voidaa merkitä E[] = Jatkuva sm: odotusarvolla o samat omiaisuudet kui diskreeti sm: odotusarvolla (kts. kalvo ) Muut jakaumaa liittyvät tuusluvut (variassi, kovariassi,...) määritellää odotusarvo avulla täsmällee samoi kui diskreeti sm: tapauksessa Näi olle myös äide tuuslukuje omiaisuudet säilyvät (kts. kalvot -4) 39 Peruskäsitteet Diskreetit satuaismuuttujat Diskreetit jakaumat (lkm-jakaumat) Jatkuvat satuaismuuttujat Jatkuvat jakaumat (aikajakaumat) Muut satuaismuuttujat 40

11 Tasajakauma Ekspoettijakauma U( a, b), a < b Ep ( λ), λ > 0 jatkuva vastie opaheitolle (kaikki arvot yhtä todeäköisiä ) Arvojoukko: S = (a,b) Tiheysfuktio (tf): Kertymäfuktio (kf): f ( ) =, ( a, b) b a F ( ) : } a = =, ( a, b) b a Odotusarvo: E[] = a b /(b a) d = (a + b)/ Toie mometti: E[ ] = a b /(b a) d = (a + ab + b )/3 Variassi: D [] = E[ ] E[] = (b a) / 4 geometrise jakauma jatkuva vastie ( epäoistumie t:llä λdt) (t,t+h] > t} = λh + o(h), missä o(h)/h 0, ku h 0 Arvojoukko: S = (0, ) Tiheysfuktio (tf): λ f ( ) = λe, > 0 Kertymäfuktio (kf): λ F ( ) : } = e, > 0 Odotusarvo: E[] = 0 λ ep( λ) d = /λ Toie mometti: E[ ] = 0 λ ep( λ) d = /λ Variassi: D [] = E[ ] E[] = /λ 4 Ekspoettijakauma uohtavaisuusomiaisuus Ekspoetiaalisesti jakautueide satuaismuuttujie miimi Ekspoettijakaumalla o s. uohtavaisuusomiaisuus (memoryless property): kaikilla,y (0, ) Todista! P { > + y > } > y} Ohje: Todista esi, että > } = e λ Sovellus: Oletetaa, että puheluje pitoajat ovat ekspoetiaalisesti jakautueita odotusarvoaa h miuuttia. Tarkastellaa puhelua, joka o jo kestäyt aja miuuttia. Uohtavaisuusomiaisuude ojalla tällä ei ole mitää merkitystä puhelu jäljellä oleva kesto kaalta: keskimääri tällaie puhelu kestää vielä h miuuttia (siis + h miuuttia kaikekaikkiaa)! 43 Olkoot sm:t Ep(λ ) ja Ep(λ ) riippumattomia. Tällöi ja Todista! Ohje: Kts. kalvo 5 mi : = mi{, } Ep( λ + λ) mi λ = } = i i λ + λ, i {,} 44

12 Normeerattu ormaalijakauma Normaalijakauma N(0,) N( µ, σ ), µ R, σ > 0 riippumattomie ja samoi jakautueide (odotusarvoa 0 ja variassia ) sm:ie ormeeratu summa rajatapaus (kts. kalvo 48) Arvojoukko: S = (, ) Tiheysfuktio (tf): f ( ) ( ) : = ϕ = e π Kertymäfuktio (kf): F ( ) : } = Φ( ) : = ϕ( y) dy Odotusarvo: E[] = 0 (tf symmetrie!) Variassi: D [] = 45 jos( µ)/σ N(0,) Arvojoukko: S = (, ) Tiheysfuktio (tf): ( ) f ( ) : = F '( ) = σ ϕ µ σ Kertymäfuktio (kf): µ µ µ F ( ) : } = P = Φ σ σ σ { } ( ) Odotusarvo: E[] = µ+σe[( µ)/σ] = µ (tf symmetr. µ: suhtee) Variassi: D [] =σ D [( µ)/σ] =σ 46 Normaalijakauma omiaisuuksia Keskeie raja-arvolause (KRL) (i) Lieaarimuuos: Olk. N(µ,σ ) ja α,β R. Tällöi Y : = α + β N( αµ + β, α σ ) (ii) Summa: Olkoot sm:t N(µ,σ ) ja N(µ,σ ) riippumattomia. Tällöi + N( µ + µ, σ + σ ) Olkoot sm:t,, riippumattomia ja samoi jakautueita (IID) odotusarvoaa µ ja variassiaa σ (ja lisäksi kolmas mometti olemassa) Keskeie raja-arvolause: i.d. ( µ ) N(0,) σ / (iii) Otoskeskiarvo: Olkoot sm:t i N(µ,σ ), i =,, riippumattomia ja samoi jakautueita (IID) oudattae ormaalijakaumaa. Tällöi iide keskiarvolle (vrt. kalvo 5) pätee : N(, = i µ σ ) i= Seuraus: Suurilla : arvoilla N( µ, σ ) 47 48

13 Sisältö Muita satuaismuuttujia Peruskäsitteet Diskreetit satuaismuuttujat Diskreetit jakaumat (lkm-jakaumat) Jatkuvat satuaismuuttujat Jatkuvat jakaumat (aikajakaumat) Muut satuaismuuttujat Puhtaasti diskreettie ja jatkuvie sm:ie lisäksi o olemassa äide sekamuotoja Esimerkki: Merk. W:llä asiakkaa odotusaikaa M/M/ joossa. Sm: W jakaumalla o s. atomi ollassa (ts. W = 0} = ρ>0), mutta muute jakauma o jatkuva F W () ρ Saastoa otosavaruus = sample space tapahtuma = evet todeäköisyys = probability ehdollie t = coditioal probability riippumattomuus = idepedece satuaismuuttuja = radom variable idikaattori = idicator jakauma = distributio kertymäfuktio = cumulative distributio fuctio diskreetti = discrete pistetodeäköisyysfuktio = probability mass fuctio odotusarvo = mea (value) = epectatio variassi = variace kovariassi = covariace hajota = stadard deviatio variaatiokerroi = coefficiet of variatio suurte lukuje laki = law of large umbers jatkuva = cotiuous tiheysfuktio = probability desity fuctio uohtavaisuusomiaisuus = memoryless property keskeie raja-arvolause = cetral limit theorem 5