MS-A0501 Todennäköisyyslaskennan ja tilastotieteen peruskurssi

Transkriptio

1 MS-A050 Todennäköisyyslaskennan ja tilastotieteen peruskurssi B Satunnaismuuttujat ja todennäköisyysjakaumat Lasse Leskelä Matematiikan ja systeemianalyysin laitos Perustieteiden korkeakoulu Aalto-yliopisto Lukuvuosi Periodi I

2 Sisältö Satunnaismuuttujan käsite Jakauma ja kertymäfunktio Jakauman tiheysfunktio Monen muuttujan yhteisjakauma Ehdollinen jakauma Esimerkkejä

3 Satunnaismuuttuja Satunnaismuuttuja on suure, jonka arvo määräytyy satunnaisilmiön toteumasta: Sattuma määrää satunnaisilmiön toteuman s S Toteuma s määrää satunnaismuuttujan arvon X (s) Tapahtuma {X = a} := {s S : X (s) = a} Esim (Kaksi noppaa) Perusjoukon S = {(s, s 2 ) : s, s 2 =,..., } satunnaismuuttujia: Silmälukujen maksimi M(s) = max{s, s 2 } Silmälukujen summa N(s) = s + s 2

4 Satunnaismuuttuja: Tulkinta Satunnaismuuttuja X on suure, jonka arvo X (s) määräytyy satunnaisilmiön toteumasta s S: Yhteen satunnaisilmiöön liittyy useita satunnaismuuttujia. Toteuma s S määrää niiden kaikkien arvot. Todennäköisyysteoriassa tutkitaan satunnaismuuttujien arvojen todennäköisyyksiä, kun satunnaisilmiötä kuvaavan perusjoukon S todennäköisyysjakauma P tunnetaan. Tilastotieteessä pyritään havaittujen satunnaismuuttujien arvojen perusteella tekemään johtopäätöksiä perusjoukon S tuntemattomasta todennäköisyysjakaumasta P. Matemaattisesti (MS-E00 Probability theory): Satunnaismuuttuja on mitallinen kuvaus X : S S Tapahtuman {X B} todennäköisyys on luku P(A), missä A = X (B) on joukon B alkukuva

5 Eri tyyppisiä satunnaismuuttujia Satunnaismuuttujasta X : S S saatetaan käyttää nimitystä Nimitys Arvojoukko Satunnaisluku S R Satunnaisvektori S R n Satunnaismatriisi S R m n Stokastinen prosessi S R T (aikavälin T funktiot) Satunnaiskenttä S R U (alueen U funktiot) Satunnaisverkko S {0, } V V (solmujoukon V verkot) Tällä kurssilla käsitellään lähes yksinomaan satunnaislukuja (eli reaaliarvoisia satunnaismuuttujia) ja R 2 :n satunnaisvektoreita.

6 Sisältö Satunnaismuuttujan käsite Jakauma ja kertymäfunktio Jakauman tiheysfunktio Monen muuttujan yhteisjakauma Ehdollinen jakauma Esimerkkejä

7 Satunnaismuuttujan jakauma Satunnaismuuttujan X jakauma on taulukko tai funktio, josta voidaan määrittää X :n mahdolliset arvot ja niiden todennäköisyydet. Esim (Kaksi noppaa) Nopan silmäluvun X jakauma on k P(X = k) eli lukujoukon {,..., } tasajakauma. Nopan 2 silmäluvulla X 2 on sama jakauma. = Satunnaismuuttujat X ja X 2 ovat samoin jakautuneita.

8 Esim. Kahden nopan maksimi M = max(x, X 2 ), missä X ja X 2 ovat kahden nopan tulokset. P(M = k) = P(M k) P(M k ) = P(X k, X 2 k) P(X k, X 2 k ) = P(X k) P(X 2 k) P(X k ) P(X 2 k ) ( ) k 2 ( ) k 2 = = 2k Satunnaismuuttujan M jakauma: 0. k P(M = k)

9 Esim. Metron odotusaika X = seuraavan metron odotusaika (min) asemalla, jonne metroja saapuu 0 min välein. Mikä on satunnaismuuttujan X jakauma? P(2 X ) = 0 = 0. P(2.9 X ) = 0. 0 = 0.0 P( X ) = = P(X = ) = 0 Vastaavasti päätelleen havaitaan, että P(X = t) = 0 kaikilla t. Menikö yo. päättelyssä jotain väärin? Ei mennyt. Koska X :n arvojoukko on jatkuva väli [0, 5], tarkoittaa {X = } tapahtumaa, että X :n arvo on äärettömän monen desimaalin tarkkuudella. Tällaisen tapahtuman todennäköisyys on nolla. Tarvitaan vaihtoehtoinen tapa esittää odotusajan jakauma.

10 Esim. Metron odotusaika X = seuraavan metron odotusaika (min) asemalla, jonne metroja saapuu 0 min välein. Mikä on satunnaismuuttujan X jakauma? Koska P(X =t) = 0 kaikilla t, ei X :n jakaumaa voi määrittää pistetodennäköisyyksien avulla. Tarvitaan muita keinoja. P(a X b) = P(a < X b) = P(X b) P(X a) = F X (b) F X (a), missä 0, t 0, F X (t) = t 0, 0 < t < 0,, t 0. on odotusajan jakauman kertymäfunktio

11 Kertymäfunktio Satunnaisluvun (eli reaaliarvoisen satunnaismuuttujan) jakauman kertymäfunktio on funktio F X (t) = P(X t). Fakta Kertymäfunktio määrää jakauman: funktion F X (t) avulla voidaan laskea kaikkien tapahtumien {X B} todennäköisyydet. Esim (Metron odotusaika) Millä todennäköisyydellä odotusaika osuu välille (, 2) tai (, 4)? P(X (, 2) tai X (, 4)) = P(X (, 2)) + P(X (, 4)) = (F X (2) F X ()) + (F X (4) F X ()) ( 2 = 0 ) ( ) 0 = 0.2.

12 Sisältö Satunnaismuuttujan käsite Jakauma ja kertymäfunktio Jakauman tiheysfunktio Monen muuttujan yhteisjakauma Ehdollinen jakauma Esimerkkejä

13 Tiheysfunktio X on diskreetti, jos sen jakauma voidaan esittää funktion f X (x) 0 avulla muodossa P(X A) = f X (x), x A S X missä numeroituva joukko S X sisältää X :n mahdolliset arvot X on jatkuva, jos sen jakauma voidaan esittää funktion f X (x) 0 avulla muodossa P(X A) = f X (x) dx. A

14 Diskreetin jakauman tiheysfunktio Diskreetin satunnaismuuttujan tiheysfunktio voidaan kirjoittaa muodossa f X (x) = P(X = x) ja se toteuttaa ehdot f X (x) 0 ja x S X f X (x) =. Vastaavasti mikä tahansa yo. ehdot toteuttava funktio on jonkin diskreetin jakauman tiheysfunktio.

15 Diskreetin jakauman tiheysfunktio Kun satunnaismuuttujan arvojoukko on pieni, kannattaa jakauma esittää taulukkona. Esim (Kruunien lukumäärä 5:llä kolikonheitolla) k P(X = k) Suuren arvojoukon tapauksessa jakauma kannattaa esittää tiheysfunktion avulla. Esim (Kruunien lukumäärä n = :lla kolikonheitolla) f X (k) = ( n k ) ( 2 ) k ( 2) n k, k = 0,,..., n. Tämä on binomijakauma parametreina n = ja p = 2.

16 Jatkuvan jakauman tiheysfunktio Jatkuvan jakauman tiheysfunktio toteuttaa ehdot f X (x) 0 ja f X (x) dx =, Vastaavasti mikä tahansa yo. ehdot toteuttava funktio on jonkin jatkuvan jakauman tiheysfunktio. Jatkuvan jakauman tiheysfunktiota ei voi kirjoittaa pistetodennäköisyyksien avulla, sillä P(X = x) = 0. Tiheysfunktio on todennäköisyys suhteessa reaalilukujen esitystarkkuuteen; sen jatkuvuuspisteissä pienillä h > 0 arvoilla f X (x) P(X = x ± h/2) h

17 Kertymäfunktio ja tiheysfunktio Jatkuvan satunnaisluvun kertymäfunktio saadaan tiheysfunktion integraalina F X (x) = P(X x) = x f X (t) dt tiheysfunktio saadaan kertymäfunktion derivaattana f X (x) = F X (x) kertymäfunktion derivoituvuuspisteissä.

18 Esim. Jatkuva tasajakauma Funktio f (t) = { b a, a < t < b, 0, muuten. /(b a) on erään jatkuvan jakauman tiheysfunktio: lukuvälin [a, b] jatkuva tasajakauma. Kertymäfunktio saadaan integraalina F (t) = t f (s) ds = 0, t < a, t b a, a t b,, t > b. 0 a a b b Sijoittamalla a = 0 ja b = 0 saadaan metron odotusajan jakauma.

19 Eksponenttijakauma Eksponenttijakauman parametrina λ > 0 tiheysfunktio on { λe λx, x > 0 f (x) = 0, x 0. f(x) λ x Integroimalla tiheysfunktiota = kertymäfunktio on { 0, x 0, F (x) = e λx, x > 0 F(x) x

20 Eksponenttijakauman muistittomuus F (t) = e λt, t 0 P ( X > s + t X > s ) = = P(X > s + t ja X > s) P(X > s) P(X > s + t) F (s + t) = P(X > s) F (s) = e λ(t+s) e λs = e λt = P(X > t) Siis P(X > s + t X > s) = P(X > t) kaikilla s, t 0. Tulkinta Huolimatta siitä, kuinka kauan bussia on jo odotettu, on tn että pitää odottaa vielä t min lisää sama kuin tn, että juuri pysäkille saapunut henkilö odottaa yli t min.

21 Satunnaisluvut yhteenveto Diskreetti jakauma X :n arvot sisältyvät äärelliseen tai numeroituvasti äärettömään arvojoukkoon S X P(X = x) = f X (x) kaikilla x S X Jakauma määräytyy tiheysfunktiosta kaavalla P(X A) = A (x)f X (x) x S X Jatkuva jakauma X :n arvot sisältyvät ylinumeroituvasti äärettömään lukujoukkoon P(X = x) = 0 kaikilla x Jakauma määräytyy tiheysfunktiosta kaavalla P(X A) = A (x)f X (x) dx Tiheysfunktion arvot ovat tarkkoja todennäköisyyksiä f X (x) = P(X = x) Tiheysfunktion arvot ovat suhteellisia likiarvoisia todennäköisyyksiä f X (x) h P(X = x ± h/2)

22 Sisältö Satunnaismuuttujan käsite Jakauma ja kertymäfunktio Jakauman tiheysfunktio Monen muuttujan yhteisjakauma Ehdollinen jakauma Esimerkkejä

23 Satunnaismuuttujien yhteisjakauma Samaan satunnaisilmiöön liittyvien satunnaismuuttujien X ja Y yhteisjakauma on taulukko tai funktio, josta voidaan määrittää parin (X, Y ) mahdolliset arvot ja niiden todennäköisyydet. Esim (Kaksi noppaa) Noppien silmälukujen X ja X 2 yhteisjakauma on X 2 X eli tulojoukon {,..., } {,..., } tasajakauma.

24 Ensimmäisen nopan ja noppien maksimin yhteisjakauma P(X =, M = ) = P(X =, X 2 = ) = Yleisesti: k < i = P(X = i, M = k) = 0 k = i = P(X = i, M = k) = P(X = i, X 2 i) = k k > i = P(X = i, M = k) = P(X = i, X 2 = k) = Satunnaismuuttujien X ja M yhteisjakauma: M X

25 Indikaattorifunktio Joukon A indikaattorifunktio määritellään kaavalla {, x A, A (x) = 0, muuten. Sen avulla voidaan yhden muuttujan jakaumien esityskaavat kirjoittaa muodossa P(X A) = A (x)f X (x) x S X ja P(X A) = A (x)f X (x) dx.

26 Diskreetti ja jatkuva yhteisjakauma Satunnaismuuttujilla X ja Y on diskreetti yhteisjakauma, jos niiden todennäköisyydet voidaan esittää funktion f X,Y (x, y) 0 avulla muodossa P((X, Y ) A) = A (x, y)f X,Y (x, y), y S Y x S X missä joukot S X ja S Y ovat numeroituvia, ja jatkuva yhteisjakauma, jos niiden todennäköisyydet voidaan esittää funktion f X,Y (x, y) 0 avulla muodossa P((X, Y ) A) = A (x, y)f X,Y (x, y) dx dy.

27 Yhteisjakauman reunajakaumat Rivi- ja sarakesummia kutsutaan yhteisjakauman reunajakaumiksi. M X Yht Yht 5 Rivisummista saadaan X :n jakauma Sarakesummista saadaan M:n jakauma 7 9

28 Silmälukujen yhteisjakauman reunajakaumat X 2 X Yht Yht Rivisummista saadaan X :n jakauma Sarakesummista saadaan X 2 :n jakauma

29 Reunajakaumat Diskreettiä yhteisjakaumaa noudattavien satunnaismuuttujien X ja Y tiheysfunktiot saadaan yhteisjakauman tiheysfunktiosta kaavoilla f X (x) = f X,Y (x, y) y S Y f Y (y) = f X,Y (x, y). x S X Jatkuvan yhteisjakauman tapauksessa f X (x) = f Y (y) = f X,Y (x, y) dy f X,Y (x, y) dx.

30 Esim. Yksikköneliön tasajakauma Yksikköneliön (0, ) 2 tasajakaumaa noudattavan satunnaisvektorin (U, U 2 ) tiheysfunktio on {, kun x (0, ) ja x 2 (0, ), f U,U 2 (x, x 2 ) = 0, muuten. Yhteisjakauman reunatiheysfunktiot ovat {, kun x (0, ), f U (x ) = f U,U 2 (x, x 2 ) dx 2 = 0, muuten. f U2 (x 2 ) = f U,U 2 (x, x 2 ) dx = {, kun x 2 (0, ), 0, muuten. U ja U 2 noudattavat siis välin (0, ) tasajakaumaa.

31 Sisältö Satunnaismuuttujan käsite Jakauma ja kertymäfunktio Jakauman tiheysfunktio Monen muuttujan yhteisjakauma Ehdollinen jakauma Esimerkkejä

32 Ehdolliset jakauma Y :n ehdollinen tiheysfunktio X :n suhteen määritellään kaavalla f Y X (y x) = f X,Y (x, y). f X (x) Diskreetissä tapauksessa f Y X (y x) 0 ja y S Y f Y X (y x) =, Jatkuvassa tapauksessa f Y X (y x) 0 ja f Y X (y x) dy =. = y f Y X (y x) on yhden muuttujan jakauman tiheysfunktio. Tulkinta diskreetille: f Y X (y x) = P(Y = y X = x). Tulkinta jatkuvalle: yhteisjakauman tiheysfunktion jatkuvuuspisteissä pienillä h > 0 arvoilla pätee f Y X (y x) P(Y = y ± h/2 X = x ± h/2). h

33 Satunnaismuuttujien riippuvuus ja riippumattomuus Satunnaismuuttujat X ja Y ovat stokastisesti riippumattomat, jos kaikilla A, B pätee Yhtäpitävästi: tai P(X A, Y B) = P(X A) P(Y B). P(Y B X A) = P(Y B) P(X A Y B) = P(X A). Tapahtuma X A ei sisällä mitään informaatiota, josta olisi hyötyä Y :n arvon ennustamiseen.

34 Satunnaismuuttujien riippuvuus ja riippumattomuus Fakta Diskreettiä tai jatkuvaa yhteisjakaumaa noudattavat satunnaismuuttujat X ja Y ovat riippumattomat jos ja vain niiden yhteisjakauman tiheysfunktio voidaan esittää muodossa f X,Y (x, y) = f X (x)f Y (y) Tämä vastaa ehtoa f Y X (y x) = f Y (y), eli Y :n ehdollinen jakauma X :n suhteen on sama kuin Y :n jakauma sellaisenaan.

35 Esim. Satunnaisotanta Kuinka moni opiskelijoista katsoi viime to Salatut elämät? S = Kaikki opiskelijat, #S = A = Salkkarit katsoneet opiskelijat, #A =. (#A olisi käytännön tilanteessa tuntematon) Haastatellaan satunnaiset n = 2 opiskelijaa ja merkitään {, jos. haastateltu opiskelija A X = 0, muuten X 2 = {, jos 2. haastateltu opiskelija A 0, muuten Mikä on X :n ja X 2 :n yhteisjakauma? P(X =, X 2 = ) =?

36 Satunnaisotanta palauttaen ja palauttamatta Palauttaen Palauttamatta X 2 X 0 Yht 0 Yht X 2 X 0 Yht Yht Molemmissa tapauksissa saadaan samat reunajakaumat. Yhteisjakaumaan vaikuttaa, miten otanta suoritetaan.

37 Satunnaisotanta palauttaen ja palauttamatta Palauttaen Palauttamatta X 2 X 0 Yht 0 Yht f X,X 2 (i, j) = f X (i)f X2 (j) X 2 X 0 Yht Yht f X,X 2 (i, j) f X (i)f X2 (j) Molemmissa tapauksissa saadaan samat reunajakaumat. Satunnaisotannassa palauttaen ovat X ja X 2 riippumattomat. Satunnaisotannassa palauttamatta X ja X 2 ovat riippuvat.

38 Esim. Satunnaisotanta palauttaen Mikä on satunnaismuuttujan X 2 ehdollinen jakauma tapahtuman {X = 0} sattuessa? X 2 X 0 Yht 0 Yht f X2 X (0 0) = f X2 X ( 0) = =. =. Tässä tapauksessa X 2 :n ehdollinen jakauma tapahtuman {X = 0} sattuessa on sama kuin X 2 :n ehdoton jakauma.

39 Esim. Satunnaisotanta palauttamatta Mikä on satunnaismuuttujan X 2 ehdollinen jakauma tapahtuman {X = 0} sattuessa? X 2 X 0 Yht Yht f X2 X (0 0) = f X2 X ( 0) = = = 79. Tässä tapauksessa X 2 :n ehdollinen jakauma tapahtuman {X = 0} sattuessa on eri kuin X 2 :n ehdoton jakauma.

40 Sisältö Satunnaismuuttujan käsite Jakauma ja kertymäfunktio Jakauman tiheysfunktio Monen muuttujan yhteisjakauma Ehdollinen jakauma Esimerkkejä

41 Ääretön diskreetti arvojoukko Diskreetin satunnaismuuttujan mahdollisten arvojen joukko voi olla ääretön. Esim (Kimblen alkuvaihe) N = nopanheittojen lukumäärä, kunnes saadaan kuutonen. P(N = k) = P(X,..., X k, X k = ) = P(X ) P(X k ) P(X k = ) ( = ) k ( ) Satunnaismuuttuja N noudattaa äärettömän arvojoukon {, 2,... } geometrista jakaumaa onnistumistodennäköisyytenä p =. Tämä on numeroituvasti äärettömän joukon diskreetti jakauma, tiheysfunktiona f N (k) = ( p) k p, k =, 2,...

42 Esimerkki: Metron odotusaika Y = odotusaika (min) asemalla, jonne metroja saapuu 0 min välein, ja jossa metrot pysähtyvät min ajan. Y :n jakauma =? X = aika (min) edellisen metron saapumisesta noudattaa välin [0, 0] tasajakaumaa. Kun t [0, 9], P(Y t) = P(Y = 0) + P(0 < Y t) = F Y (t) = = P(X ) + P(0 < 0 X < t). Onko Y :n jakauma diskreetti vai jatkuva? 0, t < 0, 0 + t 0, 0 t 9,, t > 9. Y saa arvoja jatkuvalla välillä [0, 9] = ei diskreetti P(Y = 0) > 0 = ei jatkuva

43 Esimerkki: Metron odotusaika Y = odotusaika (min) asemalla, jonne metroja saapuu 0 min välein, ja jossa metrot pysähtyvät min ajan. Kertymäfunktio voidaan kirjoittaa muodossa F Y (t) = 0 F Y 0 (t) F Y (t), missä F Y0 (t) = { 0, t < 0,, t 0, F Y (t) = 0, t < 0, t 9, 0 t < 9,, t 9, Y :n jakauma on diskreetin ja jatkuvan jakauman sekoitus: Y 0 on diskreetti sm, joka varmuudella saa arvon 0 (Y :n jakauma ehdolla, että metro on odottamassa asemalla) Y on jatkuva sm, joka noudattaa välin [0, 9] tasajakaumaa (Y :n jakauma ehdolla, että metroa joudutaan odottamaan)

44 Seuraavalla kerralla puhutaan satunnaismuuttujien odotusarvoista...