Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat

Transkriptio

1 Ilkka Mellin Todennäköisyyslaskenta Osa 2: Satunnaismuuttujat ja todennäköisyysjakaumat Moniulotteiset satunnaismuuttujat ja jakaumat TKK (c) Ilkka Mellin (2006) 1

2 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat >> Kaksiulotteiset todennäköisyysjakaumat Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Kaksiulotteisten jakaumien odotusarvot ja varianssit Kovarianssi ja korrelaatio Ehdolliset jakaumat ja odotusarvot TKK (c) Ilkka Mellin (2006) 2

3 Kaksiulotteiset todennäköisyysjakaumat Satunnaistekijöiden väliset riippuvuudet Yhden satunnaismuuttujan todennäköisyysjakaumat kuvaavat useimpia satunnaisilmiötä vain rajoitetusti. Satunnaisilmiöihin liittyy tavallisesti useita satunnaisia tekijöitä, joiden väliset riippuvuudet ovat varsinaisen mielenkiinnon kohteina. Useiden satunnaisten tekijöiden välisten riippuvuuksien mallintaminen vaatii tekijöihin liittyvien satunnaismuuttujien yhteisjakauman tarkastelua. TKK (c) Ilkka Mellin (2006) 3

4 Kaksiulotteiset todennäköisyysjakaumat Esimerkkejä riippuvuustarkasteluista Miten työttömyysaste Suomessa (% työvoimasta) riippuu BKT:n kasvuvauhdista, viennin volyymista ja BKT:n kasvuvauhdista muissa EUmaissa ja USA:ssa? Miten alkoholin kokonaiskulutus (l per capita vuodessa) riippuu alkoholijuomien hintatasosta, käytettävissä olevista tuloista ja alkoholin saatavuudesta? Miten todennäköisyys sairastua keuhkosyöpään (p) riippuu tupakoinnin määrästä ja kestosta? Miten vehnän sato (t/ha) riippuu kesän keskilämpötilasta, sademäärästä, maan muokkaustavoista, lannoituksesta ja tuholaisten torjunnasta? TKK (c) Ilkka Mellin (2006) 4

5 Kaksiulotteiset todennäköisyysjakaumat Kaksiulotteiset satunnaismuuttujat Olkoot X ja Y satunnaismuuttujia, joiden otosavaruudet ovat R ja S. Tällöin X : S Y : R Olkoon R S otosavaruuksien R ja S karteesinen tulo: R S = ( r, s) r R, s S { } Satunnaismuuttujien X ja Y järjestetty pari (X, Y) määrittelee kaksiulotteisen satunnaismuuttujan: ( X, Y): S R 2 TKK (c) Ilkka Mellin (2006) 5

6 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset satunnaismuuttujat ja niiden jakaumat Olkoot X ja Y diskreettejä satunnaismuuttujia. Tällöin järjestetty pari (X, Y) määrittelee diskreetin kaksiulotteisen satunnaismuuttujan. Diskreetti kaksiulotteinen satunnaismuuttuja (X, Y) määrittelee diskreetin kaksiulotteisen todennäköisyysjakauman, jota kutsutaan satunnaismuuttujien X ja Y yhteisjakaumaksi. TKK (c) Ilkka Mellin (2006) 6

7 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: Pistetodennäköisyysfunktio Reaaliarvoinen funktio f XY : R määrittelee diskreettien satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktion, jos seuraavat ehdot pätevät: (1) f ( x, y) 0 kaikille x ja y XY 2 R (2) fxy ( xy, ) = 1 x y (3) Pr( X= xja Y= y) = f ( xy, ) XY TKK (c) Ilkka Mellin (2006) 7

8 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: Tapahtumien todennäköisyydet Olkoon fxy diskreettien satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio. Olkoon A R jokin tapahtuma. Tällöin : R 2 2 R = Pr(( XY, ) A) f ( xy, ) ( x, y) A XY TKK (c) Ilkka Mellin (2006) 8

9 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: Symmetriset todennäköisyyskentät Olkoon (x i, y i ), i = 1, 2,, n erillisten tason pisteiden muodostama diskreetti pistejoukko. Määritellään diskreetin kaksiulotteisen jakauman pistetodennäköisyysfunktio kaavalla 1 fxy( xi, yi) = Pr( X = xi ja Y = yi) =, i= 1,2,..., n n Tällöin satunnaismuuttuja (X, Y) määrittelee symmetrisen todennäköisyyskentän, jossa kaikki alkeistapahtumat (x i, y i ), i = 1, 2,, n ovat yhtä todennäköisiä. TKK (c) Ilkka Mellin (2006) 9

10 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 1. esimerkki nopanheitosta 1/6 Heitetään virheetöntä noppaa kaksi kertaa. Määritellään satunnaismuuttujat X ja Y: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Voimme olettaa, että 2. heiton tulos on riippumaton 1. heiton tuloksesta (ja kääntäen). Satunnaismuuttujien X ja Y mahdolliset arvot: X: {1, 2, 3, 4, 5, 6} Y: {1, 2, 3, 4, 5, 6} Muodostetaan satunnaismuuttujien X ja Y yhteisjakauma. TKK (c) Ilkka Mellin (2006) 10

11 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 1. esimerkki nopanheitosta 2/6 Kahden nopanheiton tulosvaihtoehdot voidaan esittää seuraavana taulukkona: Tulos 1. nopanheitosta Mahdolliset tulokset 2. nopanheitosta Siten satunnaismuuttujien X ja Y järjestetty pari (X, Y) määrittelee diskreetin kaksiulotteisen satunnaismuuttujan, jonka arvoina on 36 lukuparia (x, y) ; x = 1, 2, 3, 4, 5, 6 ; y = 1, 2, 3, 4, 5, 6 TKK (c) Ilkka Mellin (2006) 11

12 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 1. esimerkki nopanheitosta 3/6 Koska noppa oletettiin virheettömäksi ja heittojen tulokset oletettiin riippumattomiksi, on luontevaa ajatella, että kahden nopanheiton tulosten muodostamat 36 tulosvaihtoehtoa (x, y) ; x = 1, 2, 3, 4, 5, 6 ; y = 1, 2, 3, 4, 5, 6 ovat yhtä todennäköisiä. Tällöin satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio saa positiiviset arvot kun fxy ( x, y) = Pr( X = x, Y = y) = Pr( X = x)pr( Y = y) = = x = 1, 2, 3, 4, 5, 6 y = 1, 2, 3, 4, 5, 6 TKK (c) Ilkka Mellin (2006) 12

13 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 1. esimerkki nopanheitosta 4/6 Satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio 1 fxy ( x, y) = Pr( X = x ja Y = y) = 36 x= 1, 2,3,4,5,6 ; y = 1, 2,3,4,5,6 voidaan esittää seuraavana taulukkona: 2. heiton silmäluku y 6 1/36 1/36 1/36 1/36 1/36 1/36 5 1/36 1/36 1/36 1/36 1/36 1/36 4 1/36 1/36 1/36 1/36 1/36 1/36 3 1/36 1/36 1/36 1/36 1/36 1/36 2 1/36 1/36 1/36 1/36 1/36 1/36 1 1/36 1/36 1/36 1/36 1/36 1/ heiton silmäluku x TKK (c) Ilkka Mellin (2006) 13

14 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 1. esimerkki nopanheitosta 5/6 Heitetään virheetöntä noppaa kaksi kertaa: X = tulos 1. heitosta Y = tulos 2. heitosta Kuva oikealla esittää satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktiota. Kuvassa on 36 pylvästä, joista jokaisen korkeus 1/ x y TKK (c) Ilkka Mellin (2006) 14

15 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 1. esimerkki nopanheitosta 6/6 Heitetään virheetöntä noppaa kaksi kertaa: X = tulos 1. heitosta Y = tulos 2. heitosta Kuva oikealla havainnollistaa satunnaismuuttujien X ja Y yhteisjakaumaa. Kuvassa on 36 pistettä, joista jokaisen todennäköisyys on 1/ heitto heitto TKK (c) Ilkka Mellin (2006) 15

16 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 1/9 Heitetään virheetöntä noppaa kaksi kertaa. Määritellään satunnaismuuttujat X, Y ja Z: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Z = X + Y = silmälukujen summa Voimme olettaa, että 2. heiton tulos on riippumaton 1. heiton tuloksesta (ja kääntäen). Satunnaismuuttujien X, Y ja Z mahdolliset arvot: X: {1, 2, 3, 4, 5, 6} Y: {1, 2, 3, 4, 5, 6} Z: {2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12} Määrätään satunnaismuuttujien X ja Z yhteisjakauma. TKK (c) Ilkka Mellin (2006) 16

17 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 2/9 Muodostetaan ensin summamuuttujan Z = X + Y jakauma. Muodostetaan sitä varten aputaulukko, joka esittää kaikkia mahdollisia tapoja, joilla nopanheittojen silmälukujen summa Z = X + Y voi syntyä: 2. heiton silmäluku y Silmälukujen summat z = x + y heiton silmäluku x TKK (c) Ilkka Mellin (2006) 17

18 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 3/9 Aputaulukosta voidaan suoraan lukea 1. ja 2. nopanheiton silmälukujen summan Z = X + Y todennäköisyysjakauma: I Silmälukujen summat z = x + y ja niiden todennäköisyydet /36 2/36 3/36 4/36 5/36 6/36 5/36 4/36 3/36 2/36 1/36 Esimerkki: Summa 5 voi syntyä kahden nopanheiton tuloksena 4:llä eri tavalla: 5 = = = = joten todennäköisyys saada summaksi 5 on 4/36. TKK (c) Ilkka Mellin (2006) 18

19 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 4/9 1. nopanheiton tulos ja 1. ja 2. nopanheiton tulosten kaikki mahdolliset summat voidaan esittää seuraavana taulukkona: Tulos 1. nopanheitosta Mahdolliset summat 1. ja 2. nopanheiton tuloksista Siten satunnaismuuttujien X ja Z = X + Y järjestetty pari (X, Z) määrittelee diskreetin kaksiulotteisen satunnaismuuttujan, jonka arvoina on 66 lukuparia (x, z) ; x = 1, 2, 3, 4, 5, 6 ; z = 2, 3, 4, 5, 6, 7, 8, 10, 11, 12 TKK (c) Ilkka Mellin (2006) 19

20 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 5/9 Koska noppa oletettiin virheettömäksi ja heittojen tulokset oletettiin riippumattomiksi, on luontevaa ajatella, että 1. heiton tulos ja 1. ja 2. heiton tulosten mahdollisten summien muodostamat 36 tulosvaihtoehtoa (x, z) ; x = 1, 2, 3, 4, 5, 6 ; z = x + y ; y = 1, 2, 3, 4, 5, 6 ovat yhtä todennäköisiä. Tällöin satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktion saa positiiviset arvot kun 1 fxz ( x, z) = Pr( X = z ja Z = z) = 36 x = 1, 2, 3, 4, 5, 6 z = x + y y = 1, 2, 3, 4, 5, 6 TKK (c) Ilkka Mellin (2006) 20

21 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 6/9 Satunnaismuuttujien X ja Z = X + Y yhteisjakauman pistetodennäköisyysfunktio voidaan esittää seuraavana taulukkona: Silmälukujen summa z / /36 1/ /36 1/36 1/ /36 1/36 1/36 1/ /36 1/36 1/36 1/36 1/36 7 1/36 1/36 1/36 1/36 1/36 1/36 6 1/36 1/36 1/36 1/36 1/ /36 1/36 1/36 1/ /36 1/36 1/ /36 1/ / nopan silmäluku x TKK (c) Ilkka Mellin (2006) 21

22 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 7/9 Esimerkkejä: (i) (ii) (iii) (iv) Oletetaan, että 1. nopalla on saatu 2. Tällöin silmälukujen summaksi ei voi tulla 10, joten Pr(X = 1 ja Z = 10) = 0 Oletetaan, että 1. nopalla on saatu 6. Tällöin silmälukujen summaksi ei voi tulla 3, joten Pr(X = 6 ja Z = 3) = 0 Oletetaan, että 1. nopalla on saatu 2. Tällöin silmälukujen summaksi voi tulla 3, 4, 5, 6, 7 tai 8, joten Pr(X = 1 ja Z = z) = 1/36 ; z = 3, 4, 5, 6, 7, 8 Oletetaan, että 1. nopalla on saatu 6. Tällöin silmälukujen summaksi voi tulla 7, 8, 9, 10, 11 tai 12, joten Pr(X = 6 ja Z = z) = 1/36 ; z = 7, 8, 9, 10, 11, 12 TKK (c) Ilkka Mellin (2006) 22

23 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 8/9 Heitetään virheetöntä noppaa kaksi kertaa: X = tulos 1. heitosta Y = tulos 2. heitosta Z = X + Y Kuva oikealla esittää satunnaismuuttujien X ja Z yhteisjakauman pistetodennäköisyysfunktiota. Kuvassa on 36 pylvästä, joista jokaisen korkeus on 1/ x z TKK (c) Ilkka Mellin (2006) 23

24 Kaksiulotteiset todennäköisyysjakaumat Diskreetit kaksiulotteiset jakaumat: 2. esimerkki nopanheitosta 9/9 Heitetään virheetöntä noppaa kaksi kertaa: X = tulos 1. heitosta Y = tulos 2. heitosta Z = X + Y Kuva oikealla havainnollistaa satunnaismuuttujien X ja Z yhteisjakaumaa. Kuvassa on 36 pistettä, joista jokaisen todennäköisyys on 1/36. Heittotulosten summa heitto TKK (c) Ilkka Mellin (2006) 24

25 Kaksiulotteiset todennäköisyysjakaumat Jatkuvat kaksiulotteiset satunnaismuuttujat ja niiden jakaumat Olkoot X ja Y jatkuvia satunnaismuuttujia. Tällöin järjestetty pari (X, Y) määrittelee jatkuvan kaksiulotteisen satunnaismuuttujan. Kaksiulotteinen jatkuva satunnaismuuttuja (X, Y) määrittelee jatkuvan kaksiulotteisen todennäköisyysjakauman, jota kutsutaan satunnaismuuttujien X ja Y yhteisjakaumaksi. TKK (c) Ilkka Mellin (2006) 25

26 Kaksiulotteiset todennäköisyysjakaumat Jatkuvat kaksiulotteiset jakaumat: Tiheysfunktio Reaaliarvoinen jatkuva funktio f XY : R määrittelee jatkuvien satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktion, jos seuraavat ehdot pätevät: (1) f ( x, y) 0 kaikille x ja y XY R (2) f ( x, y) dydx = 1 XY (3) Pr( a X b ja c Y d) = f XY ( x, y) dydx bd ac TKK (c) Ilkka Mellin (2006) 26

27 Kaksiulotteiset todennäköisyysjakaumat Kaksinkertaiset integraalit: Integrointijärjestys Huomautus: Käytämme kaksinkertaisten integraalien yhteydessä seuraavaa sopimusta integrointijärjestyksestä: b d b d f XY ( x, y) dydx = f XY ( x, y) dy dx a c a c TKK (c) Ilkka Mellin (2006) 27

28 Kaksiulotteiset todennäköisyysjakaumat Jatkuvat kaksiulotteiset jakaumat: Tapahtumien todennäköisyydet Olkoon fxy jatkuvien satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio. Olkoon A R jokin tapahtuma. Tällöin : R 2 2 R = Pr(( X, Y ) A) f ( x, y) dydx A XY TKK (c) Ilkka Mellin (2006) 28

29 Kaksiulotteiset todennäköisyysjakaumat Kaksiulotteisten jakaumien kertymäfunktiot Olkoon (X, Y) satunnaismuuttujien X ja Y muodostama järjestetty pari. Satunnaismuuttujien X ja Y yhteisjakauman kertymäfunktio F XY määritellään kaavalla: F ( x, y) = Pr( X x ja Y y) XY TKK (c) Ilkka Mellin (2006) 29

30 Kaksiulotteiset todennäköisyysjakaumat Diskreettien kaksiulotteisten jakaumien kertymäfunktiot Olkoon (X, Y) diskreetti kaksiulotteinen satunnaismuuttuja. Olkoon {x 1, x 2, x 3, } satunnaismuuttujan X tulosvaihtoehtojen eli arvojen joukko. Olkoon {y 1, y 2, y 3, } satunnaismuuttujan Y tulosvaihtoehtojen eli arvojen joukko. Diskreetin kaksiulotteisen jakauman kertymäfunktio on F ( x, y) = Pr( X x ja Y y) XY = x x y y i i f ( x, y ) XY i i jossa f XY satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio. TKK (c) Ilkka Mellin (2006) 30

31 Kaksiulotteiset todennäköisyysjakaumat Jatkuvien kaksiulotteisten jakaumien kertymäfunktiot Olkoon (X, Y) jatkuva kaksiulotteinen satunnaismuuttuja. Jatkuvan kaksiulotteisen jakauman kertymäfunktio on F ( x, y) = Pr( X x ja Y y) XY x y = f XY ( u, v) dvdu jossa f XY satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio. TKK (c) Ilkka Mellin (2006) 31

32 Kaksiulotteiset todennäköisyysjakaumat Jatkuvan kaksiulotteisen jakauman tiheysfunktion ja kertymäfunktion yhteys Olkoon (X, Y) jatkuva kaksiulotteinen satunnaismuuttuja. Olkoon F XY (x, y) satunnaismuuttujien X ja Y yhteisjakauman kertymäfunktio. Jos derivaatta 2 FXY ( xy, ) xy = f XY ( xy, ) on olemassa ja on jatkuva, funktio f XY (x, y) on satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio. TKK (c) Ilkka Mellin (2006) 32

33 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat Kaksiulotteiset todennäköisyysjakaumat >> Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Kaksiulotteisten jakaumien odotusarvot ja varianssit Kovarianssi ja korrelaatio Ehdolliset jakaumat ja odotusarvot TKK (c) Ilkka Mellin (2006) 33

34 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin kaksiulotteisen jakauman reunajakaumat Olkoon f XY (x, y) diskreetin kaksiulotteisen jakauman pistetodennäköisyysfunktio. Satunnaismuuttujan X reunajakauman pistetodennäköisyysfunktio on fx ( x) = Pr( X= x) = fxy ( xy, ) Satunnaismuuttujan Y reunajakauman pistetodennäköisyysfunktio on fy ( y) = Pr( Y= y) = fxy ( xy, ) Satunnaismuuttujien X ja Y reunajakaumat yhtyvät satunnaismuuttujien X ja Y todennäköisyysjakaumiin. x y TKK (c) Ilkka Mellin (2006) 34

35 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 1. esimerkki nopanheitosta 1/5 Heitetään virheetöntä noppaa kaksi kertaa. Määritellään satunnaismuuttujat X ja Y: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Satunnaismuuttujien X ja Y mahdolliset arvot: X: {1, 2, 3, 4, 5, 6} Y: {1, 2, 3, 4, 5, 6} Määrätään satunnaismuuttujien X ja Y reunajakaumat. TKK (c) Ilkka Mellin (2006) 35

36 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 1. esimerkki nopanheitosta 2/5 Satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio: Pr(X = x ja Y = y) = f XY (x, y) ; x = 1, 2,, 6 ; y = 1, 2,, 6 2. heiton silmäluku y 1. heiton silmäluku x /36 1/36 1/36 1/36 1/36 1/36 5 1/36 1/36 1/36 1/36 1/36 1/36 4 1/36 1/36 1/36 1/36 1/36 1/36 3 1/36 1/36 1/36 1/36 1/36 1/36 2 1/36 1/36 1/36 1/36 1/36 1/36 1 1/36 1/36 1/36 1/36 1/36 1/36 TKK (c) Ilkka Mellin (2006) 36

37 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 1. esimerkki nopanheitosta 3/5 Satunnaismuuttujien X ja Y reunajakaumien pistetodennäköisyysfunktiot saadaan määräämällä yhteisjakauman todennäköisyydet antavassa taulukossa rivi ja sarakesummat. Satunnaismuuttujan X reunajakauman pistetodennäköisyysfunktio on fx ( x) = Pr( X = x) = fxy ( x, y) = 6 = ; x= 1,2,3,4,5,6 y= koska 1 fxy ( x, y) = ; x= 1,2,3,4,5,6; y = 1,2,3,4,5,6 36 Satunnaismuuttujan Y reunajakauman pistetodennäköisyysfunktio on fy ( y) = Pr( Y = y) = fxy ( x, y) = 6 = ; y = 1,2,3,4,5,6 x= koska 1 fxy ( x, y) = ; x= 1,2,3,4,5,6; y = 1,2,3,4,5,6 36 TKK (c) Ilkka Mellin (2006) 37

38 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 1. esimerkki nopanheitosta 4/5 Satunnaismuuttujien X ja Y yhteisjakauman ja reunajakaumien pistetodennäköisyysfunktiot: 2. heiton silmäluku y 1. heiton silmäluku x Yht 6 1/36 1/36 1/36 1/36 1/36 1/36 1/6 5 1/36 1/36 1/36 1/36 1/36 1/36 1/6 4 1/36 1/36 1/36 1/36 1/36 1/36 1/6 3 1/36 1/36 1/36 1/36 1/36 1/36 1/6 2 1/36 1/36 1/36 1/36 1/36 1/36 1/6 1 1/36 1/36 1/36 1/36 1/36 1/36 1/6 Yht 1/6 1/6 1/6 1/6 1/6 1/6 1 TKK (c) Ilkka Mellin (2006) 38

39 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 1. esimerkki nopanheitosta 5/ heiton tuloksen jakauma 2. heiton tuloksen jakauma Kuvat yllä esittävät satunnaismuuttujien X ja Y reunajakaumien pistetodennäköisyysfunktioita: X = tulos 1. heitosta Y = tulos 2. heitosta TKK (c) Ilkka Mellin (2006) 39

40 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 2. esimerkki nopanheitosta 1/5 Heitetään virheetöntä noppaa kaksi kertaa. Määritellään satunnaismuuttujat X, Y ja Z seuraavasti: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Z = X + Y = silmälukujen summa Satunnaismuuttujien X, Y ja Z mahdolliset arvot: X: {1, 2, 3, 4, 5, 6} Y: {1, 2, 3, 4, 5, 6} Z: {2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12} Määrätään satunnaismuuttujien X ja Z reunajakaumat. TKK (c) Ilkka Mellin (2006) 40

41 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 2. esimerkki nopanheitosta 2/5 Satunnaismuuttujien X ja Z yhteisjakauman pistetodennäköisyysfunktio: Silmälukujen summa z Pr(X = x ja Z = z) = f XZ (x, z) ; x = 1, 2,, 6 ; z = 2, 3,, nopan silmäluku x / /36 1/ /36 1/36 1/ /36 1/36 1/36 1/ /36 1/36 1/36 1/36 1/36 7 1/36 1/36 1/36 1/36 1/36 1/36 6 1/36 1/36 1/36 1/36 1/ /36 1/36 1/36 1/ /36 1/36 1/ /36 1/ / TKK (c) Ilkka Mellin (2006) 41

42 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 2. esimerkki nopanheitosta 3/5 Satunnaismuuttujien X ja Y reunajakaumien pistetodennäköisyysfunktiot saadaan määräämällä yhteisjakauman todennäköisyydet antavassa taulukossa rivi ja sarakesummat. Esimerkkejä: (i) (ii) Satunnaismuuttujan X reunajakauman pistetodennäköisyys, kun X = 4: 12 f (4) = f (4, z) X z= 1 XZ = = Satunnaismuuttujan Z reunajakauman pistetodennäköisyys, kun Z = 10: fz (10) = fxz ( x,10) = = x= 1 TKK (c) Ilkka Mellin (2006) 42

43 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 2. esimerkki nopanheitosta 4/5 Satunnaismuuttujien X ja Z = X + Y yhteisjakauma ja reunajakaumat: Silmälukujen summa z 1. nopan silmäluku x Yht /36 1/ /36 1/36 2/ /36 1/36 1/36 3/ /36 1/36 1/36 1/36 4/ /36 1/36 1/36 1/36 1/36 5/36 7 1/36 1/36 1/36 1/36 1/36 1/36 6/36 6 1/36 1/36 1/36 1/36 1/36 0 5/36 5 1/36 1/36 1/36 1/ /36 4 1/36 1/36 1/ /36 3 1/36 1/ /36 2 1/ /36 Yht 1/6 1/6 1/6 1/6 1/6 1/6 1 TKK (c) Ilkka Mellin (2006) 43

44 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Diskreetin 2 ulotteisen jakauman reunajakaumat: 2. esimerkki nopanheitosta 5/ heiton tuloksen jakauma Heittotuloksien summan jakauma Kuvat yllä esittävät satunnaismuuttujien X ja Z reunajakaumien pistetodennäköisyysfunktioita: X = tulos 1. heitosta Y = tulos 2. heitosta Z = X + Y = heittotulosten summa TKK (c) Ilkka Mellin (2006) 44

45 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Jatkuvan kaksiulotteisen jakauman reunajakaumat Olkoon f XY (x, y) jatkuvan kaksiulotteisen jakauman tiheysfunktio. Satunnaismuuttujan X reunajakauman tiheysfunktio on + f X ( x) = f XY ( x, y) dy Satunnaismuuttujan Y reunajakauman tiheysfunktio on + fy ( y) = f XY ( x, y) dx Satunnaismuuttujien X ja Y reunajakaumat yhtyvät satunnaismuuttujien X ja Y todennäköisyysjakaumiin. TKK (c) Ilkka Mellin (2006) 45

46 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus 1/2 Oletukset: (i) Olkoon satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyys tai tiheysfunktio f XY (x, y). (ii) Olkoon satunnaismuuttujan X reunajakauman pistetodennäköisyys tai tiheysfunktio f X (x). Olkoon satunnaismuuttujan Y reunajakauman pistetodennäköisyys tai tiheysfunktio f Y (y). Määritelmä 1: Satunnaismuuttujat X ja Y ovat riippumattomia, jos ja vain, jos f XY (x, y) = f X (x)f Y (y) TKK (c) Ilkka Mellin (2006) 46

47 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus 2/2 Oletukset: (i) Olkoon satunnaismuuttujien X ja Y yhteisjakauman kertymäfunktio F XY (x, y). (ii) Olkoon satunnaismuuttujan X reunajakauman kertymäfunktio F X (x). Olkoon satunnaismuuttujan Y reunajakauman kertymäfunktio F Y (y). Määritelmä 2: Satunnaismuuttujat X ja Y ovat riippumattomia, jos ja vain, jos F XY (x, y) = F X (x)f Y (y) TKK (c) Ilkka Mellin (2006) 47

48 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus: Yleistys 1/2 Oletukset: (i) Olkoon satunnaismuuttujien X i, i = 1, 2,, p yhteisjakauman pistetodennäköisyys tai tiheysfunktio f(x 1, x 2,, x p ) (ii) Olkoot satunnaismuuttujien X i, i = 1, 2,, p reunajakaumien pistetodennäköisyys tai tiheysfunktiot f(x i ), i = 1, 2,, p. Määritelmä 1: Satunnaismuuttujat X i, i = 1, 2,, p ovat riippumattomia, jos ja vain, jos f(x 1, x 2,, x p ) = f(x 1 )f(x 2 ) f(x p ) TKK (c) Ilkka Mellin (2006) 48

49 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus: Yleistys 2/2 Oletukset: (i) Olkoon satunnaismuuttujien X i, i = 1, 2,, p yhteisjakauman kertymäfunktio F(x 1, x 2,, x p ) (ii) Olkoot satunnaismuuttujien X i, i = 1, 2,, p reunajakaumien kertymäfunktiot F(x i ), i = 1, 2,, p. Määritelmä 2: Satunnaismuuttujat X i, i = 1, 2,, p ovat riippumattomia, jos ja vain, jos F(x 1, x 2,, x p ) = F(x 1 )F(x 2 ) F(x p ) TKK (c) Ilkka Mellin (2006) 49

50 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus ja tapahtumien riippumattomuus Olkoot satunnaismuuttujat X ja Y riippumattomia. Tällöin Huomautus: Pr( a X b ja c Y d) = Pr( a X b)pr( c Y d) Vrt. riippumattomien tapahtumien tulosääntö: Pr(A B) = Pr(A)Pr(B) TKK (c) Ilkka Mellin (2006) 50

51 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus ja tapahtumien riippumattomuus: Perustelu Olkoot satunnaismuuttujat X ja Y jatkuvia ja riippumattomia. Pr( a X b ja c Y d) = f ( x, y) dydx = = f ( x) f ( y) dydx f ( x) f ( y) dydx = f ( x)pr( c Y d) dx = Pr( c Y d) f ( x) dx = Pr( c Y d) Pr( a X b) TKK (c) Ilkka Mellin (2006) 51 bd a c bd a c b a b a X X XY X d c Y Y b a X

52 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus: 1. esimerkki nopanheitosta Heitetään virheetöntä noppaa kaksi kertaa: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Tarkastellaan satunnaismuuttujien X ja Y yhteisjakaumaa: 1 Pr( X = x ja Y = y) = = 6 6 = Pr( X = x)pr( Y = y) x= 1,2,3,4,5,6 ; y = 1,2,3,4,5,6 Siten satunnaismuuttujat X ja Y ovat riippumattomia. TKK (c) Ilkka Mellin (2006) 52

53 Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Satunnaismuuttujien riippumattomuus: 2. esimerkki nopanheitosta Heitetään virheetöntä noppaa kaksi kertaa: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Z = X + Y = silmälukujen summa Tarkastellaan satunnaismuuttujien X ja Z yhteisjakaumaa. Esimerkiksi: 1 5 Pr( X = 1 ja Z = 8) = 0 = Pr( X = 1)Pr( Z = 8) 6 36 Siten satunnaismuuttujat X ja Z eivät ole riippumattomia. TKK (c) Ilkka Mellin (2006) 53

54 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat Kaksiulotteiset todennäköisyysjakaumat Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus >> Kaksiulotteisten jakaumien odotusarvot ja varianssit Kovarianssi ja korrelaatio Ehdolliset jakaumat ja odotusarvot TKK (c) Ilkka Mellin (2006) 54

55 Kaksiulotteisten jakaumien odotusarvot ja varianssit Diskreetin kaksiulotteisen satunnaismuuttujan funktion yleinen odotusarvo Olkoon satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio f XY (x, y). Olkoon g : jatkuva funktio. 2 Tällöin satunnaismuuttujan g(x, Y) odotusarvo on vakio = E( gxy (, )) gxyf (, ) ( xy, ) x y XY TKK (c) Ilkka Mellin (2006) 55

56 Kaksiulotteisten jakaumien odotusarvot ja varianssit Jatkuvan kaksiulotteisen satunnaismuuttujan funktion yleinen odotusarvo Olkoon satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio f XY (x, y). Olkoon g : jatkuva funktio. 2 Tällöin satunnaismuuttujan g(x, Y) odotusarvo on vakio + + E( g( X, Y )) g( x, y) f ( x, y) dydx = XY TKK (c) Ilkka Mellin (2006) 56

57 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien odotusarvot: Diskreetit jakaumat 1/2 Olkoon diskreettien satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio f XY (x, y). Satunnaismuuttujan X odotusarvo E(X) = µ X yhtyy satunnaismuuttujan X reunajakauman odotusarvoon: E( X) = xf ( xy, ) = x f ( xy, ) = XY x y x y x xf X ( x) XY TKK (c) Ilkka Mellin (2006) 57

58 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien odotusarvot: Diskreetit jakaumat 2/2 Olkoon diskreettien satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio f XY (x, y). Satunnaismuuttujan Y odotusarvo E(Y) = µ Y yhtyy satunnaismuuttujan Y reunajakauman odotusarvoon: E( Y) = yf ( xy, ) = y f ( xy, ) = XY x y y x y yf Y ( y) XY TKK (c) Ilkka Mellin (2006) 58

59 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien odotusarvot: Jatkuvat jakaumat 1/2 Olkoon jatkuvien satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio f XY (x, y). Satunnaismuuttujan X odotusarvo E(X) = µ X yhtyy satunnaismuuttujan X reunajakauman odotusarvoon: E( X ) = xf ( x, y) dydx = x f ( x, y) dydx = XY + xf X ( x) dx XY TKK (c) Ilkka Mellin (2006) 59

60 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien odotusarvot: Jatkuvat jakaumat 2/2 Olkoon jatkuvien satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio f XY (x, y). Satunnaismuuttujan Y odotusarvo E(Y) = µ Y yhtyy satunnaismuuttujan Y reunajakauman odotusarvoon: E( Y) = yf ( x, y) dydx = y f ( x, y) dxdy = XY + yf Y ( y) dy XY TKK (c) Ilkka Mellin (2006) 60

61 Kaksiulotteisten jakaumien odotusarvot ja varianssit Odotusarvot ja todennäköisyysmassan painopiste Olkoot satunnaismuuttujien X ja Y odotusarvot E( X) = µ E( Y) = µ X Tällöin kaksiulotteisen satunnaismuuttujan (X, Y) odotusarvo on järjestetty pari (E( X),E( Y )) = ( µ, µ ) X Satunnaismuuttujien X ja Y odotusarvojen muodostama järjestetty pari (µ X, µ Y ) määrää satunnaismuuttujien X ja Y yhteisjakauman todennäköisyysmassan painopisteen. Y Y TKK (c) Ilkka Mellin (2006) 61

62 Kaksiulotteisten jakaumien odotusarvot ja varianssit Summan ja erotuksen odotusarvot Satunnaismuuttujien X ja Y summan X + Y odotusarvo: Satunnaismuuttujien X ja Y erotuksen X Y odotusarvo: Huomautus: E( X + Y) = E( X) + E( Y) E( X Y) = E( X) E( Y) Satunnaismuuttujien summan ja erotuksen odotusarvojen kaavat on esitetty ilman perustelua luvussa Jakaumien tunnusluvut. TKK (c) Ilkka Mellin (2006) 62

63 Kaksiulotteisten jakaumien odotusarvot ja varianssit Summan ja erotuksen odotusarvot: Perustelu 1/2 Esitetään satunnaismuuttujien summan odotusarvoa koskevan tuloksen perustelu kahden jatkuvan satunnaismuuttujan tapauksessa. Olkoot satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio f XY (x, y) ja X:n ja Y:n reunajakaumien tiheysfunktiot vastaavasti f X (x) ja f Y (y) TKK (c) Ilkka Mellin (2006) 63

64 Kaksiulotteisten jakaumien odotusarvot ja varianssit Summan ja erotuksen odotusarvot: Perustelu 2/2 + + Tällöin E( X ± Y ) = ( x ± y) f ( x, y) dydx + + [ (, ) (, )] XY = xf ( x, y) dydx ± yf ( x, y) dydx XY = x f ( x, y) dydx ± y f ( x, y) dxdy = xf ( x) dx ± yf ( y) dy = E( X ) ± E( Y) XY = xf x y ± yf x y dydx XY XY X Y XY XY TKK (c) Ilkka Mellin (2006) 64

65 Kaksiulotteisten jakaumien odotusarvot ja varianssit Lineaarikombinaation odotusarvo Olkoot satunnaismuuttujien X i, i = 1, 2,, k odotusarvot E( X ) = µ, i = 1,2, K, k ja olkoot a i, i = 1, 2,, k vakioita. Tällöin satunnaismuuttujien X i, i = 1, 2,, k lineaarikombinaation Y= ax+ ax + L+ ax odotusarvo on i i k k E( Y) = E( ax+ ax + L+ ax) = a E( X ) + a E( X ) + L+ a E( X ) = aµ + a µ + L+ a µ k k k k k k TKK (c) Ilkka Mellin (2006) 65

66 Kaksiulotteisten jakaumien odotusarvot ja varianssit Riippumattomuus ja tulon odotusarvo Olkoot satunnaismuuttujien X ja Y odotusarvot E( X) = µ X E( Y) = µ Y Jos satunnaismuuttujat X ja Y ovat riippumattomia, niin tulon XY odotusarvo on odotusarvojen tulo: E( XY) = E( X)E( Y) = µ Xµ Y Huomautus: Käänteinen ei päde: Siitä, että E(XY) = E(X)E(Y) ei seuraa, että satunnaismuuttujat X ja Y ovat riippumattomia. TKK (c) Ilkka Mellin (2006) 66

67 Kaksiulotteisten jakaumien odotusarvot ja varianssit Riippumattomuus ja tulon odotusarvo: Perustelu 1/2 Esitetään riippumattomien satunnaismuuttujien tulon odotusarvoa koskevan tuloksen perustelu kahden jatkuvan satunnaismuuttujan tapauksessa. Olkoot satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio f XY (x, y) ja X:n ja Y:n reunajakaumien tiheysfunktiot vastaavasti f X (x) ja f Y (y) Olkoot satunnaismuuttujat X ja Y riippumattomia, jolloin f XY (x, y) = f X (x) f Y (y) TKK (c) Ilkka Mellin (2006) 67

68 Kaksiulotteisten jakaumien odotusarvot ja varianssit Riippumattomuus ja tulon odotusarvo: Perustelu 2/2 Tällöin E( XY ) = xyf ( x, y) dydx = = = XY xyf ( x) f ( y) dydx X xf ( x) yf ( y) dydx X Y Y xf ( x)e( Y ) dx X + = E( Y ) xf ( x) dx X = E( Y)E( X) TKK (c) Ilkka Mellin (2006) 68

69 Kaksiulotteisten jakaumien odotusarvot ja varianssit Riippumattomuus ja tulon odotusarvo: Yleistys Olkoot satunnaismuuttujien X i, i = 1, 2,, k odotusarvot E( X ) = µ, i = 1,2, K, k Jos satunnaismuuttujat X i, i = 1, 2,, k ovat riippumattomia, niin Huomautus: i i E( X X LX ) = E( X ) E( X ) LE( X ) 1 2 k 1 2 = µ µ Lµ 1 2 Käänteinen ei päde: Siitä, että E( X X LX ) = E( X ) E( X ) LE( X ) 1 2 k 1 2 ei seuraa, että satunnaismuuttujat X i, i = 1, 2,, k ovat riippumattomia. k k k TKK (c) Ilkka Mellin (2006) 69

70 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien varianssit Olkoot satunnaismuuttujien X ja Y odotusarvot E( X) = µ X E( Y) = µ Y Satunnaismuuttujien X ja Y varianssit yhtyvät vastaavien reunajakaumien variansseihin: Var( X) = D ( X) = σ 2 2 X = 2 E[( X µ X)] Var( Y) = D ( Y) = σ 2 2 Y = Y 2 E[( µ Y)] TKK (c) Ilkka Mellin (2006) 70

71 Kaksiulotteisten jakaumien odotusarvot ja varianssit Varianssi vaihtelun mittana Satunnaismuuttujan X varianssi Var(X) kuvaa satunnaismuuttujan X todennäköisyysjakauman todennäköisyysmassan vaihtelua satunnaismuuttujan X oman odotusarvon E(X) ympärillä. Satunnaismuuttujan Y varianssi Var(Y) kuvaa satunnaismuuttujan Y todennäköisyysjakauman todennäköisyysmassan vaihtelua satunnaismuuttujan Y oman odotusarvon E(Y) ympärillä. TKK (c) Ilkka Mellin (2006) 71

72 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien varianssit: Diskreetit jakaumat Olkoon diskreettien satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio f XY (x, y) ja vastaavien reunajakaumien pistetodennäköisyyfunktiot f X (x) ja f Y (y). Tällöin satunnaismuuttujien X ja Y varianssit ovat vakioita 2 2 D ( X) = ( x µ ) f ( x) x 2 2 D ( Y) = ( y µ Y) fy( y) jossa y µ = E( X) µ X Y = E( Y) X X TKK (c) Ilkka Mellin (2006) 72

73 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien varianssit: Jatkuvat jakaumat Olkoon jatkuvien satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio f XY (x, y) ja vastaavien reunajakaumien tiheysfunktiot f X (x) ja f Y (y). Tällöin satunnaismuuttujien X ja Y varianssit ovat vakioita jossa µ D ( ) = ( µ X) X( ) X x f x dx D ( ) = ( µ Y) Y( ) µ X Y Y y f y dy = E( X) = E( Y) TKK (c) Ilkka Mellin (2006) 73

74 Kaksiulotteisten jakaumien odotusarvot ja varianssit Varianssien vaihtoehtoiset laskukaavat Satunnaismuuttujien X ja Y varianssien kaavat voidaan kirjoittaa seuraaviin yhtäpitäviin muotoihin: 2 2 D( X) = E[( X µ X)] = E( X ) µ 2 2 X = E( X ) [E( X)] D( Y) = E[( Y µ Y)] = E( Y ) µ 2 2 Y = E( Y ) [E( Y)] 2 2 TKK (c) Ilkka Mellin (2006) 74

75 Kaksiulotteisten jakaumien odotusarvot ja varianssit Varianssien vaihtoehtoiset laskukaavat: Perustelu Esitetään varianssin vaihtoehtoisen laskukaavan perustelu satunnaismuuttujalle X: 2 2 D( X) = E[( X µ X)] = E[ X 2 µ XX µ X] = X µ X + µ 2 2 E( ) E(2 X ) E( X) = E( X ) 2µ E( X) + µ 2 2 X X = E( X ) 2µ µ + µ = E( X ) µ 2 2 X X X 2 2 X TKK (c) Ilkka Mellin (2006) 75

76 Kaksiulotteisten jakaumien odotusarvot ja varianssit Reunajakaumien standardipoikkeamat Olkoot satunnaismuuttujien X ja Y odotusarvot E( X) = µ X E( Y) = µ Y Satunnaismuuttujien X ja Y standardipoikkeamat yhtyvät vastaavien reunajakaumien standardipoikkeamiin: D( X) = σ D ( Y) = σ X = 2 E[( X µ X)] Y = Y 2 E[( µ Y)] TKK (c) Ilkka Mellin (2006) 76

77 Kaksiulotteisten jakaumien odotusarvot ja varianssit Standardipoikkeama vaihtelun mittana Satunnaismuuttujan X standardipoikkeama D(X) kuvaa satunnaismuuttujan X todennäköisyysjakauman todennäköisyysmassan vaihtelua satunnaismuuttujan X oman odotusarvon E(X) ympärillä. Satunnaismuuttujan Y standardipoikkeama D(Y) kuvaa satunnaismuuttujan Y todennäköisyysjakauman todennäköisyysmassan vaihtelua satunnaismuuttujan Y oman odotusarvon E(Y) ympärillä. TKK (c) Ilkka Mellin (2006) 77

78 Kaksiulotteisten jakaumien odotusarvot ja varianssit Odotusarvo, varianssi ja standardipoikkeama: Suureiden dimensio eli laatu Satunnaismuuttujalla sekä sen odotusarvolla ja standardipoikkeamalla on aina sama dimensio eli laatu. Esimerkki: Jos satunnaismuuttujan laatuna on m (metri), niin myös niiden odotusarvon ja standardipoikkeaman laatuna on m. Satunnaismuuttujan ja sen varianssilla ei ole sama dimensio eli laatu. Esimerkki: Jos satunnaismuuttujan laatuna on m (metri), niin sen varianssin laatuna on m 2. TKK (c) Ilkka Mellin (2006) 78

79 Kaksiulotteisten jakaumien odotusarvot ja varianssit Odotusarvot ja standardipoikkeamat: 1. esimerkki nopanheitosta Heitetään virheetöntä noppaa kaksi kertaa: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Tarkastellaan satunnaismuuttujien X ja Y yhteisjakaumaa. Odotusarvot, varianssit ja standardipoikkeamat: E( X) = xpr( X = x) = x= = 3.5 = E( Y) 6 6 x= 1 x= E( X ) = x Pr( X = x) = x = = E( Y ) 6 6 x= 1 x= D ( X) = E( X ) [E( X)] = = = = D ( Y) D( X) = = = D( Y) TKK (c) Ilkka Mellin (2006) 79

80 Kaksiulotteisten jakaumien odotusarvot ja varianssit Odotusarvot ja standardipoikkeamat: 2. esimerkki nopanheitosta 1/2 Heitetään virheetöntä noppaa kaksi kertaa: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Z = X + Y = silmälukujen summa Tarkastellaan satunnaismuuttujien X ja Z yhteisjakaumaa. Odotusarvot ja 2. momentit: 6 21 E( X) = xpr( X = x) = = 3.5 = E( Y) x= E( Z) = zpr( Z = z) = = 7 36 z= E( X ) = x Pr( X = x) = = E( X ) x= E( Z ) = z Pr( Z = z) = z= 1 36 TKK (c) Ilkka Mellin (2006) 80

81 Kaksiulotteisten jakaumien odotusarvot ja varianssit Odotusarvot ja standardipoikkeamat: 2. esimerkki nopanheitosta 2/2 Varianssit ja standardipoikkeamat : D( X) = E( X ) [E( X)] = = 2.917= D( Y) 12 D( X) = = = D( Y) D ( Z) = E( Z ) [E( Z)] = = D( Z) = = TKK (c) Ilkka Mellin (2006) 81

82 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat Kaksiulotteiset todennäköisyysjakaumat Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Kaksiulotteisten jakaumien odotusarvot ja varianssit >> Kovarianssi ja korrelaatio Ehdolliset jakaumat ja odotusarvot TKK (c) Ilkka Mellin (2006) 82

83 Kovarianssi ja korrelaatio Kovarianssi Olkoot satunnaismuuttujien X ja Y odotusarvot E( X) = µ X E( Y) = µ Y Satunnaismuuttujien X ja Y kovarianssi on vakio Cov( XY, ) = E[( X µ X)( Y µ Y)] Satunnaismuuttujien X ja Y kovarianssi Cov(X, Y) = σ XY kuvaa satunnaismuuttujien X ja Y yhteisjakauman todennäköisyysmassan yhteisvaihtelua satunnaismuuttujien X ja Y odotusarvojen E(X) ja E(Y) määräämän pisteen (E(X), E(Y)) ympärillä. TKK (c) Ilkka Mellin (2006) 83

84 Kovarianssi ja korrelaatio Kovarianssi: Diskreetit jakaumat Olkoon diskreettien satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyysfunktio f XY (x, y). Tällöin satunnaismuuttujien X ja Y kovarianssi on vakio jossa Cov( XY, ) = ( x µ )( y µ ) f ( xy, ) µ µ X Y = E( X) = E( Y) x y X Y XY TKK (c) Ilkka Mellin (2006) 84

85 Kovarianssi ja korrelaatio Kovarianssi: Jatkuvat jakaumat Olkoon jatkuvien satunnaismuuttujien X ja Y yhteisjakauman tiheysfunktio f XY (x, y). Tällöin satunnaismuuttujien X ja Y kovarianssi on vakio jossa + + Cov( X, Y ) = ( x µ )( y µ ) f ( x, y) dxdy µ µ X Y = E( X) = E( Y) X Y XY TKK (c) Ilkka Mellin (2006) 85

86 Kovarianssi ja korrelaatio Kovarianssi: Vaihtoehtoinen laskukaava Satunnaismuuttujien X ja Y kovarianssin kaava voidaan kirjoittaa seuraaviin yhtäpitäviin muotoihin: Cov( X, Y) = E[( X µ )( Y µ )] Huomautus: = E( XY ) µ µ = E( XY) E( X)E( Y) X Vrt. kovarianssin vaihtoehtoista laskukaavaa varianssin vaihtoehtoisiin laskukaavoihin. X Y Y TKK (c) Ilkka Mellin (2006) 86

87 Kovarianssi ja korrelaatio Kovarianssin vaihtoehtoinen laskukaava: Perustelu Esitetään satunnaismuuttujien kovarianssin vaihtoehtoisen laskukaavan perustelu: Cov( X, Y) = E[( X µ )( Y µ )] X = E[ XY µ Y µ X + µ µ ] = E( XY) E( µ Y) E( µ X) + E( µ µ ) = E( XY) µ E( Y) µ E( X) + µ µ = E( XY ) µ µ µ µ + µ µ = E( XY ) µ µ Y X Y X Y X Y X Y X Y X Y X Y Y X X Y X Y TKK (c) Ilkka Mellin (2006) 87

88 Kovarianssi ja korrelaatio Kovarianssi ja varianssit Satunnaismuuttujien kovarianssit itsensä kanssa yhtyvät satunnaismuuttujien variansseihin: Cov( X, X) = E[( X µ )( X µ )] = Var( X) = σ 2 X Cov( Y, Y) = E[( Y µ )( Y µ )] = Var( Y) = σ 2 Y Y X Y X TKK (c) Ilkka Mellin (2006) 88

89 Kovarianssi ja korrelaatio Odotusarvot, varianssit ja kovarianssi sekä lineaarimuunnokset 1/2 Olkoot satunnaismuuttujien X ja Y odotusarvot, varianssit ja kovarianssi: Olkoot E( X) = µ Var( X) = σ E( Y) = µ Var( Y) = σ Cov( X, Y) = E[( X µ )( Y µ )] = σ W = a + bx Z = c + dy X Y jossa a, b, c, d Ρovat reaalisia vakioita. 2 X 2 Y X Y XY TKK (c) Ilkka Mellin (2006) 89

90 Kovarianssi ja korrelaatio Odotusarvot, varianssit ja kovarianssi sekä lineaarimuunnokset 2/2 Tällöin pätevät seuraavat kaavat: E( W) = a+ be( X) = a+ bµ Var( W) = b Var( X) = b σ X X E( Z) = c+ de( Y) = c+ dµ Var( Z) = d Var( Y) = d σ Y Y Cov( W, Z) = bd Cov( X, Y ) = bdσ XY TKK (c) Ilkka Mellin (2006) 90

91 Kovarianssi ja korrelaatio Kovarianssi ja lineaarimuunnokset: Perustelu Jos satunnaismuuttujien X ja Y kovarianssi on Cov(X, Y), niin Cov( W, Z) = E[( W E( W))( Z E( Z))] = E[( a + bx E( a + bx ))( c + dy E( c + dy ))] = E[( bx E( bx ))( dy E( dy))] = bde[( X E( X))( Y E( Y))] = bdcov( XY, ) TKK (c) Ilkka Mellin (2006) 91

92 Kovarianssi ja korrelaatio Summan ja erotuksen varianssit Olkoot satunnaismuuttujien X ja Y varianssit 2 2 Var( X) = σ Var( Y) = σ ja kovarianssi X Cov( XY, ) = σ XY Tällöin Var( X± Y) = Var( X) + Var( Y) ± 2Cov( XY, ) = σ + σ ± 2σ 2 2 X Y XY Y TKK (c) Ilkka Mellin (2006) 92

93 Kovarianssi ja korrelaatio Summan ja erotuksen varianssit: Perustelu Summan ja erotuksen varianssia koskevat kaavat nähdään oikeaksi seuraavalla tavalla: Var( X ± Y) = E[ X ± Y E( X ± Y)] = E[ X ± Y E( X) me( Y)] = E[( X E( X)) ± ( Y E( Y))] = E[( X E( X)) + ( Y E( Y)) ± 2( X E( X))( Y E( Y))] = X X + Y Y 2 2 E[( E( )) ] E[( E( )) ] ± 2E[( X E( X))( Y E( Y))] = Var( X) + Var( Y) ± 2Cov( XY, ) TKK (c) Ilkka Mellin (2006) 93

94 Kovarianssi ja korrelaatio Riippumattomuus ja kovarianssi Jos satunnaismuuttujat X ja Y ovat riippumattomia, niin Cov( XY, ) = 0 Huomautus: Käänteinen ei päde: Siitä, että Cov( XY, ) = 0 ei välttämättä seuraa, että satunnaismuuttujat X ja Y olisivat riippumattomia. TKK (c) Ilkka Mellin (2006) 94

95 Kovarianssi ja korrelaatio Riippumattomuus ja kovarianssi: Perustelu Jos satunnaismuuttujat X ja Y ovat riippumattomia, niin Siten E(XY) = E(X)E(Y) Cov( X, Y) = E( XY) E( X)E( Y) = E( X)E( Y) E( X)E( Y) = 0 TKK (c) Ilkka Mellin (2006) 95

96 Kovarianssi ja korrelaatio Riippumattomuus sekä summan ja erotuksen varianssit Olkoot satunnaismuuttujien X ja Y varianssit Olkoot X ja Y ovat riippumattomia, jolloin Tällöin Var( X) = σ Var( Y) = σ Cov( XY, ) = X Y Var( X ± Y) = Var( X) + Var( Y) Huomautus: Riippumattomien satunnaismuuttujien summan ja erotuksen varianssien kaavat on esitetty ilman perustelua luvussa Jakaumien tunnusluvut. TKK (c) Ilkka Mellin (2006) 96

97 Kovarianssi ja korrelaatio Korrelaatiokerroin 1/2 Oletetaan, että satunnaismuuttujilla X ja Y on seuraavat odotusarvot, varianssit ja kovarianssi: E( X) = µ Var( X) = D ( X) = σ X 2 2 X E( Y) = µ Var( Y) = D ( Y) = σ Y 2 2 Y Cov( X, Y) = E[( X µ )( Y µ )] = σ X Y XY TKK (c) Ilkka Mellin (2006) 97

98 Kovarianssi ja korrelaatio Korrelaatiokerroin 2/2 Satunnaismuuttujien X ja Y korrelaatiokerroin on vakio Cor( XY, ) = ρxy Cov( XY, ) = Var( X)Var( Y) Cov( XY, ) = D( X)D( Y) σ XY = σ σ X Y TKK (c) Ilkka Mellin (2006) 98

99 Kovarianssi ja korrelaatio Korrelaatiokerroin lineaarisen riippuvuuden mittana Satunnaismuuttujien X ja Y korrelaatiokerroin Cor(X, Y) mittaa satunnaismuuttujien X ja Y lineaarisen riippuvuuden voimakkuutta: (i) Mitä suurempi on Cor(X, Y) sitä voimakkaampaa on satunnaismuuttujien X ja Y välinen lineaarinen riippuvuus. (ii) Mitä pienempi on Cor(X, Y) sitä heikompaa on satunnaismuuttujien X ja Y välinen lineaarinen riippuvuus. TKK (c) Ilkka Mellin (2006) 99

100 Kovarianssi ja korrelaatio Kovarianssi ja korrelaatio: Suureiden dimensio eli laatu Huomaa, että satunnaismuuttujien korrelaatio on dimensioton eli laaduton suure toisin kuin niiden kovarianssi. TKK (c) Ilkka Mellin (2006) 100

101 Kovarianssi ja korrelaatio Korrelaatiokerroin ja lineaarimuunnokset Olkoon satunnaismuuttujien X ja Y korrelaatiokerroin Cor(X, Y). Olkoot Tällöin W= a + bx Z = c + dy Cor( WZ, ) = sgn( bd)cor( XY, ) jossa sgn on ns. merkkifunktio: + 1, jos x > 0 sgn( x) = 0, jos x= 0 1, jos x < 0 TKK (c) Ilkka Mellin (2006) 101

102 Kovarianssi ja korrelaatio Lineaarimuunnosten korrelaatiokerroin: Perustelu Olkoon satunnaismuuttujien X ja Y korrelaatiokerroin Cor(X, Y). Olkoot Tällöin W = a + bx Z = c + dy Cor( W, Z) = = Cov( W, Z) Var( W) Var( Z) bdcov( XY, ) 2 2 b X d Y = sgn( bd) Var( ) Var( ) Cov( XY, ) Var( X) Var( Y) = sgn( bd) Cor( XY, ) TKK (c) Ilkka Mellin (2006) 102

103 Kovarianssi ja korrelaatio Korrelaatiokerroin: Ominaisuudet Olkoon satunnaismuuttujien X ja Y korrelaatiokerroin Cor(X, Y). Tällöin (i) 1 Cor( XY, ) + 1 (ii) Jos X ja Y ovat riippumattomia, niin Cor( X, Y ) = 0 (iii) Cor( XY, ) =± 1, jos ja vain, jos Y = α + βx, jossa α ja β ovat reaalisia vakiota, β 0 TKK (c) Ilkka Mellin (2006) 103

104 Kovarianssi ja korrelaatio Korrelaatiokerroin: Ominaisuuden (i) perustelu 1/2 Väite: 1 Cor( XY, ) + 1 Perustelu: (1) Olkoot W ja Z satunnaismuuttujia ja olkoon a vakio. (2) W 2 0, Z 2 0 E(W 2 ) 0, E(Z 2 ) 0 (3) (aw Z) 2 0 E(aW Z) 2 0 (4) Kohdasta (3) seuraa, että E(aW Z) 2 = a 2 E(W 2 ) 2aE(WZ) + E(Z 2 ) 0 (5) Valitaan: a E( WZ) = 2 E( W ) TKK (c) Ilkka Mellin (2006) 104

105 Kovarianssi ja korrelaatio Korrelaatiokerroin: Ominaisuuden (i) perustelu 2/2 (6) Siten (7) Väite seuraa epäyhtälöstä ( ), kun valitaan Huomautus: [ E( WZ) ] E( aw Z) = + E( Z ) 0 2 E( W ) josta seuraa, että [ E( WZ) ] E( W )E( Z ) 1 () W = X E(X) ja Z = Y E(Y) ja otetaan saadusta epäyhtälöstä neliöjuuri. Epäyhtälöstä ( ) seuraa eräs ns. Schwarzin epäyhtälön monista muodoista: [E( WZ)] E( W )E( Z ) TKK (c) Ilkka Mellin (2006) 105

106 Kovarianssi ja korrelaatio Korrelaatiokerroin: Ominaisuuden (ii) perustelu Väite: Perustelu: Huomautus: Jos X ja Y ovat riippumattomia, niin Cor(X, Y) = 0 Väite seuraa siitä, että jos X ja Y ovat riippumattomia, niin Cov(X, Y) = 0 Käänteinen ei päde: Siitä, että Cov(X, Y) = Cor(X, Y) = 0 ei välttämättä seuraa, että satunnaismuuttujat X ja Y olisivat riippumattomia. TKK (c) Ilkka Mellin (2006) 106

107 Kovarianssi ja korrelaatio Korrelaatiokerroin: Ominaisuuden (iii) perustelu 1/3 Väite: Perustelu: Cor( X, Y) =± 1 Y = α + βx, α R, β R, β 0 (1) Ominaisuuden (i) perustelussa kohdan (4) epäyhtälön vasen puoli on 2. asteen polynomi muuttujan a suhteen: h(a) = E(aW Z) 2 = a 2 E(W 2 ) 2aE(WZ) + E(Z 2 ) (2) Ominaisuuden (i) perustelun kohdan (3) mukaan h(a) 0 a. (3) h(a) > 0 kaikille a, jos ja vain jos 2. asteen yhtälön h(a) = 0 diskriminantti D = 4[E( WZ)] 4E( W )E( Z ) < 0 Huomautus: Korrelaatiokertoimen ominaisuus (i) seuraa myös kohdan (3) epäyhtälöstä. TKK (c) Ilkka Mellin (2006) 107

108 Kovarianssi ja korrelaatio Korrelaatiokerroin: Ominaisuuden (iii) perustelu 2/3 (4) h(a) = 0 täsmälleen silloin, kun 2. asteen yhtälön h(a) = 0 diskriminantti D = WZ W Z = (5) Siten Cor(X, Y) = ±1 täsmälleen silloin, kun E(aW Z) 2 =0 mikä on yhtäpitävää sen kanssa, että Pr(aW Z = 0) = 1 (6) Siten Z = aw [E( )] 4E( )E( ) 0 todennäköisyydellä 1. (7) Väite seuraa, kun valitaan W = X E(X) ja Z = Y E(Y) ja merkitään β = a ja α = E( Y) ae( X) TKK (c) Ilkka Mellin (2006) 108

109 Kovarianssi ja korrelaatio Korrelaatiokerroin: Ominaisuuden (iii) perustelu 3/3 Väite: Perustelu: Cor( X, Y) =± 1 Y = α + βx, α R, β R, β 0 Koska Y = α + β X, Cor( X, Y) = Cor( X, α + βx) = sgn( β)cor( X, X) = sgn( β) =± 1 jossa sgn( ) on ns. merkkifunktio: + 1, jos x > 0 sgn( x) = 0, jos x = 0 1, jos x < 0 TKK (c) Ilkka Mellin (2006) 109

110 Kovarianssi ja korrelaatio Korrelaatiokerroin: 1. esimerkki nopanheitosta Heitetään virheetöntä noppaa kaksi kertaa: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Tarkastellaan satunnaismuuttujien X ja Y yhteisjakaumaa. Odotusarvot, varianssit ja standardipoikkeamat (laskettu aikaisemmin): E(X) = E(Y) = 21/6 = 3.5 D 2 (X) = D 2 (Y) = 35/12 = D(X) = D(Y) = Koska satunnaismuuttujat X ja Y ovat riippumattomia, niin Cor(X, Y) = Cov(X, Y) = 0 TKK (c) Ilkka Mellin (2006) 110

111 Kovarianssi ja korrelaatio Korrelaatiokerroin: 2. esimerkki nopanheitosta 1/2 Heitetään virheetöntä noppaa kaksi kertaa: X = tulos (silmäluku) 1. heitosta Y = tulos (silmäluku) 2. heitosta Z = X + Y = silmälukujen summa Tarkastellaan satunnaismuuttujien X ja Z yhteisjakaumaa. Odotusarvot, varianssit ja standardipoikkeamat (laskettu aikaisemmin): E(X) = 21/6 = 3.5 E(Z) = 252/36 = 7 D 2 (X) = 35/12 = D 2 (Z) = 210/36 = D(X) = D(Z) = TKK (c) Ilkka Mellin (2006) 111

112 Kovarianssi ja korrelaatio Korrelaatiokerroin: 2. esimerkki nopanheitosta 2/2 Satunnaismuuttujat X ja Z eivät ole riippumattomia. Lasketaan ensin kovarianssi: E( XZ) = xzpr( X = x, Z = z) = 36 x= 1 z= Cov( X, Z) = E( XZ) E( X)E( Z) = = = Korrelaatiokertoimen arvo on: Cov( X, Z) 1 Cor( X, Z) = D( X)D( Z) = 2 = TKK (c) Ilkka Mellin (2006) 112

113 Kovarianssi ja korrelaatio Korreloimattomuus Jos Cov( XY, ) = 0 ja yhtäpitävästi Cor( XY, ) = 0 niin sanomme, että satunnaismuuttujat X ja Y ovat korreloimattomia. Huomautus: Satunnaismuuttujien korreloimattomuudesta ei välttämättä seuraa niiden riippumattomuus. TKK (c) Ilkka Mellin (2006) 113

114 Moniulotteiset satunnaismuuttujat ja todennäköisyysjakaumat Kaksiulotteiset todennäköisyysjakaumat Kaksiulotteisten jakaumien reunajakaumat ja riippumattomuus Kaksiulotteisten jakaumien odotusarvot ja varianssit Kovarianssi ja korrelaatio >> Ehdolliset jakaumat ja odotusarvot TKK (c) Ilkka Mellin (2006) 114

115 Ehdolliset jakaumat ja odotusarvot Ehdollinen todennäköisyys Olkoot A ja B tapahtumia ja Pr(B) 0. Tapahtuman A ehdollinen todennäköisyys tapahtuman B suhteen on Pr( A B) Pr( AB) = Pr( B) Ehdollisen jakauman määritelmä mukailee ehdollisen todennäköisyyden määritelmää. TKK (c) Ilkka Mellin (2006) 115

116 Ehdolliset jakaumat ja odotusarvot Ehdolliset jakaumat Olkoon satunnaismuuttujien X ja Y yhteisjakauman pistetodennäköisyys tai tiheysfunktio f XY (x, y). Olkoot satunnaismuuttujien X ja Y reunajakaumien pistetodennäköisyys tai tiheysfunktiot f X (x) ja f Y (y). Satunnaismuuttujan X ehdollinen jakauma satunnaismuuttujan Y suhteen (ehdolla Y = y) on fxy ( xy, ) fxy( x y) =, jos fy ( y) 0 fy( y) > Satunnaismuuttujan Y ehdollinen jakauma satunnaismuuttujan X suhteen (ehdolla X = x) on fxy ( xy, ) fyx( y x) =, jos fx ( x) 0 f ( x) > X TKK (c) Ilkka Mellin (2006) 116